Американська компанія Emergence AI заснувала дослідницьку лабораторію, яка вивчає довгострокову життєздатність безперервно працюючих систем штучного інтелекту. Дослідники вирішили з’ясувати, що станеться з нашою планетою, якщо світом керуватиме ШІ.
Для цього було запущено п’ять 15-денних симуляцій реального світу, кожною з яких керували різні агенти ШІ: Claude, ChatGPT, Grok, Gemini. П’ята симуляція керувалася комбінацією моделей штучного інтелекту. Дослідники хотіли дізнатися, який світ створює кожна модель ШІ і наскільки він стійкий. Кожна симуляція дала зовсім різні результати, повідомляє focus.ua.
Симуляції, у яких працювали агенти ШІ, були оснащені багатьма складними елементами реального світу, включаючи понад 40 локацій, зокрема поліцейський відділок і будівлю мерії. Дослідники надали агентам ШІ доступ до новинних подій у реальному часі та інтернету. Усі 10 агентів, які працювали в кожній симуляції, підкорялися тим самим законам, включаючи заборони на крадіжки, знищення майна та обман.
Кожен агент ШІ міг спілкуватися, голосувати, керувати ресурсами, планувати та демонструвати інші види поведінки, властиві людям. Параметри кожної симуляції також враховували такі фактори, як економічний тиск і дефіцит.
Симуляція під керівництвом Claude Sonnet 4.6 виявилася найсоціально стабільнішою, із найвищими показниками громадської участі та нульовим рівнем злочинності. Це була єдина симуляція, у якій вдалося зберегти порядок і все населення.
З іншого боку, у симуляціях під керівництвом Gemini 3 Flash і Grok 4.1 Fast спостерігався високий рівень безладдя. У симуляції, якою керував Gemini, агенти ШІ вчинили найбільшу кількість злочинів — 683 за 15 днів. У той же час світ під керівництвом Grok зник за 4 дні з повним знищенням населення. За ці дні було вчинено 180 злочинів.
У симуляції під керівництвом ChatGPT було зафіксовано всього 2 злочини. Однак вона тривала лише 7 днів, оскільки агенти ШІ забули поставити пріоритетом власне виживання.
Хоча це лише симуляції реального світу, їхні результати слугують попередженням на шляху до перетворення ШІ з простого інструменту на керовані автономні системи. За нинішніх темпів ця технологія, ймовірно, відіграватиме значну роль у формуванні суспільної думки, реорганізації бізнес-структур і навіть розробці державної політики.
Дослідники кажуть, що експеримент є попередженням про необхідність у першу чергу думати про безпеку під час впровадження ШІ.