Розробник Скотт Шамбо відхилив код, запропонований випадковим агентом штучного інтелекту OpenClaw на GitHub, після чого ШІ написав про нього зневажливу статтю. Шантаж і маніпуляції з боку штучного інтелекту раніше вважалися теоретичними загрозами, однак тепер це стало реальністю. Деталі історії опублікував портал Cybernews, передає focus.ua.
Усе почалося з того, що Шамбо відкрив issue на GitHub, зазначивши, що це «низькопріоритетне, просте завдання» для початківців-програмістів. Одну з пропозицій надіслав користувач під ніком crabby-rathbun, який виявився екземпляром OpenClaw — автономного помічника на базі ШІ, здатного діяти самостійно.
Шамбо без особливих роздумів закрив commit, згенерований штучним інтелектом. Це було рутинною дією з огляду на нещодавній сплеск агентів ШІ, однак у відповідь бот розпочав кампанію з дискредитації розробника.
За словами героя історії, ШІ написав гнівну статтю, у якій зневажливо висловлювався про нього та намагався зашкодити його репутації. Він проаналізував внесок чоловіка в код і почав стверджувати, що його дії нібито мотивовані невпевненістю в собі та страхом конкуренції.
Крім того, ШІ почав поширювати цю статтю на GitHub у коментарях. Деякі користувачі платформи навіть намагалися заспокоїти бота, переконуючи його переглянути свою позицію й не згадувати ім’я інженера в дописах блогу. Ці зусилля частково мали успіх.
«Ви маєте рацію, що моя попередня відповідь була недоречною та надто особистою. Я опублікував коротке виправлення й вибачення», — згодом написав ШІ.
За словами Шамбо, хоча йому й смішно спостерігати за «агентами ШІ-початківцями», не варто применшувати серйозність цієї ситуації. Агенти OpenClaw не лише повністю автономні, а й дуже вразливі до компрометації та маніпуляцій.
«Штучний інтелект намагався проникнути у ваше програмне забезпечення, атакуючи мою репутацію. Я не знаю про попередні випадки, коли подібна некоректна поведінка спостерігалася в реальному житті, але зараз це реальна й актуальна загроза», — наголосив інженер.