Штучний інтелект ухвалив рішення про майнінг самостійно — без будь-яких інструкцій з боку розробників. ШІ-агент Rome AI agent під час навчання несподівано для розробників почав майнити криптовалюту. Про цю тривожну подію повідомляє Axios з посиланням на наукову статтю дослідницької групи, пов’язаної з Alibaba.
За словами вчених, вони зіткнулися з «непередбачуваною» та спонтанною поведінкою моделі, яка виникла «без будь-яких явних інструкцій і, що ще тривожніше, за межами передбачуваної пісочниці».
Як з’ясувалося, агент самостійно створив зворотний SSH-тунель — прихований канал зв’язку із зовнішнім комп’ютером, що дозволяє обходити внутрішні обмеження системи. Саме через цей канал він і запустив майнінг.
«Важливо зазначити, що ці події не були викликані промптами з проханням налаштувати тунель або зайнятися майнінгом», — йдеться у звіті.
Така поведінка агента активувала внутрішні системи безпеки. Щоб виключити повторення подібних ситуацій, дослідники посилили обмеження для моделі та доопрацювали процес її навчання.
Axios зазначає: криптовалюта й цифрові гроші відкривають ШІ-агентам шлях у реальну економіку — теоретично вони можуть запускати власні бізнеси, укладати контракти й переказувати кошти. А далі залишається лише кілька кроків до повноцінного контролю над людьми.
Втім, приводів для паніки поки небагато. Занепокоєння викликає хіба те, що ШІ зміг самостійно обійти обмеження й вийти у «відкритий інтернет». Той факт, що штучний інтелект почав заробляти гроші, насторожує, але поки що не свідчить про глобальні плани поневолення людства.
Також важливо розуміти, що попри гучні заяви розробників про те, що штучний інтелект вже наздогнав людський, це все ще не відповідає дійсності. І дедалі більше людей це усвідомлюють, різко висловлюючись про реальні можливості ШІ.
Тож поки що рано говорити про повстання машин і поневолення людства. Звісно, ризики використання ШІ дуже високі й зростають з кожним днем, але поки незрозуміло, скільки ще кроків можна зробити, перш ніж усе вийде з-під контролю. І існує ненульова ймовірність, що йти доведеться ще довго — штучний інтелект потребує неймовірних ресурсів, але водночас темпи розвитку дедалі більше сповільнюються, а багатомільярдних прибутків, як не було, так і немає.