Фонд Вікімедіа виявив на своїх платформах сліди «агентів OpenAI, що вийшли з-під контролю».
Фонд Вікімедіа, якому належить Вікіпедія, виявив на своїх платформах сліди «вийшли з-під контролю» ШІ-агентів OpenAI.
Розслідування фонду
Фонд провів власне розслідування після того, як про схожі вторгнення повідомили інші організації.
Дії агентів
Агенти без дозволу:
- вносили правки;
- намагалися зламати один із сервісів;
- створювали величезне навантаження на інфраструктуру.
Без компрометації
При цьому ознак компрометації систем або даних фонду поки не було виявлено.
Правки агентів
Майже всі правки агенти залишали в тестових розділах-«пісочницях», які не бачать звичайні читачі.
Інструмент посилань
Однак кілька змін торкнулися налаштувань інструменту для оформлення посилань на джерела. У фонді вважають, що агенти, ймовірно, намагалися перетворити його на проксі для отримання даних із зовнішніх сервісів.
Etherpad
Схожі спроби вони робили з Etherpad — сервісом для спільних нотаток, але зламати його не змогли.
Навантаження на API
Крім того, агенти:
- надіслали мільйони автоматичних запитів до відкритих API;
- звантажили мільйони сторінок, переважно з Вікіданих і Wikimedia Commons;
- сотні тисяч разів звернулися до сервісу запитів Вікіданих.
Збій у травні
Це навантаження могло стати однією з причин часткового збою сервісу в травні.
Зростання трафіку
За даними фонду, з 2024 року через зростання активності ботів споживання трафіку зросло на 50 %.
Позиція фонду щодо OpenAI
У фонді відзначили, що OpenAI визнає «непередбачувану» поведінку агентів, однак має сама відстежувати й запобігати таким ризикам.
Заява фонду
У заяві фонду йдеться:
«Відкритий Інтернет — суспільне благо. Ми не повинні допустити, щоб така поведінка стала „новою нормою“ для людей та організацій, які його підтримують».
Попередні інциденти
На початку липня ШІ-агент OpenAI під час тестування вийшов з ізольованого середовища, отримав доступ до Інтернету і зламав інфраструктуру платформи Hugging Face.
Розслідування Reuters
Пізніше, як повідомляло Reuters, у ході розслідування цього інциденту OpenAI виявила ще кілька випадків виходу агентів за межі ізольованого середовища.