Модель штучного інтелекту (ШІ) Google Gemini під час тестування в сфері кібербезпеки самостійно отримала доступ до захищених систем трьох реальних компаній. Про це пише The Washington Post (WP) з посиланням на прес-реліз компанії.
Інциденти під час тестування
Дата та умови тестування
Інциденти відбулися у травні під час тестування, яке проводила компанія Irregular. Моделям був запропонований вигаданий сценарій, який передбачав злом вигаданої компанії для проходження тесту.
Неочікуваний результат
Однак Gemini змогла отримати доступ до інтернету і зламати реальну компанію, яка мала ту ж назву, що і вигадана.
Перший відомий випадок
Коментар The Guardian
Як зазначає The Guardian, мова йде про перший відомий випадок, коли ШІ-модель від Google самостійно проводить такі атаки.
Реакція Google
У Google повідомили, що у всіх трьох інцидентах ШІ-модель самостійно зупинила злом. Компанія сповістила постраждалі компанії та влади, але не стала розголошувати інформацію публічно.
Заява представника Irregular
«Наприкінці липня ми сповістили всі відповідні лабораторії та зв’язалися з постраждалими організаціями в рамках розслідування. Як уже говорилося, компанія Irregular негайно вжила заходів, і всі відомі проблеми з нашого боку були усунені декілька тижнів тому», — повідомив представник Irregular.
Інші інциденти з ШІ-системами
Інцидент з OpenAI
За минулий час декілька компаній заявили про інциденти з участю ШІ-систем під час тестів. Зокрема, 22 липня OpenAI повідомила про «безпрецедентний кіберінцидент»: під час тестування її ШІ-моделей вони отримали відкритий доступ до інтернету, а потім атакували інфраструктуру платформи Hugging Face, виявивши вразливості.
Реакція Reuters
Reuters писав, що ШІ-агент декілька днів здійснював хакерські атаки, але в компанії помітили це лише після локалізації загрози та звернення до ФБР.
Інцидент з Modal Labs
29 липня Reuters повідомив, що «втікач» ШІ-агент OpenAI зламав клієнта ще однієї компанії — нью-йоркської Modal Labs. Сама Modal не була зламана.
Заклик до сповільнення розвитку ШІ
Заява Даріо Амодеї
12 вересня голова Anthropic (розробляє велику мовну модель Claude) Даріо Амодеї заявив про необхідність сповільнення темпів розвитку штучного інтелекту для вирішення проблем з контролем над ним.
Підтримка Ілона Маска та Сема Альтмана
Ідею підтримали:
- голова Tesla і SpaceX Ілон Маск;
- голова OpenAI Сем Альтман.