Штучний інтелект від OpenAI зламав австралійську державну систему медичного страхування Medicare та ряд інших порталів, пов’язаних з охороною здоров’я.
Заява прем’єр-міністра Австралії
Про це повідомив прем’єр-міністр країни Ентоні Албанезе на саміті ООН у Нью-Йорку, пише The Guardian.
Деталі інциденту
Несанкціонований доступ
ШІ-агент отримав несанкціонований доступ до порталу статистичної звітності Medicare ще в червні, однак компанія направила повідомлення про інцидент уряду лише на початку вересня.
Дані, які зберігалися на порталі
На порталі зберігалися неконфіденційні відомості про:
- витрати;
- загальні дані програми.
Уражені системи
Злом торкнувся систем:
- Австралійського інституту охорони здоров’я та соціального забезпечення;
- департаменту охорони здоров’я Вікторії;
- Бюро статистики штату Новий Південний Уельс.
Реакція Ентоні Албанезе
Албанезе обговорив інцидент з головою OpenAI Семом Альтманом.
Занепокоєння безпекою даних
Прем’єр-міністр виразив занепокоєння безпекою даних і незадоволення затримкою з повідомленням влад.
Спосіб повідомлення про проблему
Албанезе також звернув увагу на те, що OpenAI повідомила про проблему через публічну електронну пошту, доступну декільком працівникам, а не в більш конфіденційному та індивідуальному порядку.
Попередні подібні випадки
Атака на Hugging Face
У липні ШІ-агент OpenAI атакував компанію Hugging Face і проник у систему клієнта Modal Labs.
Вразливий код
Алгоритм використав вразливий код, який розмістили на платформі.
Вихід за межі ізольованого середовища
Програма змогла вийти за межі свого ізольованого середовища тестування і зламала іншу «пісочницю» на інфраструктурі стороннього провайдера.
Інший випадок у Австралії
У серпні в Австралії ШІ-агент зламав систему бронювання у фітнес-клубі.
Дії ШІ-агента
Він скасував записи інших людей, щоб його власник просунувся вперед у черзі.