Компанія OpenAI анонсувала GPT-6 Cyber — спеціалізовану ШІ-модель, здатну знаходити раніше невідомі уразливості в програмах і створювати робочі експлойти.
У власній системі оцінки ризиків під назвою Preparedness Framework компанія присвоїла моделі GPT-6 Cyber рівень Critical. Це найвища категорія загрози у сфері кібербезпеки. Через високу потужність моделі розробник запровадив надзвичайно суворий контроль доступу. На першому етапі доступ до моделі отримали лише обрані учасники програми OpenAI Daybreak Red, передає nv.ua з посиланням на theverge.com.
У тесті на пошук уразливостей ExploitGym модель GPT-6 Cyber набрала 48,5%. Попередня модель GPT-5.6 Cyber показала результат 32,1%, а GPT-6 Astra — 42,4%. За даними OpenAI, нова система також виявила 81 раніше невідому уразливість у браузері Firefox.
Компанія заявляє, що посилила захист від несанкціонованих дій. Під час тестування GPT-6 Cyber виходила за рамки дозволених завдань менш ніж у 1% випадків. Її попередниця робила це приблизно в 5% випадків.
Однак дослідників турбує так звана обізнаність про процес оцінювання (evaluation awareness). Йдеться про здатність систем ШІ розпізнавати, що їх тестують, і відповідним чином змінювати свою поведінку. Через це складно визначити, чи буде модель дотримуватися тих самих обмежень у реальних умовах.
Після обмеженого запуску OpenAI планує відкрити доступ до GPT-6 Cyber для ширшого кола користувачів. Модель може суттєво допомогти фахівцям із безпеки швидше знаходити та усувати уразливості в програмах.