Google виявила перший випадок використання ШІ для створення експлойту вразливості «нульового дня»
Google Threat Intelligence Group (GTIG) вперше виявила випадок, коли злочинці використали експлойт вразливості «нульового дня», який, за оцінкою компанії, був розроблений за допомогою штучного інтелекту (ШІ). За даними Google, кіберзлочинці планували використати цей експлойт для масової атаки, однак компанія виявила загрозу заздалегідь і, за даними GTIG, запобігла його застосуванню.
Деталі вразливості
Мова йшла про вразливість, яка дозволяла обходити двофакторну аутентифікацію в популярному open-source інструменті для веб-адміністрування. Для експлуатації злочинцю все одно були потрібні дійсні облікові дані користувача.
Характеристики вразливості
Google зазначає, що проблема була пов’язана не з типовими помилками, такими як пошкодження пам’яті або неправильна обробка даних, а з логічною помилкою в коді. У компанії вважають, що сучасні моделі ШІ особливо добре допомагають знаходити саме такі вразливості.
Використання ШІ для створення експлойту
Google уточнила, що не вважає, що для створення експлойту використовувався Gemini. Однак структура та зміст коду, за оцінкою GTIG, вказують на виоку ймовірність використання іншої моделі ШІ.
«Наприклад, скрипт містить велику кількість навчальних docstring-коментарів, включаючи вигадану оцінку CVSS, а також використовує структурований «підручниковий» стиль коду на Python, характерний для навчальних даних LLM-моделей», — зазначили в компанії.
Дії Google
Компанія повідомила, що передала інформацію розробникам ураженого продукту і допомогла запобігти підготовці атаки.