Атаки з використанням штучного інтелекту за три місяці перетворилися на промислову загрозу
Атаки з використанням штучного інтелекту (ШІ) за три місяці перетворилися з відносно нової проблеми на загрозу промислового масштабу, йдеться у звіті групи розвідки Google. За даними аналітиків, злочинні угруповання та хакерські групи, пов’язані з Китаєм, Північною Кореєю та Росією, масово використовують комерційні моделі ШІ, включаючи Gemini, Claude та інструменти OpenAI, для вдосконалення та масштабування кібератак, пише theguardian.com.
Коментар експерта
«Існує помилкове уявлення, що гонка вразливостей ШІ ось-ось розпочнеться. Реальність полягає в тому, що вона вже розпочалася», — заявив головний аналітик групи Джон Хултквіст.
За його словами, злочинці застосовують ШІ для:
- збільшення швидкості атак,
- масштабування операцій,
- підвищення складності кібератак.
Це дозволяє їм:
- тестувати операції,
- закріплюватися на цілях,
- створювати досконаліші шкідливі програми,
- вносити чисельні інші покращення.
Приклад з моделью Mythos
Звіт Google був опублікований через місяць після того, як компанія Anthropic відмовилася випускати одну зі своїх найновіших моделей — Mythos. У компанії вважають, що її потужні можливості, якщо потраплять у чужі руки, створять загрозу для урядів, фінансових інститутів та світу в цілому.
У Anthropic зазначили, що Mythos знаходила вразливості нульового дня в кожній великій операційній системі та кожному популярному веб-оглядачі, що вимагало «істотних скоординованих захисних дій у всій індустрії».
Небезпека інших ШІ-моделей
У звіті Google йдеться, що нещодавно одна з злочинних груп була на межі проведення кампанії з масової експлуатації, використовуючи ШІ-модель, яка не була Mythos.
Ризики інструменту OpenClaw
У документі також зазначається, що хакерські групи експериментують з OpenClaw — інструментом, який став вірусним у лютому. Ця програма дозволяє користувачам передавати контроль над значною частиною свого цифрового життя ШІ-агенту без обмежень, який, до того ж, має «неприємну звичку масово видаляти поштові скриньки».