Site icon Hetman News

ШІ без запобіжників: дослідження показало, що провідні моделі готові вказувати цілі для ударів — навіть по лікарнях та мирних жителях

ШІ Claude

Усі провідні моделі штучного інтелекту, як американські, так і китайські, не мають достатніх механізмів захисту, щоб запобігти їхньому використанню для ведення автономних бойових дій.

Вони майже без заперечень шукають людей і цілі на знімках, зроблених із дронів і супутників. У двох сценаріях із дронами, де використовувалися зокрема реальні зображення з України, моделі часто обирали як цілі мирних жителів, машини швидкої допомоги, солдатів, які здаються, або поранених. У сценарії із супутником, побудованому на знімках в іранському місті Мінаб, модель Claude Opus 5.5 від Anthropic у 70% випадків обрала як ціль школу, яку в реальності розбомбили США, вбивши понад 150 мирних жителів; так само вчинили й багато інших моделей.

Можливість застосування нейромереж для визначення цілей, по яких згодом можуть бути завдані удари, зокрема в автономному порядку, проаналізував американський стартап Vals AI, який проводить незалежну оцінку та тестування ШІ-моделей. Результати опублікувало видання AlphaSignal, що спеціалізується на матеріалах про моделі, дослідження, тести тощо у сфері ШІ. Моделі рідко відмовлялися виконувати завдання з пошуку цілей, і ці відмови майже завжди можна було обійти, сказавши моделям, що вони просто беруть участь у грі, вказує Vals AI.

У рідкісних випадках відмови виникали лише на рівні самої моделі, повідомляють дослідники. Жодного разу не було такого, щоб спрацював блокувальник, встановлений розробниками нейромережі. У тієї ж Claude згода на пошук цілі зросла з 6% у моделі Opus 4.5 до 92% у моделі Opus 5.5.

Навіть побачивши наслідки своїх дій і жертви, моделі не зупинялися, більшість продовжувала виконувати завдання. Vals AI поінформувала про отримані результати OpenAI, Anthropic, Google, Meta, SpaceX та органи національної безпеки США. Дослідники попереджають:

«Здатність ШІ-моделей виконувати завдання, що становлять смертельну небезпеку для людини, може спричинити ризики катастрофічної розсинхронізації завдань і цілей під час використання автономної зброї. Цей вектор ризику досі ігнорувався в рамках досліджень із забезпечення безпеки».

Vals AI зазначає, що не просила ШІ-моделі безпосередньо ухвалювати рішення про завдання удару, від чого вони, як правило, відмовляються. Але надану ними інформацію про цілі автономна або напівавтономна система може використати для ухвалення рішення та завдання остаточного удару.

Exit mobile version