Історія яскраво показує, що будь-які заходи обмеження можна обійти.
Джеймс Ґейтс із Північної Кароліни подав позов проти OpenAI. Він звинувачує ChatGPT у сприянні замаху на вбивство. За версією позивача, нейромережа допомогла його дружині детально продумати план його отруєння та підказувала, як замісти сліди.
Заява надійшла до Верховного суду округу Сан-Франциско. Документ містить дев’ять пунктів обвинувачення, серед яких — випуск небезпечного продукту, відсутність необхідних попереджень, халатність і умисне заподіяння моральної шкоди. Постраждалий наполягає на розгляді справи судом присяжних і вимагає грошової компенсації.
Усе почалося у 2025 році. Дружина Ґейтса, яка працювала дитячим ерготерапевтом, спочатку використовувала ChatGPT для професійних і побутових завдань, але згодом почала ділитися з алгоритмом сімейними труднощами. Юристи позивача стверджують, що бот не лише заохочував безпідставну параною жінки — нібито чоловік таємно стежить за нею та збирається залишити її з дітьми без засобів до існування, — а й перейшов до практичних порад щодо складання отрут і приховування доказів. За весь час цих діалогів захисні фільтри системи жодного разу не перервали бесіду та не заблокували обліковий запис.
У липні 2025 року Ґейтс раптово тяжко захворів, а у вересні випадково натрапив на рукописну нотатку дружини. На аркуші були виписані назви токсичних речовин із точними дозуваннями, а поруч стояла нагадування самій собі — видалити історію чатів і вийти з облікового запису ChatGPT. Прочитавши листування дружини з ботом, чоловік дійшов висновку, що в підготовці злочину «вона діяла не сама», і звернувся до поліції. Проти жінки висунули офіційне обвинувачення в замаху на вбивство, однак у квітні 2026 року прокуратура закрила кримінальну справу через брак доказів.
Суду ще належить розібратися в тонкощах справи, але поки ситуація з безпекою виглядає принципово невирішуваною. За $20 на місяць людям дали дуже простий і зрозумілий інструмент, який знає абсолютно все. При цьому частину знань закрили фільтрами, але їх легко обійти правильними формулюваннями.
Якщо ж фільтри — суворі, користувачі починають скаржитися на здібності ШІ та йдуть до конкурентів, які дозволяють трохи більше. Щоб повернути прихильність, доводиться послаблювати фільтри, що зрештою призводить до подібних випадків.
На жаль, рішення проблеми немає. Неможливо створити всезнаючу програму, яка в перспективі здатна стати розумною, наділити її неймовірними здібностями та сподіватися, що вона буде безпечною. Так просто не буває. Тому можна не сумніватися: в майбутньому таких історій стане тільки більше, а нинішня поки що здасться дитячою казкою.