Компанія Google оголосила про додавання функцій психологічної підтримки у свій чат-бот Gemini. Це стало відповіддю на позови, в яких стверджувалося, що інструменти штучного інтелекту сприяли самопошкодженням та самогубствам.
У новій версії чат-бот отримає інтерфейс, який спрямовуватиме користувача на гарячу лінію підтримки, якщо розмова свідчить про «потенційну кризу, пов’язану з самогубством або самопошкодженням», передає rbc.ua з посиланням на bloomberg.com.
Також Google додає спеціальний модуль «Допомога доступна» для тем, що стосуються психічного здоров’я, і змінює дизайн, щоб відвернути від самопошкоджень.
Стрімке поширення таких інструментів, як Gemini та ChatGPT, призвело до того, що деякі користувачі формували нездорову залежність від штучного інтелекту. У крайніх випадках це нібито викликало марення, а іноді — вбивства та самогубства.
Декілька сімей подали до суду на розробників ШІ через це. Конгрес США також вивчав потенційні загрози, які чат-боти становлять для дітей та підлітків.
У березні родина 36-річного чоловіка з Флориди подала позов проти Google, стверджуючи, що його спілкування з Gemini завершилося «чотириденним зануренням у насильницькі місії та підштовхуванням до самогубства».
Тоді Google заявив, що чат-бот багаторазово спрямовував чоловіка на кризову лінію, але пообіцяв покращити захисні механізми.
Google також оголосив, що протягом наступних трьох років пожертвує 30 мільйонів доларів глобальним службам кризової підтримки. Крім того, компанія навчила Gemini «не погоджуватися з хибними переконаннями та не посилювати їх, а замість цього м’яко відрізняти суб’єктивний досвід від об’єктивних фактів».