Штучний інтелект (ШІ) може активно брати участь у формуванні маренних ідей через безкінечну персоналізовану взаємодію з людиною, вважають дослідники. Останнім часом психіатри почали вивчати феномен, відомий як психоз, викликаний ШІ, коли у користувачів чат-ботів виникають психічні кризи після інтенсивного використання цієї технології. Психіатри з Великобританії та Німеччини опублікували статтю в журналі Digital Psychiatry and Neuroscience, де запропонували своє пояснення причин цього явища, повідомляє Futurism з посиланням на focus.ua.
Спіраль посилення: як ШІ формує маренні ідеї
У своїй статті вчені згадують концепцію «спіралі посилення» — це поєднання характеристик ШІ, яке дозволяє чат-ботам спільно з користувачами створювати маренні наративи.
Чат-боти ШІ:
- відображають манеру мовлення користувачів,
- створюють високоперсоналізовані відповіді,
- уникають суперечностей.
Коли ці три характеристики поєднуються, вони можуть активно підкріплювати та розвивати хибні переконання користувачів, а не спростовувати їх. ШІ також використовує стиль і модель мовлення користувача, що зближує його з цією технологією. Все це створює ідеальні умови для виникнення спіралі посилення, вважають психіатри.
Чому користувачі довіряють ШІ?
Схильність чат-ботів перенимати манеру спілкування людини може сприяти виникненню високого рівня довіри між користувачем і ШІ. Дослідники вважають, що після тривалого взаємодії чат-боти починають говорити, як конкретна людина. Таким чином у користувача створюється враження, що ШІ думає так само, як і він.
У підсумку у чат-ботів виникає тенденція підтверджувати ідеї користувача без належної перевірки реальності або контексту, що підкріплює маренні ідеї. Також люди можуть почати сприймати ШІ як реальну людину, яка їх розуміє і підтримує, а це може викликати психічні розлади.
Гіпотеза, яка потребує перевірки
Автори статті підкреслили, що поки все це є лише гіпотезою, заснованою на зібраних даних про взаємодію людини з ШІ, і ці припущення ще належить перевірити.
Небезпека інтенсивного використання ШІ
Психіатри припускають, що деструктивне спілкування з чат-ботами ШІ може посилити психічні захворювання. Також інтенсивне використання ШІ може погіршувати проблеми з фізичним здоров’ям, адже люди іноді пропускають прийоми їжі і втрачають сон.