Експерти побоюються, що треті особи можуть скористатися можливістю зміни інформації, яку надає штучний інтелект, щоб маніпулювати пошуковими запитами. Американські політики почали шукати способи змінити думку чат-ботів про себе, пише The New York Times (NYT) з посиланням на політиків і експертів.
Приклад з практики
Видання наводить приклад Дастіна Ллойда — кандидата від Демократичної партії на праймеріз у законодавчі збори штату Міссурі. Раніше, якщо виборці ставили запитання про Ллойда чат-ботам ChatGPT від OpenAI або Gemini від Google, вони отримували лише базову інформацію, яка не відображала його політичних цілей.
Політик ухвалив рішення «підкорегувати своє присутність в інтернеті», опублікувавши на своєму сайті розділ запитань і відповідей про себе. Пізніше, коли чат-боту ставили запитання про Ллойда, він надавав цю інформацію. Політик зізнався, що тепер користується цим інструментом щодня.
Нова галузь: оптимізація алгоритмів відповідей (AEO)
NYT зазначає, що кандидати завжди переймалися своєю репутацією серед виборців. Тепер вони також змушені турбуватися про те, що про них думає штучний інтелект. Для цього навіть була створена окрема галузь — оптимізація алгоритмів відповідей (Answer Engine Optimization, AEO).
Інструменти AEO зазвичай обмежуються переписуванням контенту на сайті кандидата або внесенням змін до «Вікіпедії». Однак, на думку експертів, кандидати з хорошим фінансуванням можуть спробувати опублікувати більше інформації про себе в мережі, і ця інформація буде повторюватися чат-ботами.
Ризик поширення фейків
Водночас політики турбуються можливістю поширення фейків про них, які чат-боти сприйматимуть як достовірні. Дослідники британського аналітичного центру Demos з’ясували, що багато ШІ вигадують кандидатів, фабрикують звинувачення в кумівстві або видумують фінансові скандали. Деякі чат-боти стверджували, що чинний депутат лише балотується, а інші неправильно викладали позиції кандидатів.
Зростання популярності чат-ботів серед виборців
Незважаючи на це, виборці все частіше звертаються за цікавими їх політичними питаннями до чат-ботів. За даними компанії Caucus AI, принаймні 16 мільйонів виборців отримали інформацію про вибори від ШІ.
Ризик маніпуляції пошуковими запитами
У разі, якщо кандидати зможуть систематично «підштовхувати» чат-ботів до надання потрібних їм відповідей, експерти побоюються, що треті особи також можуть спробувати маніпулювати пошуковими запитами.
«Суб’єкти, які поширюють дезінформацію, за визначенням є першопрохідцями — вони використовуватимуть усі доступні їм методи та технології», — заявив Тім Чемберс з консалтингової компанії Dewey Square Group.