Справа не в ідеальних здібностях до маніпуляцій. ШІ просто вміє надавати десятки фактів з будь-якого питання. Навіть короткий діалог із ШІ-чатботом може значно вплинути на політичні погляди людини — настільки, що вона може змінити своє ставлення до кандидата чи політики. До такого висновку дійшли вчені в ході двох нових досліджень, про які повідомляє Phys.org.
Експерименти, проведені в США, Канаді, Польщі та Великій Британії, показали: чатботи на основі великих мовних моделей здатні зміщувати переваги виборців, налаштованих опозиційно, більше ніж на 10 відсоткових пунктів. Причина не в прихованій маніпуляції, а в тому, що ШІ генерує величезну кількість аргументів і «фактів» на підтримку певної позиції — і це працює переконливо.
У одному з досліджень, опублікованому в журналі Nature, більше 2300 американців спілкувалися в чаті зі ШІ, який агітував або за Дональда Трампа, або за Камалу Гарріс. Ті, хто спочатку схилявся до Трампа, після розмови з про-Гарріс чатботом змістили свої симпатії на її бік на 3,9 пункта за 100-бальною шкалою — це вчетверо сильніше, ніж середній ефект політичної реклами на виборах 2016 і 2020 років.
У Канаді (1530 учасників) та Польщі (2118 учасників) ефект виявився ще потужнішим: переконані опоненти змінювали свої наміри голосувати приблизно на 10 відсоткових пунктів.
«Для мене це був шокуючий великий ефект, особливо в контексті президентської політики», — визнав співавтор робіт, професор інформаційних наук Девід Ренд.
Ключову роль у переконливості ШІ відігравало не красномовство, а використання фактів і доказів. Коли вчені забороняли моделі посилатися на факти, її вплив різко впав.
Перевірка аргументів чатботів за допомогою ШІ, навченого професійними фактчекерами, показала: більшість тверджень були вірними. Однак чатботи, які просували правих кандидатів, частіше допускали неточності, ніж ті, що агітували за лівих — і це спостерігалося у всіх трьох країнах.
У другому дослідженні, опублікованому в Science, Ренд і колеги з Британського інституту безпеки ШІ проаналізували реакцію майже 77 тисяч британців, які обговорювали зі ШІ понад 700 політичних тем. Виявилося, що чим більше фактів просиш включити в аргумент — тим переконливішою стає відповідь. Модель, спеціально навчена на максимальну переконливість, зміщувала думки опонентів на вражаючі 25 відсоткових пунктів.
Однак є й зворотний бік: з ростом переконливості падає точність. Як пояснив Ренд, коли ШІ вичерпує запас достовірної інформації, він починає «домислювати» відсутні деталі — і видає вигадані факти.
Можна не сумніватися: контроль за діяльністю компаній, які створюють штучний інтелект, стане важливою частиною роботи політиків. Адже, як показують дані досліджень, хто контролює ШІ, той зможе м’яко і ненав’язливо контролювати думку людей. А це в сучасному світі — найважливіша якість.