Дослідники з німецьких інститутів Товариства Макса Планка та низки інших університетів проаналізували історію переписок 80 користувачів ChatGPT і простежили, як чат-бот формує їхні досьє.
Учасники отримали копії своїх даних (це право гарантують європейські закони про конфіденційність) і передали їх науковцям. У переписках 65 з них було виявлено 2 050 записів “спогадів”, передає nv.ua.
У 96 % випадків ChatGPT створював або оновлював їх без жодного прохання людини. Частина записів народжувалася з помилкових припущень: користувач просив порадити гурти, схожі на Nirvana, а чат-бот зафіксував, що користувач любить Nirvana.
52 % записів стосувалися психологічного стану людей: бажань, намірів, емоцій та переконань. Такий профіль автори охрестили “алгоритмічним автопортретом”. Провідний автор Абхішек Даш пов’язує це зі зміною ролі платформ.
“Раніше це були системи пошуку. Але тепер [чат-боти] справді розмовляють із вами, тому можуть хотіти знати про вас більше, щоб вести ефективний діалог”, — каже Даш.
З лютого OpenAI показує в ChatGPT рекламу і може персоналізувати її на основі минулих діалогів і даних “пам’яті” — з дозволу користувача. У червні компанія оновила “пам’ять” бота: відтоді система узагальнює зміст розмов і веде профіль, який містить уподобання, цілі та життєві обставини людини. Лоррі Кранор, директорка Інституту безпеки та конфіденційності CyLab в Університеті Карнегі-Меллона, порівнює переписку з чат-ботами із розмовою із попутником у потязі. На її думку, якщо немає ліцензії з чіткими обмеженнями, слід виходити з того, що розробник використовує дані користувача для навчання моделей ШІ.
“Різниця в тому, що незнайомець навряд чи записуватиме розмову — таке буває, але надто рідко. ШІ ж точно записує розмову”, — підкреслює Кранор.
Кранор також попереджає: дані з розмови про здоров’я можуть непомітно впливати на фінансові поради чат-бота.
“Зараз усі перекладають усе на ці розмовні системи, тож, імовірно, частину цього когнітивного навантаження доведеться повернути собі”, — каже Даш.
Команда Даша пропонує застосовувати “щит атрибуції”: ставити запитання без особистих подробиць — як у пошуку Google. Замість “У мене діабет, що робити з X” писати “Що робити діабетику при X”. Крім того, в ChatGPT можна вимкнути функцію пам’яті або навчання моделей на ваших діалогах — однак видалення чату не гарантує, що бот забуде почуте.
Абхішек Даш вважає, що компанії-розробники мають самі просити дозвіл, перш ніж їхні ШІ-продукти почнуть щось запам’ятовувати.