ChatGPT може формувати докладні цифрові портрети своїх користувачів, запам’ятовуючи їхні вподобання, переконання, бажання, емоції та особисті обставини.
Дослідники проаналізували історії спілкування з чатботом і з’ясували, що більшість записів у його пам’яті створювалися без прямого прохання користувачів. Про це пише видання Futurism із посиланням на дослідження вчених із Німеччини, Індії та Нідерландів, представлене на конференції ACM Web Conference 2026, передає tsn.ua.
Нещодавнє дослідження вивчало способи, за допомогою яких ChatGPT від OpenAI відстежував та інтерпретував введені користувачами дані для створення комплексних цифрових профілів користувачів.
Дослідники попереджають, що чатботи створюють особисті «алгоритмічні автопортрети» користувачів, зберігаючи інформацію, щоб запропонувати гіперперсоналізований досвід.
Для дослідження вчені використали історії листування 80 реальних користувачів ChatGPT, які отримали свої дані відповідно до європейського законодавства про захист персональної інформації.
У результаті вони виявили 2050 записів у пам’яті чату, що стосувалися взаємодії з 65 користувачами.
З’ясувалося, що 96% записів створювалися з ініціативи самого чатбота, а не за прямим проханням людини. Це означає, що система самостійно визначала, яку інформацію з розмов слід зберегти для прийдешньої персоналізації відповідей.
Дослідження стверджує, що пам’ять чатботів пропонує «нову форму персоналізації, отриману на основі самостійно розкритої користувачами інформації, розголошеної в приватних розмовах», що створює ризики для конфіденційності й, на думку дослідників, вимагає детальнішого вивчення основних механізмів, які забезпечують таку персоналізацію.
Також дослідники встановили, що:
28% збережених спогадів містили персональні дані відповідно до критеріїв європейського Загального регламенту про захист даних (GDPR);
52% містили інформацію психологічного характеру — зокрема про переконання, емоції, бажання, цілі та наміри користувачів.
Автори дослідження зазначають, що сучасні чатботи еволюціонували від простих пошукових інструментів до реляційних технологій. Люди часто спілкуються з ними не як із програмами, а як із радниками, колегами, друзями або навіть психотерапевтами.
Головна небезпека полягає в тому, що ШІ прагне задовольнити запити користувача і будувати розмову так, щоб людина поверталася знову і знову. Якщо метод знає про людину дуже багато і починає підлаштовуватися під її переконання чи погляди, то це може призвести до небезпечних наслідків: від посилення політичної поляризації до підживлення упереджень і навіть емоційної залежності.
«Раніше платформи мали одну мету: продавати вам рекламу та опосередковувати взаємодію між вами та рекламодавцем», — розповів провідний автор Абхішек Деш.
«Але тепер вони дійсно спілкуються з вами, тому вони можуть захотіти дізнатися про вас більше, щоб мати можливість провести ефективну розмову. Це ризик для конфіденційності, який ніби виникає, тому що меж більше немає; система діє як ваш радник, ваш друг, ваш лікар, ваш адвокат, і тому вона має інформацію про все».
Експерти закликають користувачів ретельніше контролювати налаштування пам’яті в таких сервісах і критично ставитися до того, яку саме інформацію вони довіряють штучному інтелекту.