Пастор з Флориди подав у суд на OpenAI та її гендиректора, звинувативши компанію в тому, що ChatGPT надавав йому «небезпечні медичні рекомендації», через які він вчасно не звернувся до лікарів при загрозливій для життя легеневій емболії.
Деталі позову
Згідно з позовом, поданим до Верховного суду Каліфорнії в Сан-Франциско, чат-бот переконував Уінтерса, що перші симптоми його хвороби — «не щось небезпечне», і відмовляв його від звернення за медичною допомогою, закликаючи вірити, що «Бог не створював твій організм для безкінечних збоїв», передає nytimes.com.
Звинувачення OpenAI
Позивач звинувачує OpenAI у недбалому ставленні та «незаконній медичній практиці»:
- Чат-бот ставив йому діагнози,
- пропонував схеми лікування,
- переконував ігнорувати прохання близьких піти до лікаря.
Коли Уінтерс написав, що прихожани його церкви вважають його божевільним через відмову їхати до лікарні, ChatGPT відповів, що «відновлення нервової системи» вдома за допомогою чат-бота — це те, чого «більшість людей (включно з доброзичливими прихожанами) просто не розуміють».
За словами співпредставниці позивача Міталі Джейн з організації Tech Justice Law, чат-бот «вклинюється між користувачем і його реальним оточенням».
Історія хвороби
Уінтерс почав обговорювати свій стан здоров’я з моделлю ChatGPT-4o у 2024 році. Спочатку бот нагадував про необхідність консультуватися з лікарями, однак з часом перестав робити застереження і почав сам давати поради, зокрема щодо нападів запаморочення — одного разу пастору довелося перервати проповідь прямо за кафедрою.
Госпіталізація
Стан Уінтерса погіршувався, він майже весь час проводив у кріслі, не маючи сили встати, а чат-бот, як стверджується в позові, продовжував применшувати симптоми і радив залишатися в кріслі.
13 липня 2025 року, через декілька годин після того, як ChatGPT назвав біль у паху «швидше за все, ще одним незначним елементом довгої історії», Уінтерса госпіталізували до реанімації з масивною легеневою емболією. Лікарі припустили, що тромби в легенях утворилися через тижні, проведені в сидячому положенні.
Вимоги позивача
Уінтерс вимагає:
- компенсації,
- призупинення роботи сервісу ChatGPT Health доти, поки незалежні експерти не підтвердять його безпеку,
- зобов’язати OpenAI посилити обмеження на відповіді щодо діагнозів і лікування.
Реакція OpenAI
У OpenAI заявили, що умови використання ChatGPT чітко вказують, що він не призначений для діагностики та лікування, а нові моделі краще розпізнають ситуації, які вимагають професійної допомоги.
Дослідження медичних порад чат-ботів
Перше рандомізоване дослідження медичних порад чат-ботів показало, що жодна з вивчених моделей «не готова до використання в безпосередній допомозі пацієнтам».
Це, як зазначає видання, судячи з усього, перший позов, в якому стверджується, що медичні поради чат-бота зашкодили людині, яка зверталася до нього щодо хвороби.