Американські медики описали випадок зі своєї практики, який наочно демонструє, чим можуть закінчитися консультації з ChatGPT щодо здоров’я. Науковці неодноразово попереджали, що через ризик помилок і неточностей покладатися на рекомендації ChatGPT чи інших ШІ-систем у медичних питаннях може бути небезпечно. Втім, такого роду запити до нейромереж — одні з найпоширеніших. За результатами опитування, у США приблизно кожен шостий дорослий не рідше разу на місяць звертається до генеративних чат-ботів у пошуках медичної інформації та порад. Серед людей до 30 років таких виявилося близько чверті.
У виданні Annals of Internal Medicine: Clinical Cases з’явився звіт про клінічний випадок, що ілюструє, чим можуть обернутися подібні обговорення з нейромережами.
До відділення швидкої допомоги однієї з клінік США звернувся 60-річний місцевий житель зі скаргами на те, що його намагався отруїти сусід. Чоловік відчував сильну спрагу, але при цьому вкрай підозріло поставився до запропонованої йому води. Він зізнався, що вдома п’є лише дистильовану воду та дотримується суворого вегетаріанства. Про вживання будь-яких препаратів або добавок пацієнт спершу не повідомив.
Первинне лабораторне обстеження виявило гіперхлоремію — підвищений вміст хлоридів у сироватці крові (126 ммоль/л при нормі 98–108), однією з причин якої могло бути зневоднення. Також у нього знайшли низький рівень фосфатів та інші відхилення. З огляду на це чоловіка госпіталізували для відновлення запасів рідини та контролю електролітів.
За результатами досліджень і консультацій з токсикологами ймовірною причиною надлишку хлоридів визнали бромізм — хронічне отруєння бромом внаслідок тривалого вживання його солей. Згодом у чоловіка діагностували множинний дефіцит мікроелементів, зокрема вітамінів C, B12 і фолієвої кислоти.
У першу добу у пацієнта з’явилися ознаки наростаючої параної, слухові та зорові галюцинації. Після спроби втечі його примусово госпіталізували до психіатрії, призначили антипсихотичний препарат, а пізніше перевели у психіатричний стаціонар.
Введення рідини та корекція електролітів стабілізували стан, і тоді хворий детальніше розповів про події до госпіталізації. Виявилося, що раніше у нього були й інші симптоми: вугрі на обличчі, гемангіоми, втома, безсоння та легкі порушення координації. Усе це відповідало передбачуваному отруєнню бромом. Також чоловік зізнався, що за три місяці до цього вирішив провести на собі експеримент. Начитавшись про шкоду для здоров’я хлориду натрію (NaCl), тобто кухонної солі, він повністю виключив її з раціону й почав уживати бромід натрію (NaBr).
За словами пацієнта, на це його надихнули нібито наявні знання з дієтології часів навчання в коледжі та порада ChatGPT щодо заміни хлориду натрію. Рекомендовану речовину — білий кристалічний порошок без запаху, з солоним смаком — він придбав в Інтернеті. Не дивно, що після таких експериментів рівень бромідів у його крові зашкалював, досягаючи 1700 мг/л при нормі 0,9–7,3 мг/л.
Оскільки лікарі, які описали випадок, не бачили історію запитів «біохакера» у ChatGPT, точне формулювання його звернення та дослівну відповідь нейромережі встановити не вдалося.
Медики припустили, що пацієнт користувався версією ChatGPT 3.5 або 4.0 і не уточнив, для чого шукає заміну. Річ у тім, що солі брому можуть використовуватися замість хлориду натрію, але не в харчуванні, а в побутовій хімії — мийних засобах і розчинах для обробки басейнів. Лікарі самі спробували поставити подібне запитання нейромережі та справді побачили у відповідях згадку броміду. Хоча чат-бот і попередив про потребу ширшого контексту, він не повідомив про потенційну шкоду для здоров’я та не уточнив, для чого потрібна інформація, як, ймовірно, зробив би медик.
Чоловіка утримували в стаціонарі повні три тижні. Коли його фізичний і психічний стан достатньо покращився, його виписали, попередньо знизивши дозування антипсихотиків, а згодом і повністю їх скасувавши. Під час контрольного огляду через два тижні пацієнт залишався стабільним.