ШІ надавав рекомендації, які можуть погіршити перебіг хвороб. Відповіді нейромережі AI Overviews від Google на медичну тематику суперечать реальним порадам лікарів і є небезпечними для людей. Про це пише The Guardian.
AI Overviews генерує розгорнуті текстові відповіді в пошуковій системі на основі синтезу даних із кількох вебджерел. Таким чином, під час запиту в Google ці виклади з’являються у верхній частині сторінки та позбавляють користувачів необхідності шукати інформацію на сайтах.
За словами експертів медичної сфери, які взяли участь у розслідуванні The Guardian, відповіді ШІ містять неточну інформацію про здоров’я та наражають людей на ризик. Зокрема, Google помилково рекомендував людям із раком підшлункової залози уникати продуктів із високим вмістом жирів — це повна протилежність тому, що радять лікарі.
Є й інший приклад. Нейромережа надала хибну інформацію про найважливіші аналізи для оцінки функції печінки, через що люди із серйозними захворюваннями цього органа могли помилково вважати себе здоровими. Пошукові запити Google, пов’язані з діагностикою раку в жінок, також видавали неправильну інформацію, яка могла призвести до того, що пацієнтки не звернуть уваги на реальні симптоми або вирішать не звертатися до лікаря.
Представник Google пояснив ситуацію тим, що ШІ посилається на авторитетні відкриті джерела, а самі виклади насправді значно більші за обсягом — на скриншотах було наведено лише частину відповідей. Медичні експерти наголосили, що інформація, вирвана з контексту, може зашкодити здоров’ю користувачів і в окремих випадках підвищити ризик летального наслідку. Крім того, нейромережа узагальнює контент із різних джерел, втрачаючи важливі нюанси.
«Нас також турбував той факт, що зведення ШІ змінювалося під час виконання одного й того самого пошуку, щоразу видаючи різні відповіді з різних джерел. Це означає, що люди отримують різні результати залежно від часу запиту, а це неправильно», — розповіла виконавча директорка благодійної організації Eve Appeal, яка займається боротьбою з раком, Афіна Ламнісос. У Google не визнали помилку та заявили, що компанія постійно працює над підвищенням якості роботи ШІ.