Проблема полягає в тому, що ми не до кінця розуміємо, що таке свідомість. Наші уявлення про свідомість надто обмежені, щоб судити про її наявність чи відсутність у машини, переконаний філософ Том Макклелланд із Кембриджського університету. Свої міркування з цього приводу він виклав на сторінках журналу Mind & Language.
Вчений вважає малоймовірним, що в осяжному майбутньому з’явиться надійний тест для визначення свідомості в штучного інтелекту. Тому, якщо такий якісний стрибок і відбудеться, ми, найімовірніше, цього навіть не помітимо.
ШІ стрімко розвивається, і пов’язані з ним питання дедалі більше переходять зі сфери наукової фантастики у площину нагальних етичних проблем. На думку Макклелланда, єдина «виправдана позиція» в цьому питанні — агностицизм.
Що таке свідомість
Щоб ШІ мав етичну значущість, одного лише факту свідомості недостатньо — потрібен особливий її тип, а саме чуттєвість, тобто здатність до суб’єктивного переживання, пояснює філософ.
«Свідомість дала б ШІ змогу розвинути сприйняття і самосвідомість, але цей стан усе ще може бути нейтральним. Чуттєвість передбачає свідомий досвід, який може бути приємним або болісним. Саме це робить істоту здатною страждати або насолоджуватися. Тут і вступає в дію етика. Навіть якщо ми випадково створимо свідомий ШІ, малоймовірно, що це буде той тип свідомості, про який нам варто хвилюватися, — каже він. — Наприклад, безпілотні автомобілі, які “відчувають” дорогу перед собою, — це був би величезний прорив. Але з етичної точки зору це не має значення. А от якщо в них з’явиться емоційна реакція на поїздку — це вже зовсім інша історія».
Компанії вкладають колосальні кошти в досягнення сильного штучного інтелекту — машин із людським рівнем пізнання. Деякі заявляють, що свідомий ШІ вже не за горами, а наукові та державні інституції вже замислюються над тим, як регулювати його діяльність.
«Якщо ми випадково створимо ШІ зі свідомістю або почуттями, нам слід бути обережними, щоб не завдати шкоди. Але ставитися до того, що по суті є не більшим, ніж тостер, як до свідомої істоти, тоді як реальні свідомі істоти зазнають від нас колосальних страждань, — це теж видається великою помилкою», — вважає Макклелланд.
Два табори
За його словами, дискусії про штучну свідомість розділили фахівців на два табори.
- Одні вважають свідомість програмним забезпеченням — і тоді, якщо вдасться відтворити її функціональну архітектуру, вона працюватиме і на кремнієвих чипах, як у мозку.
- Скептики стверджують, що свідомість залежить від певних біологічних процесів у «втіленому органічному суб’єкті». Навіть якщо структуру свідомості вдасться запустити на комп’ютері, це буде лише симуляція.
У своїй статті філософ аналізує обидві позиції, показуючи, як кожна з них здійснює «стрибок віри», що далеко виходить за межі будь-яких наявних або ймовірних у майбутньому доказів.
«У нас немає глибокого пояснення свідомості. Немає доказів ні того, що свідомість може виникнути за наявності правильної обчислювальної структури, ні того, що вона за своєю суттю є біологічною. І немає жодних ознак, що такі докази з’являться найближчим часом. У найкращому разі нас від будь-якого життєздатного тесту на свідомість відділяє ціла інтелектуальна революція, — наголошує він. — Я вірю, що мій кіт має свідомість. Це ґрунтується не стільки на науці чи філософії, скільки на здоровому глузді — це просто видно. Однак здоровий глузд є продуктом тривалої еволюційної історії, у якій не було штучних форм життя, тому щодо ШІ йому не можна довіряти. Але й доказів та даних у нас недостатньо».
У такій ситуації залишається єдина логічна позиція — агностицизм, доходить висновку автор.
Чому це важливо
Макклелланд пом’якшує цей висновок, називаючи себе «умовно строгим» агностиком: «Проблема свідомості справді складна. Але не обов’язково нездоланна».
Він застерігає, що технологічні гіганти можуть використовувати цю невизначеність у власних інтересах.
«Існує ризик, що нездатність довести наявність свідомості буде використана індустрією ШІ для висування необґрунтованих заяв про свої технології. Це стає частиною ажіотажу, щоб компанії могли продавати ідею ШІ наступного рівня розумності», — пояснює філософ.
І такий піар далеко не безпечний, підсумовує він: «Якщо у вас виникає емоційний зв’язок із чимось, заснований на припущенні, що воно є свідомим, а насправді це не так, — це може мати екзистенційно токсичний потенціал. І цю ситуацію, безперечно, посилює роздута риторика технологічної індустрії».