Нобелівський лауреат і один із засновників сучасних технологій штучного інтелекту Джеффрі Хінтон заявив, що створення систем, які перевершують людину за інтелектом, може становити серйозну загрозу.
Про це вчений розповів в інтерв’ю The Times.
Проблема контролю над суперинтелектом
Відсутність надійних методів
За словами Хінтона, сьогодні у розробників немає надійних способів гарантувати безпеку так званого суперинтелекту — ШІ-системи, яка значно перевершує людські здібності в більшості інтелектуальних завдань.
Джеффрі Хінтон: ключова фігура в розвитку ШІ
Внесок у розвиток ШІ
Джеффрі Хінтон вважається однією з ключових фігур у розвитку штучного інтелекту. У 2012 році він разом зі своїми студентами створив нейромережу AlexNet, яка здійснила прорив у розпізнаванні зображень і значною мірою поклала початок сучасному буму ШІ.
Нобелівська премія
У 2024 році вчений отримав Нобелівську премію з фізики за фундаментальний внесок у розвиток машинного навчання та штучних нейронних мереж.
Попередження Хінтона
Заява про небезпеку
«Було б крайньо нерозумно розробляти суперинтелект зараз, за відсутності наукового консенсусу щодо можливості його безпечної розробки та контрольованого використання», — підкреслив він.
Наслідки втрати контролю
Вчений вважає, що втрата контролю над подібними технологіями може призвести до катастрофічних наслідків, аж до загрози існуванню людства.
Заклик до урядів
Обмеження розробки суперинтелекту
У зв’язку з цим Хінтон закликав уряди обмежити або забороняти розробку надпотужних ШІ-систем до появи надійних механізмів контролю.
Контекст: Дискусії про регулювання ШІ
Законопроєкт у Великій Британії
Заява прозвучала на тлі зростаючих дискусій про регулювання штучного інтелекту. За день до публікації інтерв’ю до парламенту Великої Британії внесли законопроєкт, який передбачає заборону на створення штучного суперинтелекту.
Ініціатива Control AI
Ініціативу підготувала організація Control AI. Документ підтримали більше 130 депутатів різних політичних поглядів.
Позиція уряду Великої Британії
Однак британський уряд поки не виразив готовності підтримати закон, тому перспективи його прийняття залишаються невизначеними.