Сем Альтман на внутрішньому зібранні компанії заявив, що може розглянути сповільнення темпів розвитку штучного інтелекту. Про це повідомляє Bloomberg, посилаючись на промову Альтмана на закритому зібранні в OpenAI.
Заява Альтмана
Сповільнення в OpenAI
Альтман готовий розглянути зниження темпів розробки ШІ в OpenAI. Однак йому цього замало: він сподівається, що інші лабораторії, які займаються розробкою передових систем, також сповільнять темпи і погодяться синхронізувати швидкість розвитку.
МETA синхронізації
Звісно, ради майбутнього всього людства.
Причини для занепокоєння
Відставки дослідників
Приводом для таких заяві стали черга відставок дослідників безпеки з Anthropic, Google DeepMind та OpenAI. Фахівці пишуть тривожні треди в X (Твіттері) і виражають занепокоєння ризиками неконтрольованого створення суперінтелекту.
Петиція про контроль
Більше 1000 співробітників технологічних компаній раніше підписали петицію з вимогою створити механізм контролю швидкості розвитку ШІ.
Чому синхронізація малоймовірна?
Конкуренція між країнами
Очевидно, що ведучі компанії з розробки ШІ не погодяться синхронізувати швидкість навчання:
- Китай серед лідерів, але відстає від компаній США на кілька місяців. Влада КНР не підуть на сповільнення, оскільки це дозволить американським компаніям зберегти лідерство.
- Влада США також не допустять, щоб сповільнення якось вплинуло на їхній статус ведучої світової держави.
Наслідки сповільнення
Зменшення розриву
Якщо сповільнити розробки, то наздожене не лише Китай, а й менш розвинені країни в галузі ШІ, наприклад, Росія.
Поточний стан справ
Зараз передові моделі ШІ Росії відстають від топових на півроку-рік. Сповільнення всього на декілька місяців дозволить зробити розрив менш драматичним. А якщо обмеження триватимуть рік і більше, то в РФ з’являться моделі, нічим не гірші за іноземні.
Чому США не допустять сповільнення?
Ризик втрати лідерства
Американці цього не можуть допустити.
Можливі сценарії сповільнення
Сценарій 1: Технологічний тупик
Є лише декілька сценаріїв, коли сповільнення дійсно можливе. Один з них: ведучі лабораторії ШІ насправді уперлися в «стелю» можливостей.
GPT Astra та маркетинг
GPT Astra виявилася маркетинговим шумом, а різниця між флагманськими моделями поточного покоління та попереднього вимірюється відсотками (а не десятками, як раніше).
Економічний кризис
Тому розмови про свідоме обмеження можуть бути спробою приховати реальний стан справ: були витрачені трильйони доларів, а AGI так і не відбулося.
Наслідки технологічного тупику
Економічний спад
У цей сценарій хочеться вірити найменше. Він означає потужний економічний кризис.
Порівняння з антиутопіями
Так, це краще, ніж повстання машин, «Матриця» або «Термінатор», але роки рецесії — це не найприємніший сценарій.
Глобальні конфлікти
Особливо, коли це все супроводжується численними збройними конфліктами по всьому світу, які ризикують перейти на набагато руйнівніший рівень.