Американський сенатор Берні Сандерс заявив, що плани технологічних мільярдерів щодо розвитку штучного інтелекту можуть становити загрозу майбутньому людства.
Джерело
Про це повідомляє rbc.ua з посиланням на The Atlantic.
Вимоги сенатора
Сенатор закликав:
- тимчасово призупинити розробку передових систем ШІ;
- заборонити створення штучного надінтелекту, що перевершує людські можливості.
Суть проблеми
На думку Сандерса:
- майбутнє людства дедалі більше залежить від рішень невеликої групи найбагатших представників технологічної індустрії;
- вони вкладають величезні кошти в штучний інтелект і разом з тим обговорюють сценарії, за яких люди можуть об’єднатися з машинами чи поступитися їм своїм місцем.
Цитата
«Чи повинні люди залишатися господарями планети Земля? Чи повинні нас замінити як домінантний вид?» — такими питаннями сенатор почав свою колонку.
Що планують технологічні мільярдери
Сандерс звернув увагу на висловлювання керівників провідних технологічних компаній, які роздумують про майбутнє співіснування людей і цифрового інтелекту.
Сем Альтман
Керівник OpenAI Сем Альтман ще в 2017 році писав, що штучний інтелект може дозволити людству стати першим видом, який самостійно створюватиме власних нащадків.
Сценарії
Альтман припускав два можливі сценарії:
- люди можуть запустити розвиток цифрового інтелекту і з часом відійти на другий план еволюції;
- або знайти спосіб успішно об’єднатися з машинами.
Тезис
Він також висловив думку, що цей процес уже розпочався.
Даріо Амодей
Глава Anthropic Даріо Амодей допускав можливість того, що моделі штучного інтелекту можуть мати свідомість, хоча це питання залишається відкритим.
Ілон Маск
Окремо сенатор згадав Ілона Маска, який виступає за розвиток надінтелекту, здатного поширитися за межі Землі.
Інтерпретація
Сандерс трактує такі погляди як ознаку того, що деякі представники технологічної індустрії розглядають людство лише як проміжний етап на шляху до цифрової надрозумної системи.
Пітер Тіль
Також він звернув увагу на співзасновника Palantir Пітера Тіля.
Деталь
За словами сенатора, відповідаючи на запитання про бажаність подальшого існування людства, мільярдер не зміг одразу дати однозначну відповідь.
Трансгуманізм та ШІ
Сандерс пов’язує такі погляди з трансгуманізмом — напрямом, прихильники якого вважають, що технології дозволять вийти за межі нинішніх біологічних можливостей людини.
Що це передбачає
Це може передбачати:
- створення нового виду;
- або інтеграцію людського організму з машинами.
Амбіції
Прихильники таких концепцій припускають, що майбутні форми життя зможуть:
- перевершити людей за інтелектом;
- мандрувати космосом;
- та навіть досягти безсмертя.
Проблема
На думку сенатора, проблема полягає в тому, що подібні ідеї підтримують не лише прихильники наукової фантастики, а й впливові підприємці, які мають ресурси для втілення своїх задумів.
Розвиток ШІ
Він також підкреслив, що можливості штучного інтелекту швидко розширюються:
- такі системи працюють з мовою;
- вирішують складні математичні задачі;
- і дедалі краще імітують спілкування з людьми.
Приклади зближення людини і машин
Серед прикладів технологічного зближення людини і машин Сандерс навів:
- Neuralink Ілона Маска, що розробляє мозкові імпланти для взаємодії з комп’ютерами;
- пропозиції щодо створення компаній, якими керуватимуть агенти штучного інтелекту, без обов’язкової участі людей як акціонерів.
Чому Сандерс вимагає обмежити розвиток ШІ
Сенатор стверджує, що суспільство не обов’язково підтримує бачення майбутнього, яке просувають керівники технологічних компаній.
Опитування
У своїй колонці він навів дані опитувань, згідно з якими:
- 91 % американців вважають, що розвиток штучного інтелекту потребує запобіжників;
- 74 % не довіряють керівникам ШІ-компаній;
- 73 % побоюються, що ця технологія може загрожувати виживанню людства.
Позиція Папи Римського
Сандерс також згадав застереження Папи Римського Лева XIV щодо технологічного розвитку, який може призвести до знецінення людської гідності.
Застереження
Понтифік попереджав про ризик перетворення людини на:
- набір даних;
- гвинтик у машині;
- або товар.
Реакція Тіля
За словами сенатора, Пітер Тіль у відповідь назвав понтифіка «агентом китайських комуністів».
Які обмеження пропонує сенатор
Сандерс закликав:
- негайно призупинити розробку передових систем штучного інтелекту;
- заборонити створення штучного надінтелекту до появи механізмів, що забезпечують безпеку цієї технології.
Що мається на увазі
Річ ідеться про системи, інтелект яких перевищуватиме можливості будь-якої людини і які зможуть діяти автономно поза людським контролем.
Законодавча ініціатива
Сенатор повідомив, що разом з конгресменом Грегом Касаром просуває законодавчу ініціативу, спрямовану на обмеження подібних розробок.
Головна теза
За переконанням Сандерса:
- рішення про майбутнє штучного інтелекту не можна залишати в руках невеликої групи мільярдерів, зацікавлених у грошах і владі;
- суспільство і демократичні інститути повинні визначати межі технологічного розвитку, щоб людина залишалася в центрі цього процесу.
Контекст
- Раніше Дональд Трамп, який активно підтримує розвиток ШІ, оголосив про створення нової урядової структури — «Сил суперинтелекту», яка координуватиме політику американської адміністрації у сфері штучного інтелекту.
Застереження Гейтса
Водночас співзасновник Microsoft Білл Гейтс попередив, що штучний інтелект може призвести до катастрофічних подій із великою кількістю жертв.