Компанія Red Queen Bio, в якій OpenAI є провідним інвестором, заявляє про залучення до розробки $36 млн. Перші клінічні випробування розроблених антитіл на людях заплановані на 2027 рік.
Дослідження стартапу Red Queen Bio
Вчені зі стартапу з біобезпеки за допомогою ШІ під назвою Red Queen Bio ведуть дослідження щодо створення антитіл, які можна буде виробляти для низки патогенів, включаючи створені штучним інтелектом, пише wsj.com.
Фінансування та плани
Компанія, в якій OpenAI є провідним інвестором, заявляє про залучення до розробки $36 млн.
Клінічні випробування
Клінічні випробування на людях їхніх препаратів проти пташиного грипу та інших вірусів заплановані на 2027 рік.
Побоювання щодо ШІ
WSJ зазначає, що по мірі зростання можливостей ШІ та поширення інцидентів з ШІ-агентами, які вийшли з-під контролю, зростають побоювання, що ШІ здатний знищити цивілізацію.
Пропоновані рішення
Багато запропонованих відповідей зосереджені на запобіганні ризикам, включаючи:
- уповільнення досліджень ШІ;
- встановлення стандартів;
- блокування ШІ-моделей від відповідей на небезпечні запити.
Позиція Red Queen Bio
Red Queen Bio вважає, що подібні захисні заходи не спрацюють, і суспільство має бути до цього готове.
Позиція скептиків
Водночас скептики вважають, що небезпека біологічної зброї на основі ШІ перебільшена, незважаючи на те, що великі розробники ШІ говорять про зростання ризиків, пише WSJ.
Випадки небезпечних запитів до OpenAI
Як повідомляла OpenAI, минулого року компанія спостерігала сотні запитів, за допомогою яких люди намагалися дізнатися у чат-бота, як виготовити та застосувати отрути і біологічну зброю.
Випадки Anthropic
Anthropic також повідомляла про виявлення спроб використати чат-бот компанії Claude для розробки небезпечного пташиного грипу, адаптованого для ссавців.
Інші небезпечні запити
- Запити від користувача, пов’язаного з військовим дослідним інститутом, стосувалися завдання зробити вірус чикунгунья більш шкідливим;
- Ще один користувач ставив запитання Claude про віспу.
Заява наукового співробітника IFP
Науковий співробітниця американського Інституту прогресу (IFP) Олівія Шарфман заявила, що динаміка біологічної війни сприяє «нападникам, а не захисникам».
Цитата Шарфман
«У нападників стільки часу, скільки вони хочуть, для розробки біологічної зброї. У нас немає років для розробки контрзаходу», — сказала вона.