Лауреати медалі Філдса попередили, що гонка компаній у галузі штучного інтелекту за вирішенням математичних задач може зашкодити науковій роботі та порушити існуючу систему розвитку та передачі знань.
Відкритий лист математиків
Загроза науковій роботі
Розвиток штучного інтелекту може загрожувати науковій роботі та математичній спільноті, йдеться в відкритому листі двадцяти п’яти провідних математиків, опублікованому на сайті руху «Математика та штучний інтелект» (Math and AI).
Автори листа
Усі підписанти — лауреати медалі Філдса, яка вважається найпрестижнішою нагородою в математиці.
Різниця в цілях
Компанії vs наукове співтовариство
Математики зазначили, що цілі компаній, які розробляють ШІ, та наукового співтовариства розходяться:
- Компанії все частіше використовують здатність мовних моделей вирішувати відомі математичні задачі як показник можливостей ШІ.
- Для математиків це лише інструмент отримання нових знань і методів.
Цитата з листа
«Вирішення задач — це лише інструмент і показник досягнення основної мети, якою є концептуальне розуміння та нові ідеї», — йдеться в листі.
Традиційний процес у математиці
Довготривале вивчення
Раніше вирішення відомих задач ставало приводом для довготривалого вивчення нових методів і ідей. Результати обговорювали, спрощували та пов’язували з попередніми дослідженнями, після чого вони могли потрапити до підручників і використовуватися в інших галузях.
Ризики швидких публікацій
Проблеми з авторством
Швидкі публікації результатів, отриманих за допомогою ШІ, можуть порушити цей процес, вважають математики. «Часто про ці рішення оголошують поспіхом, не залишаючи часу для належного оформлення, виділення нових методів і ідей та вказівки на відповідні попередні роботи інших людей», — йдеться в листі.
Проблеми з інтеграцією знань
На їхню думку, це також створює питання про авторство та плагіат. Без участі математиків, які розвивають отримані ідеї та інтегрують їх в існуючу систему знань, ідеї, створені ШІ, не зможуть «повністю втілитися».
Визнання переваг ШІ
Прискорення досліджень
При цьому підписанти визнали, що ШІ може прискорити математичні дослідження. «Однак чи принесуть ці зміни користь галузі чи матимуть руйнівний ефект, значною мірою залежатиме від рішень людей, які керують цією новою технологією», — підсумували математики.
Скандал з OpenAI
Заява про вирішення задачі тисячоліття
Раніше цього тижня OpenAI заявила, що її внутрішня модель ШІ вирішила одну з семи «задач тисячоліття» — проблему існування та гладкості розв’язків рівнянь Нав’є-Стокса. За даними компанії, формалізація та перевірка результату зайняли ще 17 годин.
Звинувачення в плагіаті
Підозри професора Бакмастера
Професор математики Нью-Йоркського університету Тристан Бакмастер запідозрив OpenAI у використанні наробок його спільного з математиком Anthropic Левентом Алпьоге проекту.
Хронологія подій
- 8 вересня вчені повідомили про результати за кількома рівняннями і заявили, що близькі до вирішення проблеми Нав’є-Стокса, але ще не завершили її перевірку.
- 6 вересня OpenAI повідомила Бакмастеру про доведення для Нав’є-Стокса, отримане саме тим способом, який вони з Алпьоге планували використати.
Реакція Бакмастера
Математик назвав це «яскраво-червоним прапором». Він також стверджує, що представники OpenAI пропонували йому та Алпьоге різні варіанти публікації результату і двічі просили виключити Алпьоге з числа авторів.
Коментар Бакмастера
Уточнення
Бакмастер підкреслив, що не бачив доведення OpenAI і не стверджує, що компанія використала їхні чернетки з системи ШІ OpenAICodex. «Я викладаю те, що мені було сказано, коли і що мені було запропоновано», — пояснив він.