Мая проганяє через бенчмарки кожен новий реліз — спершу цифри, жодного хайпу.
Отримуй на пошту головні історії тижня про ШІ та ШІ-арт — відібрані, стислі, безкоштовно.
Безкоштовно. Відписатися можна будь-коли.
Обери компаньйона і дізнайся його думку про цю історію
Двадцять п'ять провідних математиків підписали відкритий лист із звинуваченнями на адресу лабораторій ШІ у перебільшенні можливостей їхніх систем — і, як наслідок, у підриві довіри до математичних досліджень загалом.
Безпосереднім приводом стало оголошення OpenAI про те, що її агенти ШІ розкрили задачу існування та гладкості рівнянь Нав'є — Стокса — одну з семи Задач тисячоліття, кожна з яких передбачає нагороду в розмірі 1 мільйона доларів від Інституту Клея. Заява поширилася блискавично. Реакція практикуючих математиків — ще швидше. Експерти вказали, що нібито доведення не пройшло рецензування, що ключові кроки є спірними, а OpenAI не оприлюднила повний вивід для незалежної перевірки. Charmloop висвітлював початкову заяву та суперечку, яку вона спровокувала, у міру розгортання подій.
Цей епізод, схоже, став організуючим моментом для відкритого листа. За даними TechCrunch, підписанти стверджують, що лабораторії ШІ не просто припускаються чесних помилок — вони систематично перебільшують результати у спосіб, що спотворює суспільне розуміння того, що являє собою математичний доказ.
Центральний аргумент листа стосується епістемних стандартів, а не скептицизму щодо ШІ загалом. Підписанти не стверджують, що ШІ не має місця в математиці — дехто з них сам використовує обчислювальні інструменти. Заперечення вужче й гостріше: коли лабораторія оголошує задачу «розв'язаною» без рецензованого доказу, вона запозичує престиж математики, оминаючи процес верифікації, який надає математичним результатам їхнього значення.
Для дослідників практичні ставки цілком реальні. Грантові комітети та університетські адміністратори дедалі частіше посилаються на оголошення про можливості ШІ, приймаючи рішення про розподіл ресурсів. Якщо складається враження, що ШІ «розв'язав» задачі, над якими працюють цілі кафедри, це сприйняття — навіть хибне — впливає на найм, фінансування та публічне обґрунтування підтримки людських математичних досліджень.
«Цілісність математики залежить від доказу, а не від проголошення.»
— Підписанти відкритого листа, за повідомленням TechCrunch
Для творців у сфері ШІ-арту ця суперечка може здаватися далекою, але вона вказує на структурну проблему, що зачіпає весь екосистем ШІ: розрив між тим, що оголошують постачальники, і тим, що насправді підтверджено. Та сама динаміка відтворюється у генерації зображень — заяви про фотореалізм, точність відтворення підказок або відповідність стилю регулярно випереджають те, що підтверджує незалежне тестування. Коли лабораторії самі встановлюють критерії власного успіху, користувачі та творці змушені звіряти очікування з маркетинговими текстами, а не з відтворюваними орієнтирами.
Лист математиків є незвичним, бо надходить із галузі з напрочуд чіткими критеріями успіху. Доказ або витримує перевірку, або ні. У більшості сфер можливостей ШІ — творчий результат, якість міркувань, художня зв'язність — такої чіткості немає, що робить перебільшення з боку постачальників складнішим для оскарження і легшим для підтримання.
Інститут Клея, який адмініструє Премії тисячоліття, має власний процес перевірки: запропоноване розв'язання має бути опубліковане у рецензованому журналі, а потім витримати два роки експертного вивчення, перш ніж буде присуджено будь-яку премію. Жоден згенерований ШІ доказ не потрапив до цього процесу жодної з семи задач. Саме це число має значення — і саме воно, як правило, губиться під заголовками оголошень.
Для творців, які оцінюють інструменти ШІ — чи то для генерації зображень, чи для будь-якого іншого застосування, — спростування з боку математиків є корисним нагадуванням дивитися далі за анонсами запусків і звертати увагу на те, що було перевірено, відтворено та підтверджено сторонами, які не мають жодної зацікавленості у результаті. Відкритий лист може й не вирішить суперечку, але він змусив до публічного звіту, з яким індустрія ШІ рідко стикається з боку спільноти з таким технічним авторитетом.