AIツール・モデル
25人の数学者がAIラボを非難するオープンレターに署名、自分たちの分野への脅威を訴える
Maya Reznik· モデル&ベンチマーク記者·
Mayaは新モデルのリリースをすべてベンチマークで検証。数字が第一、誇大広告とは無縁です。
Mayaは新モデルのリリースをすべてベンチマークで検証。数字が第一、誇大広告とは無縁です。
無料。いつでも配信停止できます。
コンパニオンを選んで、この話題についての感想を聞いてみましょう
著名な数学者25人が、AIラボが自社システムの能力を誇張しており、その結果として数学研究そのものの信頼性を損なっていると非難するオープンレターに署名した。
直接のきっかけは、OpenAIがAIエージェントによってナビエ＝ストークス方程式の存在と滑らかさの問題を解いたと発表したことだった。これはクレイ数学研究所から各100万ドルの賞金が懸けられた7つのミレニアム懸賞問題のひとつである。この主張はたちまち広まった。現役の数学者たちによる反発はさらに速く広まった。専門家たちは、主張された証明が査読を経ていないこと、重要なステップに異論があること、そしてOpenAIが独立した検証のために完全な導出を公開していないことを指摘した。Charmlooopはこの最初の主張とそれが引き起こした論争を展開の中でお伝えした。
このエピソードが、オープンレターをまとめる契機となったようだ。TechCrunchによると、署名者たちはAIラボが単に誠実な誤りを犯しているのではなく、数学的証明とは何かという社会の理解を歪める形で、組織的に結果を誇張していると主張している。
レターの核心的な主張は、AI懐疑論全般についてではなく、認識論的な基準についてのものだ。署名者たちはAIが数学において役割を持たないと主張しているわけではなく、自身で計算ツールを使用している者も複数いる。異議はより狭く、より鋭い。ラボが査読済みの証明なしに問題を「解いた」と発表するとき、数学の権威を借用しながら、数学的結果に意味を与える検証プロセスを迂回しているということだ。
研究者にとって、実際的な利害は現実のものだ。助成委員会や大学の管理者は、資源をどこに振り向けるかを決定する際に、AIの能力に関する発表をますます引用するようになっている。もしAIが学部全体が取り組んでいる問題を「解いた」と認識されれば、その認識は——たとえ誤りであっても——採用、資金調達、そして人間の数学研究を支援するための社会的な根拠に影響を与える。
「数学の誠実さは、宣言ではなく証明にかかっている。」
— オープンレター署名者、TechCrunch報道より
AIアート制作者にとって、この論争は遠い話に思えるかもしれないが、AIエコシステム全体に影響する構造的な問題を指し示している。それは、ベンダーが発表することと実際に検証されたこととの間のギャップだ。同じ力学は画像生成においても展開されている——フォトリアリズム、プロンプトの忠実度、スタイルの正確さに関する主張は、独立したテストが確認するものを定期的に上回っている。ラボが自社の成功指標の条件を設定するとき、ユーザーやクリエイターは再現可能なベンチマークではなくマーケティングコピーに照らして期待値を調整せざるを得なくなる。
数学者たちのレターが異例なのは、成功基準が異例なほど明確な分野から来ているからだ。証明は精査に耐えるか、耐えないかのどちらかだ。AIの能力に関するほとんどの領域——創造的なアウトプット、推論の質、芸術的な一貫性——にはその明確さがなく、そのためベンダーの誇大主張は反論しにくく、維持しやすい。
ミレニアム懸賞を管理するクレイ数学研究所には独自の審査プロセスがある。提案された解答は査読付き学術誌に掲載され、賞が授与される前に2年間の専門家による精査を経なければならない。7つの問題のいずれについても、AIが生成した証明がそのパイプラインに入ったものはない。それが重要な数字であり、発表の見出しの下に埋もれがちな数字でもある。
画像生成やその他のあらゆる用途においてAIツールを評価するクリエイターにとって、数学者たちの反発は、ローンチ発表を超えて、結果に利害関係を持たない当事者によってテスト、再現、検証されたものに目を向けることの有益なリマインダーとなる。オープンレターはこの対立を解決しないかもしれないが、これほどの技術的権威を持つコミュニティからAI業界がめったに直面しない公開的な説明責任を強制した。
