2000ドルの数学証明に「無断流用」の指摘 OpenAI Astraの誤算
OpenAIが8月1日、内部開発中の次期モデル「Astra」が、数学と理論計算機科学における10件の未解決問題で新たな進展を果たしたと発表した。使用したトークン量はAPI料金換算でわずか2000ドル分だったといい、当初は「10年以上進展のなかった問題に決着をつけた」という華々しい発表として広く報じられた。ところが発表から数日のうちに、複数の数学者から「これは研究不正だ」という厳しい批判が寄せられる事態になっている。
「意図的にやっている」という強い言葉
科学メディアScientific Americanの取材に対し、イェシーバ大学の数学者スティーブン・ミラー氏は、Astraが示した球充填問題(1000次元以上の空間にどれだけの球を詰め込めるかという問題)の証明が、自身が2016年に発表した論文の議論をそのまま流用したものであり、しかも引用がなかったと主張している。ミラー氏はこれを単純な見落としではなく、「意図的に、他の研究者の仕事を踏みにじっている」と断じ、事実上の剽窃だと訴えている。
同様の指摘は他の問題でも上がっている。ケンブリッジ大学のフルニエ=ファシオ氏は、非ソフィック群の存在を扱った別の結果についても、先行研究への言及が欠けている同様のパターンを指摘したという。
OpenAIの当初の発表文には、扱った問題について「少なくとも10年間、主要な結果に関して進展が見られなかった」という趣旨の記述があったが、この点についても数学者たちから事実と異なるという指摘が相次ぎ、OpenAIは発表後に文言をより正確な内容へと修正している。
自分たちで作った規範を、自分たちで破っている
今回の件でとりわけ皮肉なのは、OpenAIがこの発表の中で、国際数学連合が定めた「ライデン宣言」というAIと数学に関するガイドラインを引用していた点だ。OpenAIはこの宣言を、人間の著者ではなくAIシステム自体に成果の帰属を認めるべきだという、自社の立場を補強する根拠として持ち出していた。
ところがライデン宣言が実際に求めているのは、AIが関与した数学的成果について、査読を経た正式な学術誌での発表を通じて責任を持って検証していくという手続きだ。OpenAIは今回、この宣言を引用しておきながら、査読付き論文誌ではなく自社ブログでの発表という、宣言が警戒するのとまさに同じやり方を選んでいる。都合の良い部分だけを引用し、都合の悪い部分は実践していない、という批判を招く形になった。
5月の成果との違い
OpenAIによる数学分野での成果発表は、今回が初めてではない。5月には、エルデシュが残した平面上の単位距離問題の1つについて、Astraによる反証結果が発表されている。この時は外部の数学者による検証プロセスが明確に組み込まれており、フィールズ賞受賞者のティム・ガワーズ氏を含む9人の数学者チームが、人間にも理解しやすい形で証明を解説する論文を別途発表するなど、数学コミュニティを巻き込んだ丁寧な進め方が評価されていた。
今回の8月の発表では、同じような広範な外部検証のプロセスが、少なくとも公表の時点では同じレベルで用意されていなかったようだ。海外メディアの分析でも、5月の結果に対して得られた信頼性を、8月の10件の成果にそのまま当てはめるべきではないという指摘がなされている。数学的な議論の正しさをLeanという形式検証ツールでチェックできることと、その議論が本当に新規性を持つかどうかを判断することは、まったく別の作業だからだ。
自社の研究者も認めた「行き過ぎ」への自覚
OpenAI側のコメントにも、今回の成果に対する冷静な視線が見え隠れする。テスト時計算という技術に携わる同社の研究者ノーム・ブラウン氏は、X上で「残念ながら、ミレニアム懸賞問題はまだ解けていない」とコメントし、大きな話題にはなったものの、数学界で最も権威ある未解決問題群には手が届いていないという事実を、自ら釘を刺す形になっている。
ブラウン氏はさらに、今回はそれぞれの問題にかけた計算コストが決して大きくなかったとも付け加えており、テスト時の計算量をさらに増やせば、より大きな成果も狙えるという含みを持たせている。話題性と実際の到達点との間にあるギャップを、OpenAI自身がある程度自覚していることがうかがえるコメントだ。
「誰が本当の著者か」という、もう1つの論点
今回の一件は、先行研究への引用漏れという問題だけでなく、AIが生成した数学的成果の「著者性」そのものを巡る、より根本的な議論にもつながっている。OpenAIは公式発表の中で、証明そのものの数学的な議論はAstraが生成したものであり、それを人間の著者の功績として扱うのは、AIの貢献と人間の知的営みの両方を誤って伝えることになる、という立場を明確にしている。人間の側は原稿の準備とLeanでの形式化を担当し、その正確性に責任を持つ、という役割分担だ。
この整理自体は筋が通っているようにも見えるが、問題は、AIが参照した「先行研究」の扱われ方にある。Astraがどのような学習データや推論過程を経て、ミラー氏の2016年の議論と酷似した内容にたどり着いたのかは、モデル自体が非公開である以上、外部からは検証しようがない。人間の研究者であれば当然求められる「参考文献の明記」という作法を、AIが生成した成果にどう適用するのかというルール自体が、まだ確立されていないというのが実情に近いのだろう。
これは今後、AIが数学以外の学術分野に進出していく際にも、繰り返し直面する問題になりそうだ。論文を書くのが人間からAIへと変わっても、学術的な誠実さの基準そのものは変わらないはずだ、という研究者側の主張と、成果物の生成過程がブラックボックスであるというAI企業側の構造的な制約は、簡単には噛み合わない。今回のような個別の指摘が積み重なっていくことで、AIによる研究成果に対する引用・検証のルールが、今後少しずつ形作られていくことになるのかもしれない。
まとめ
安価に、しかも短期間で成果を出せるという生成AIの強みは、数学の世界でも確かに証明されつつある。ただし今回の一件は、その成果をどう検証し、どう先行研究に対して誠実であるかというプロセスの整備が、成果そのもののスピードに追いついていないことを浮き彫りにした。「解けたかどうか」だけでなく「誰の仕事の上に成り立っているのか」という視点は、AIによる研究成果が増えていくこれからの時代において、ますます軽視できないテーマになりそうだ。
今回の件は、OpenAIに限った話でもない。同時期にAnthropicが未公開の研究版Claudeでリーマン予想関連の成果を発表した際にも、証明そのものは検証可能な形で公開されている一方、それを生み出したモデル自体は非公開のままだった。どちらの企業も、成果を出す速さでは目覚ましい実績を積み上げているが、その成果がどのように生まれ、誰の知的蓄積の上に成り立っているのかを説明する透明性については、まだ発展途上にあると言えそうだ。AI企業各社が今後、こうした研究倫理上の枠組みをどう整えていくのか、引き続き注視していく必要がある。
参照元
Scientific American:https://www.scientificamerican.com/article/openais-latest-math-breakthroughs-commit-research-misconduct-experts-say/
AI Weekly:https://aiweekly.co/alerts/openais-astra-math-proofs-draw-research-misconduct-claims
#OpenAI #Astra #AI数学 #研究不正 #生成AI #海外AIニュース #AI倫理 #数学 #AI研究 #テック業界 #海外テックニュース #AI活用
