査読を通ったAI論文〜学術エビデンスが静かに腐っていく
日経電子版が「AIが論文投稿の時代に」という見出しを出した。
「ついにそういう時代か」と思った人は多いだろう。現場の感覚では、ついに、ではない。もう始まっている。日常の医学論文閲覧でも、文体が妙に均質な総説、結論部分が異様に滑らかな症例報告が、確実に増えている。
査読を通った論文
2025年3月、東京のSakana AIが「The AI Scientist-v2」というシステムでテーマ設定から実験・データ解析・論文執筆までを自律的にこなし、機械学習のトップカンファレンスICLR 2025のワークショップに3本投稿した。うち1本が査読を通過した。完全AI生成論文が、人間の研究者と同じ査読プロセスを抜けた最初の事例とされている。
通過した1本の査読スコア平均は6.33。人間が書いた論文であれば採択相当の数字で抜けている。
査読者は「AI生成論文が混じっている可能性」は知らされていた。それでも、どれがAIなのかは見抜けなかった。
「ワークショップだから」と軽く見るのは早い。査読というプロセスそのものが、AIを識別できなかった事実が残る。
検出ツールは機能していない
GPTZeroやTurnitinのAI検出機能。「AI生成かどうか判定するツールがある」と思っている人は多い。
精度は低い。非英語圏ではさらに低い。AIが書いた文章を人間が少し手直しすれば、検出はほぼ不可能になる。
生成と検出は軍拡競争の構造にある。生成側が常に先行する。学会や出版社の多くも、現行の検出ツールに信頼を置けないことを認めるようになっている。医学論文の世界でもAI生成が疑われる論文の撤回事例が相次いでおり、機械学習の話ではなく、すでに自分たちの足元の話だ。学会は禁止ルールを作っても、違反を確認する手段を持たない。
申告制にしても意味がない。不正をする人間が正直に申告するはずがない。
ここから先は
よろしければ応援お願いします！チップはnote更新用のPC購入費用に当てる予定です。よろしく！
