査読済みの次に来るもの〜入口は守れない、ならば出口を

3週間前、AIが書いた論文が査読を通った話を書いた。あのとき私は、楽観的な答えを持たないと正直に閉じた。

その続きが、現実の側から届いた。

arXivが動いた

プレプリントサーバーのarXivが、AI生成の粗雑な論文に罰則を設けると発表した。コンピュータサイエンスセクションの責任者ディータリッヒ氏いわく、LLMによる明確な誤りや架空の引用を含んだまま投稿した場合、連名著者全員が1年間arXivへの投稿を禁止される。

前の記事で私はこう書いた。学会は禁止ルールを作っても違反を確認する手段を持たない、と。arXivはその「手段」に踏み込んだ。大手で最初の動きだ。

評価したい。だが中身を見て、手が止まった。

罰則の設計そのものにも疑問がある。アデレード大学のコヴァノヴィッチ教授は、連名著者全員という点を突いた。現代の研究は数百人が一本に名を連ねることもある。そのうちの一人が架空引用を混ぜたとき、他の全員まで投稿禁止にするのは厳しすぎる。罰則は作られた。だが現研究の形に噛み合っていない。

守れたのは一番浅い層だった

arXivがチェックするのは、引用が実在するかどうか。

これは機械で白黒つく。参考文献リストを受け取り、各文献が実在の論文か照合する。架空引用なら弾く。コヴァノヴィッチ教授も、対案としてAIシステムが参考文献の実在性を確認し、疑わしいものだけ人間が精査する方式を推している。

問題は、これが論文の信頼性のうち、ごく表層しか守らないことだ。

引用が全部実在していても、データが捏造されていれば論文は嘘をつく。p値が操作されていても、結論が歪んでいても、引用リストは涼しい顔で実在の文献を並べる。架空引用の検出は、嘘の中で一番不器用な嘘だけを潰す。

そもそも生成の量が桁違いに膨らんでいる。Graphiteの調査では、2025年第1四半期以降にネット上で公開された記事の半分が、AIによって書かれたものだった。その奔流のうち、表層の引用照合で掬えるのはどれほどか。

医学領域では、その表層の架空引用ですら防げていない。AIが捏造した参考文献を含む生物医学論文は、2023年からの3年で12倍以上に急増し、2026年には277本に1本の割合に達した。第1層の対策が、すでに後手に回っている。

なぜ引用照合だけをやるのか。答えは技術ではない。それは判断する人間が要らないからだ。機械が照合し、機械が罰則まで回せる。責任を負う主体を立てずに済む。だから動く。

数字の嘘を暴く道具は、10年前からある