AI時代に高騰化する科学の査読コストと科学の在り方の再構築

現在進行中のAI革命は、蒸気機関発明の産業革命以上に、世界中の社会構造を変えている最中です。これは大学や研究機関のアカデミアでも同じです。物理学などの理系分野の論文プレプリントサーバーであるarXiv（arXiv.org e-Print archive）にも、その影響が実際に現れてきています。最近出たプレプリントには、私の研究分野の１つである、量子エネルギーテレポーテーションの研究が書かれていたのですが、その最後に付けられている下記の引用文献リストを見て、驚きました。

[2]は確かに私の論文ですが、問題は[3]の文献です。私がある共著者と書いたことになっている論文が引用されています。ところが、私自身がこんな論文を書いた事実もありませんし、また論文自体も実在していません。また共著者も架空の人名です。これはAI生成によるハルシネーションだろうと、私は判断しています。

現在AIを使えば、理論物理業界で程々のレベルの論文を数時間で生成することが可能です。これについては、下記記事をご覧ください。

AIを研究者が使うのは、どの科学分野でも当たり前になってきていますが、論文内容の最終責任は、人間の論文著者が担います。しかし、素早く論文をAIで生成できる時代には、先のようないい加減な論文が、arXivや査読付き雑誌に大量に投稿されて問題を起こすのは、時間の問題です。このような無責任な仕事をする科学研究者が、これからますます増えていくだろうと思われます。特に、論文数が次のポストの条件になる若手研究者の、生成AIも使いながら、質を問わずに多数の論文を書こうとする心理には、同情できる点もあります。しかし、このAI革命の中では、むしろ論文数でのナンセンスな評価法は各分野で素早く打ち捨てられ、本質的な研究成果であるかどうかがより問題とされていくでしょう。

また理論系の論文に限らず、実験系の論文査読についても、AIは結果の捏造に関して大きな影響を与えています。たとえば、生物系の研究者コミュニティでは、実験の画像データも論文に添付するのが常ですが、AIが捏造する画像データを、人間の査読では見抜けないという当惑が広がっていました。これは深刻な事態です。

これまで世界が連携をして、科学や数学を進められてきた理由の１つとして、論文の査読制度にあります。ところが、AI生成の膨大な数の無価値論文が査読付き雑誌に投稿されるようになると、この査読制度は完全に崩壊します。これまでのような人間による論文内の情報チェックだけでは、データや画像の捏造も排除できないし、また膨大な数の論文を査読してくれる人間の研究者自体を探すことも、大変な困難になることでしょう。

また査読付き雑誌の人間のエディターには、AI生成で投稿される膨大な数の論文にも、いちいちきちんとした判断が求められます。そのうち数だけはなく、論文の長さとの戦いにもなるでしょう。たとえば、数学の未解決問題を解いたと主張する１つのAI生成論文が、数百万ページになったらどうすべきでしょうか？

これまでの査読プロセスだけでは、世界で同時に科学や数学を進めていくことが、今後不可能になります。これに対応しようとする変化は各分野に起きてくるでしょうが、その1つの可能性が、論文内容の正当性に保証の裏書きを与える「見巧者（みごうしゃ）会社」の登場です。世界的に信用のある特定の研究者を中心にして組織された保証会社が、膨大な数の論文から、重要性と科学的正当性の高いてテーマを選び、そのテーマに沿った重要論文を集め、その選者や会社の名前によって、「論文選集」の形で世に問うという形式です。もちろんその会社も全ての論文を詳細に読み込み、検討することは不可能です。したがって、見巧者が気になるテーマにおいて、限られた論文を精査して、評価を与えるのです。これはアートにおける画商や美術館のキュレーターの仕事とよく似た、科学の見巧者のシステムとなります。

この「見巧者会社」は、編集者が採択する論文を選んでいる、今のトップジャーナルと同じだと勘違されるかもしれませんが、そうではありません。まず今の査読付きジャーナルでは、投稿された全ての論文を編集委員が目を通して判断を下します。しかし膨大な投稿が来るAI時代には、それが無理になります。一般の研究者も、現在の意味での「研究」だけをするのではなく、見巧者として自分の分野の重要論文をセレクトして、論文選集形式で紹介し、それを売る、キュレーター型の信用ビジネスをするだろうということです。研究者個人個人が勝手に選んで、詳細に査読して紹介するジャーナルを立ち上げる感覚です。その競争の中で生き残る「論文選集」が、世界全体の科学の潮流を決めていくことでしょう。現在の大手のトップジャーナルもそれに参戦するでしょうが、個人の研究者の身軽な見巧者会社のビジネスのほうが勝利する分野も多いだろうと予想しています。

ただ、限られた数の論文に対してさえ、この査読システムの経済的コストは膨大になります。様々な分野の実験についても、たとえば論文投稿をした研究グループにプロの目利きの人間をその見巧者会社が派遣して、実際にその目で実験装置や生データを確認し、捏造ではないファクトチェックを行うことも想定されますが、それには時間も金銭的なコストも膨大にかかります。

このような査読システムを支える高コストは、どの国でも負担に感じるようになる可能性も高いです。すると、次に起き得るのは、世界と科学を共有することを断念した、ローカルな科学コミュニティの出現です。１つの国や或る特定の地域の国々で信用のある研究者が指揮をとり、そのコミュニティの中だけで確認、追試ができる水準の高いデータや知見をとりまとめ、それに基づいて科学をその地域だけで進めるようになるかもしれません。それによって、外部の偽情報の影響を最小限にしようとする発想です。そのようなディストピアが生まれてくる可能性も高まっています。

平常性バイアスのまま、数年前と同じマインドで、目の前の作業に没頭をしている大学人ばかりの組織は、近々崩壊していくしかないとも思われる厳しい現実があります。もっと活発に、AI時代の科学の在り方の議論が分野を超えて為される必要が、今あるのです。