arXivのAI論文トレンド変化をどう読むか──「モデルを作る研究」から「モデルを働かせる研究」へ
この数年の arXiv における AI 論文の重心は、ひとことで言えば、「単体モデルの性能競争」から「モデルをどう使い、どう繋ぎ、どう信頼し、どう運用するか」へ移ってきています。
モデルの性能向上が重要でなくなったわけではありません。いまでも新しいモデル構造、学習方法、データセット、ベンチマークは数多く提案されています。ただ、2020年前後に目立っていた「より大きなモデルを作る」「より高いスコアを出す」という流れだけでは、最近の AI 論文の空気を説明しにくくなっています。
たとえば、2020年の GPT-3 は、大規模言語モデルが少数の例示だけで多様なタスクに対応できることを強く示しました。RAG、つまり検索拡張生成は、モデルの内部知識だけに頼らず、外部検索と組み合わせて答えを作る方向を示しました。DETR は、画像の物体検出にも Transformer を本格的に持ち込みました。
この時期は、モデルの巨大化、事前学習、検索拡張、Transformer 化が大きな論点でした。
しかし、その後に出てきた Chain-of-Thought、ReAct、LLaVA、Voyager、DPO、Segment Anything などを見ると、関心は少しずつ変わっています。Chain-of-Thought は、答えだけでなく「途中の考え方」を出させる研究です。ReAct は、推論と行動を結びつける研究です。LLaVA は画像と言語をつなぐ研究です。DPO は、学習済みモデルの振る舞いを人間の好みに沿って整える研究です。Voyager は、環境の中でスキルを蓄積するエージェントの研究です。つまり、AI は「答えるモデル」から、「見て、考えて、動き、検証されるシステム」へ広がってきました。
量的にも、arXiv 全体の伸びははっきりしています。arXiv の年次報告によれば、2021年の新規投稿数は181,630本、2022年は185,692本、2023年は208,493本でした。2023年には月間投稿数が20,710本に達し、当時の過去最高を更新しています。
さらに、NLLG の2024年 arXiv レポートは、2023年1月1日から2024年9月30日までの期間を分析し、トップ40の高被引用AI論文のうち45%が前回レポート以降の新規エントリだったと述べています。
また、cs.CL、つまり計算言語学カテゴリはなお主要カテゴリである一方、その優位は cs.CV、つまりコンピュータビジョンや、cs.LG、つまり機械学習カテゴリに対して低下していると報告しています。
ここからも、AI研究が「言語モデル中心」から、視覚、マルチモーダル、汎用機械学習、エージェント、評価へと広がっている様子が読み取れます。
大事なのは、投稿が増えただけではありません。研究の量が増えると、研究をどう流通させ、どう品質管理するかも問題になります。
arXiv は2025年10月、コンピュータサイエンス分野におけるレビュー論文やポジションペーパーの扱いを更新し、査読済みであることを求める運用へ変更しました。その理由として、レビュー論文やポジションペーパーの流入が管理不能なほど増えていること、さらに大規模言語モデルによって新規研究結果を含まない文書が書きやすくなったことを挙げています。これは、AI研究の変化が、論文の中身だけでなく、研究流通の制度そのものにも影響していることを示しています。
1. まず、arXivは「研究の流れ」を映しやすい場所である
arXiv は、査読前の研究成果を公開するプレプリントサーバーです。ここで重要なのは、arXiv が「正式な査読済み論文の保管庫」ではなく、研究が動いている途中の姿をかなり早く映す場だということです。
もちろん、arXiv に載ったからといって、その研究が正しい、重要である、再現性がある、と保証されるわけではありません。arXiv にはモデレーションはありますが、通常の学術誌や国際会議のような査読とは違います。そのため、arXiv を読むときには、「研究コミュニティの関心がどちらを向いているか」を見るには向いている一方、「この結論は確定的か」を見るには慎重さが必要です。
それでも、AI分野では arXiv の存在感は非常に大きいです。AIや機械学習の研究はスピードが速く、正式出版を待っていると、議論が先に進んでしまうことがあります。そのため、研究者は新しいモデル、新しいベンチマーク、新しい評価手法を arXiv に早く出し、コミュニティの反応を得ることが多い。
つまり arXiv は、AI研究の「完成品カタログ」というより、研究者たちがいま何に困り、何に賭け、何を試しているのかが出やすい場所です。
だから、arXiv のトレンドを読むことは、AI研究の現在地を読むうえでかなり有効です。
2. 量の増加だけでは変化を説明できない
arXiv の2021年年次報告では、新規投稿数は181,630本でした。2022年には185,692本、2023年には208,493本となっています。2023年10月には、月間投稿数が20,710本となり、過去最高を更新しました。
この数字だけを見ると、「AIブームで論文が増えた」という話に見えますが、実際にはもう少し複雑です。arXiv全体の投稿量が増えているということは、研究成果の流通速度が上がっているということでもあります。同時に、読む側にとっては、すべてを追うことがますます不可能になっているということでもあります。
研究者にとっても、企業の開発者にとっても、AIに関心を持つ人にとっても、問題は「論文があるか」ではなく、「どの論文を読むべきか」「どの流れが本当に重要か」「どの主張はまだ仮説にすぎないか」になってきました。
NLLG の2024年レポートが示すように、AI論文の上位集合の入れ替わりも速くなっています。トップ40の高被引用論文のうち45%が前回からの新規エントリだったという事実は、単に数が増えているだけでなく、影響力を持つ論文の顔ぶれも短期間で変わっていることを示しています。
ここから読み取れるのは、AI研究が「蓄積される学問」であると同時に、「非常に速く流れる情報環境」になっているということです。だからこそ、最近の arXiv を読むには、個々の論文だけでなく、論文同士の位置関係、テーマの移動、評価軸の変化を見る必要があります。
3. 2020〜2021年：基盤モデルとTransformer化の時代
2020年前後の AI 論文を振り返ると、大きな焦点は基盤モデルにありました。基盤モデルとは、特定のタスクだけのために作られた小さなモデルではなく、大量のデータで事前学習され、多様な用途に転用できる大きなモデルのことです。
この時期を象徴する論文のひとつが GPT-3 です。GPT-3 は、「Language Models are Few-Shot Learners」という論文名の通り、少数の例を文章内に示すだけで、多様なタスクに対応できる可能性を示しました。few-shot とは「少数例」のことで、たくさんの専用データで再学習しなくても、数個の例示でタスクをこなす能力を指します。
ここで重要だったのは、単にモデルが大きくなったことではありません。モデルが大きくなることで、「タスクごとに細かく作り込む」よりも、「大きなモデルにうまく指示する」方向が見え始めたことです。これは、後のプロンプト設計、指示追従、ChatGPT 的な使い方につながっていきます。
同じ2020年には、RAG も重要な転換点でした。RAG は Retrieval-Augmented Generation の略で、日本語では検索拡張生成と訳せます。これは、モデルの内部に覚え込ませた知識だけで答えるのではなく、外部の文書検索を使い、その検索結果をもとに生成する考え方です。
RAG の意味は大きいです。なぜなら、AIモデルを「すべてを暗記した箱」として見るのではなく、外部の知識源と接続されたシステムとして見る道を開いたからです。これは現在の社内文書検索、ナレッジベース連携、AIエージェント設計にもつながっています。
画像分野では DETR や CLIP も大きな意味を持ちました。DETR は物体検出を Transformer で扱う方向を示しました。Transformer はもともと自然言語処理で広く使われた構造ですが、それが画像理解にも広がっていった。CLIP は、画像とテキストを同じ空間で対応づけることで、「画像を言葉で扱う」方向を強めました。
この時期の流れをまとめると、中心にあった問いはこうです。
もっと大きく、もっと汎用的なモデルを作れば、どこまで多くのタスクに対応できるのか。
つまり、まだ主役は「モデルそのもの」でした。
4. 2022年：プロンプトと推論の時代
2022年ごろになると、焦点は少し変わります。モデルを大きくするだけでなく、モデルをどう使えば能力を引き出せるのかが重要になります。
代表的なのが Chain-of-Thought Prompting です。Chain-of-Thought は直訳すると「思考の連鎖」です。これは、モデルにいきなり答えだけを出させるのではなく、途中の考え方や推論過程を言葉にさせることで、複雑な問題を解きやすくする手法です。
ここでの変化は、かなり重要です。以前は、AIモデルの出力は「答え」が中心でした。しかし Chain-of-Thought 以降、研究者は「答えに至る途中の道筋」そのものに注目するようになりました。これは、AIの能力を引き出すだけでなく、AIがどのように考えているように見えるかを観察する手がかりにもなりました。
ただし、注意も必要です。モデルが出す推論過程は、人間の思考過程と同じとは限りません。もっともらしい説明を後から作っている可能性もあります。そのため、Chain-of-Thought は便利な手法である一方、AIの内面をそのまま可視化するものだと考えるのは危険です。
同じ流れで重要なのが ReAct です。ReAct は Reasoning and Acting、つまり「推論」と「行動」を組み合わせる考え方です。モデルが考えるだけでなく、検索したり、ツールを使ったり、環境に働きかけたりする。この方向は、いまの AI エージェント研究の入口になりました。
この時期に、プロンプトは単なる「入力文」ではなくなります。プロンプトは、AIに何を見せ、どう考えさせ、どの順番で行動させるかを決める設計インタフェースになっていきました。
つまり、2022年ごろの問いはこうです。
モデルはある。その能力を、どう促せば引き出せるのか。
ここで、研究の中心は「モデルを作る」から「モデルを動かす」へ少しずつ移り始めます。
5. 2023年：ChatGPT後の拡張期
2023年以降、ChatGPT の影響で LLM、つまり大規模言語モデルへの関心は一気に高まりました。ただし、この時期を「LLM一色」とだけ見ると、少し読み間違えます。
NLLG の分析でも、cs.CL、つまり計算言語学はなお強い一方で、cs.CV、つまりコンピュータビジョン、cs.LG、つまり機械学習の存在感が高まっていることが示されています。さらに、2024年版では、マルチモーダルアーキテクチャ、diffusion、state-space models などが新しい潮流として挙げられています。
マルチモーダルとは、テキストだけでなく、画像、音声、動画、センサー情報など、複数の種類の情報を扱うことです。人間は文章だけで世界を理解しているわけではありません。目で見て、耳で聞いて、体験を通じて判断しています。AIも同じように、言語だけではなく、画像や動画を扱う方向へ進んでいきました。
LLaVA は、その流れを象徴する研究のひとつです。LLaVA は、画像と言語モデルを接続し、画像について会話できるようにする方向を示しました。簡単に言えば、「画像を見て答えるAI」の研究です。
Segment Anything も重要です。これは画像分割、つまり画像の中の対象領域を切り分けるタスクを、より汎用的に扱う方向を示しました。名前の通り、「何でも分割する」ことを目指したモデルです。ここでも、特定用途向けの小さなモデルではなく、広い用途に使える基盤モデルの考え方が画像分野に広がっています。
Voyager は、さらに別の方向を示しました。これは、環境の中でAIが探索し、スキルを蓄積していくエージェント研究です。ここでのAIは、単に質問に答える存在ではありません。環境の中で試し、失敗し、道具を使い、経験を蓄積する存在として扱われます。
2023年の変化は、こう言えます。
AIは「答えるモデル」から、「見て、考えて、行動するシステム」へ広がり始めた。
6. 2024〜2026年：運用・検証・環境接続の時代
2024年以降の流れを見ると、研究の関心はさらに現実寄りになります。単に「賢いモデル」を作るだけではなく、そのモデルをどう整え、どう評価し、どう安全に使い、どう現実の作業に組み込むかが前に出てきます。
ここでよく出てくる言葉が post-training です。post-training は、事前学習が終わったモデルを、人間の指示や好み、安全性、用途に合わせてさらに整える工程です。たとえば、人間にとって好ましい回答を出しやすくする、危険な回答を避ける、特定の形式に従いやすくする、といった方向です。
DPO、つまり Direct Preference Optimization は、この post-training の流れを象徴する手法のひとつです。ざっくり言えば、人間の好みに合う出力を選びやすくするための学習方法です。ここでは、モデルの「知識量」だけでなく、「どう振る舞うか」が研究対象になります。
uncertainty estimation、つまり不確実性推定も重要です。これは、モデルが自分の答えにどれくらい確信を持てるか、不確かさをどう見積もるかという研究です。AIを実務で使うとき、常に正しい答えが返ってくるわけではありません。むしろ大事なのは、間違える可能性があるときに、それをどう検知するかです。
benchmark、つまりベンチマークも変わっています。昔からベンチマークはありましたが、最近は単純な正解率だけでなく、長い作業、複数ステップの推論、ツール利用、エージェントの行動、実務に近い作業能力を測るものが増えています。これは、AIが単発の質問応答を超えて、作業の流れの中に入ってきたからです。
multi-agent、つまり複数エージェントの研究も広がっています。これは、1つのAIだけで完結させるのではなく、複数のAIが役割分担したり、議論したり、互いに検証したりする設計です。人間の組織でも、1人ですべてを決めるより、複数人でレビューした方が安定する場合があります。AIでも同じように、役割分担や相互チェックの研究が進んでいます。
formal proof search、つまり形式的証明探索も注目されます。これは、数学やプログラム検証のように、厳密なルールの下で証明を探す研究です。ここでは、AIの出力が「なんとなく正しそう」では足りません。論理的に正しいか、検証可能かが重要になります。
この時期の問いは、こう言えます。
モデルを賢くするだけでは足りない。壊れにくく、検証しやすく、現実の作業に入れやすくするにはどうするか。
7. 代表論文は「名前」ではなく「何を変えたか」で読む
AI論文の話は、論文名や手法名が多くなると、すぐに読みにくくなります。そこで、代表論文は「何を変えたのか」で読むと見通しがよくなります。
GPT-3 は、巨大な言語モデルが少数例から幅広いタスクに対応できる可能性を示しました。ここで、「モデルを細かく作り替える」よりも、「大きなモデルにどう指示するか」が重要になりました。
RAG は、モデルを外部知識と接続する方向を示しました。これは、AIを閉じた箱としてではなく、検索、文書、データベースとつながるシステムとして見る発想につながります。
DETR や CLIP は、画像分野でも Transformer や言語との接続が重要になることを示しました。これにより、言語処理と画像処理の境界が少しずつ薄くなっていきました。
Chain-of-Thought は、答えだけでなく、途中の推論を扱う方向を示しました。AIの出力を「答え」だけで見るのではなく、「どう答えに至ったように見えるか」まで扱う流れです。
ReAct は、推論と行動をつなげました。これは、検索、ツール利用、環境操作を含むエージェント設計の入口になりました。
LLaVA は、画像と言語をつなげました。これにより、AIはテキストだけでなく、画像を見て説明したり、画像について会話したりする方向へ進みました。
Segment Anything は、画像分割をより汎用的なタスクとして扱いました。画像分野にも、基盤モデルの考え方が本格的に広がったと言えます。
DPO は、モデルを人間の好みに沿って整える流れを強めました。ここでは、モデルの能力だけでなく、モデルの振る舞いをどう整えるかが重要になります。
Voyager は、環境の中で経験やスキルを蓄積するAI像を示しました。これは、AIを単なる回答機械ではなく、作業世界の中で成長するエージェントとして見る方向です。
こうして見ると、変化は1本線ではありません。少なくとも3つの流れが合流しています。
1つ目は、基盤モデルの巨大化です。
2つ目は、検索、ツール、環境との接続です。
3つ目は、post-training や評価による振る舞いの整形です。
最近の arXiv を読んでいて「論文の匂いが変わった」と感じるなら、おそらくこの3つが合流しているからです。以前は「新しいモデル」で1本の論文になった。いまは「モデル、データ、検索、行動、評価、安全性、運用」を束ねて1本の論文になることが増えています。
8. 変化の本質：AI研究は「作る」から「働かせる」へ移っている
この流れをまとめるなら、AI研究は次のように変化していると言えます。
単体モデルの性能競争から、モデルを働かせるためのシステム設計へ。
ここで言う「働かせる」は、単に業務で使うという意味だけではありません。モデルが外部情報を取り込み、ツールを使い、複数ステップの作業を進め、途中で検証され、失敗したら戻れる状態にすることまで含みます。
たとえるなら、以前のAI研究は「より高性能なエンジンを作る競争」に近かった。出力が強いか、速いか、燃費がよいかを競っていた。
いまは、そのエンジンをどの車体に載せるのか、どんな道路を走らせるのか、運転中に故障したらどう検知するのか、整備記録をどう残すのか、誰が安全確認するのか、というところまで研究対象になっています。
この比喩で見ると、最近のキーワードも理解しやすくなります。
RAG は、車に外部ナビをつけるようなものです。
エージェントは、車が目的地に向かって行動する仕組みに近い。
post-training は、運転の癖や安全基準を調整する工程です。
benchmark は、試験コースです。
uncertainty estimation は、車が「いま危ないかもしれない」と判断するセンサーに近い。
multi-agent は、1台の車というより、複数の車や管制システムが協調する世界に近い。
もちろん比喩なので限界はあります。ただ、専門外の読者にとっては、AI研究が「頭の良さ」だけを競う段階から、「現実に動かすための全体設計」へ移っていることが伝わりやすくなります。
9. arXiv自体も、AI時代の研究流通に合わせて変わっている
ここで見落としてはいけないのが、変わっているのはAI論文の中身だけではないという点です。研究を流通させる arXiv 自体も、変化に対応しようとしています。
arXiv の公式レポートページには、2021年、2022年、2023年、2024年の年次報告が並んでおり、arXiv が毎年の運営状況を公開していることがわかります。
また、2025年10月には、コンピュータサイエンス分野におけるレビュー論文やポジションペーパーについて、査読済みであることを求める運用に変更されました。arXiv はその理由として、レビュー論文やポジションペーパーの流入が管理不能なほど増えていること、大規模言語モデルによって新規研究結果を含まない文書が簡単に生成されるようになったことを挙げています。
これはかなり象徴的です。AIが論文を書く支援にも使われるようになると、研究流通の場には新しい負荷がかかります。質の高い研究を早く共有したい。一方で、粗いまとめ記事、実質的な新規性の乏しい文章、生成AIで量産されたような文書が増えすぎると、読者もモデレーターも疲弊します。
さらに、arXiv は非英語論文についても、2026年2月11日から、原文または翻訳として全文の英語版を求める運用へ変更しています。その理由として、モデレーションの透明性と公平性、そして読者への到達性を挙げています。
この変化は、AI研究の社会化と関係しています。研究がグローバルに流れ、量が増え、機械翻訳や生成AIも使われるようになると、研究流通基盤には「速く流す」だけでなく、「読める形にする」「検証しやすくする」「モデレーション可能にする」ことが求められます。
つまり、arXiv の変化もまた、AI研究のトレンドの一部です。AI研究は、モデルの中だけで完結しなくなった。研究の流通、評価、整理、品質管理まで含めて、AI時代の設計問題になっています。
10. モデル性能だけでは見えなくなってきたもの
ここまで見てくると、AI論文を読むときの目線も少し変わってきます。新しいモデルがどれくらい高いスコアを出したのかは、もちろん重要です。ただ、それだけでは最近の流れを追いきれません。
むしろ注目したいのは、そのモデルがどのように使われる前提で設計されているのか、何と接続されているのか、どのように評価されているのか、失敗したときにどう検知できるのか、といった点です。
たとえば RAG、つまり検索拡張生成は、モデルを外部文書やデータベースとつなぐための基本技術です。モデル単体の知識だけではなく、検索された根拠を使って答えることに意味があります。ここでは、モデルの性能だけでなく、検索対象の品質、根拠の提示、情報の更新可能性が重要になります。
agent、つまりエージェントは、モデルが複数ステップの作業を進めたり、ツールを使ったり、環境に働きかけたりする設計です。単発の質問応答ではなく、目的に向かって行動する仕組みが問われます。ここでは、途中で何を判断したのか、どこで失敗したのか、人間がどの段階で介入できるのかが大事になります。
post-training は、学習済みモデルを人間の用途や安全性に合わせて整える工程です。モデルが何を知っているかだけでなく、どう振る舞うか、どんな回答を避けるか、どんな形式で答えるかが調整されます。
evaluation、つまり評価も重要です。AIが本当に使えるのか、どこで壊れるのか、どの条件で信頼できるのかを調べる研究です。単純な正解率だけではなく、長い作業をどこまで維持できるか、曖昧な指示にどう対応するか、根拠をどのように扱うか、といった評価が必要になります。
benchmark、つまりベンチマークも、単なる試験問題から、より作業に近い環境へ広がっています。最近は、実務に近い長いタスクや、ツール利用、複数ステップの推論、エージェント的な行動を測るものが増えています。
uncertainty、つまり不確実性も見逃せません。AIが自分の答えにどれくらい自信を持てるのか、間違えそうな場面をどう見つけるかという問題です。実際にAIを使う場面では、間違いを完全になくすことだけでなく、間違えそうなときに気づけることが重要になります。
multi-agent governance、つまり複数のAIや人間が関わる場合の管理も、今後の論点になります。複数のAIが協調したり、人間と一緒に判断したりするとき、誰が何を確認し、どこで責任を持ち、どのように品質を保つのかが問われます。
こうした論点はどれも、「モデルが賢いか」だけでは見えにくいものです。最近のAI研究は、モデルの能力そのものに加えて、モデルが置かれる環境、接続される情報、使われる手順、検証される仕組みまで含めて見ないと、全体像をつかみにくくなっています。
11. AI研究が現実の作業に近づいている
この変化は、研究者や開発者だけの話ではありません。AIが現実の作業に入ってくるほど、論点は技術そのものから、使われ方、責任、品質管理へ広がっていきます。
以前のAIの話は、「人間を超えるのか」「どこまで賢くなるのか」といった抽象的な語り方をされることが多かったように思います。もちろん、それも重要な問いです。ただ、最近の研究動向を見ると、もう少し地に足のついた問いが増えています。
仕事の流れにどう入るのか。
間違えたときにどう気づくのか。
誰が品質を担保するのか。
どの情報を根拠に答えたのか。
途中の判断を後から追えるのか。
人間が介入すべきタイミングはどこか。
組織の中でどう管理するのか。
これは、AIに詳しい人だけが考える話ではありません。企業でAIを使う人、教育でAIを使う人、行政でAIを使う人、文章作成や調査にAIを使う人すべてに関わります。
AI研究が「モデルを作る」から「モデルを働かせる」へ移っているということは、AIが研究室の中だけでなく、現実の仕事、制度、責任、品質管理の中に入ってきたということです。
だから、これからAIを見るときは、「すごいモデルか」だけでなく、次のような視点を持つと見え方が変わります。
そのAIは、何に接続されているのか。
根拠を確認できるのか。
失敗したときに戻れるのか。
人間が判断できる余地があるのか。
運用の中で改善できるのか。
この見方を持つだけで、AIニュースや論文紹介の読み方はかなり変わります。AIが「何を答えられるか」だけでなく、「どのような状態で、誰と一緒に、どこまで任せられるのか」を見るようになるからです。
さいごに
2020年前後には、巨大な基盤モデル、事前学習、検索拡張、Transformer 化が大きな焦点でした。2022年ごろには、Chain-of-Thought や ReAct によって、モデルをどう使い、どう推論させ、どう行動につなげるかが前に出ました。2023年以降は、ChatGPT 後の波の中で、マルチモーダル、エージェント、評価、安全性、post-training が一気に広がりました。そして2024年以降は、AIを現実の作業、制度、検証、品質管理の中にどう入れるかが、ますます重要になっています。
この変化をひとことで言えば、こうです。
AI研究は、「モデルを作る研究」から「モデルを働かせる研究」へ移っている。
そして、その変化は論文の中身だけでなく、arXivという研究流通基盤の変化にも表れています。投稿が増え、生成AIによる文書作成が容易になり、モデレーションや品質管理の負荷が高まる中で、研究をどう速く、どう開かれた形で、どう信頼できる状態で流すかもまた、AI時代の重要なテーマになっています。
いいなと思ったら応援しよう！
よろしければサポートお願いします！ 