見出し画像

GPT-4o超えの国産LLM爆誕!「LLM-jp-4」を明日メインPCで試します【予告編】

こんにちは!YaroTechです。

4月3日、国立情報学研究所(NII)から衝撃的なニュースが飛び込んできました。日本語MT-BenchでGPT-4oを上回るスコアを叩き出した国産LLM「LLM-jp-4」がオープンソースで公開されたのです。

しかもこれ、学習データからモデルの重みまですべてフルスクラッチ。国の機関が本気で作った「純国産AI」です。

というわけで、明日のDay269ではこのモデルを実際にメインPCにインストールして動かしてみます!今日はその前に「LLM-jp-4って何がすごいの?」を整理する予告編です。

※見出し画像のプロンプトは一番下におまけで公開中!



🖥️ 実行環境

$$
\begin{array}{|l|l|} \hline
\text{項目} & \text{内容} \\ \hline
\text{記事作成PC} & \text{ThinkPad X1 Carbon Gen 13(RAM 32GB)} \\ \hline
\text{OS} & \text{Windows 11 Home 25H2} \\ \hline
\text{担当AI} & \text{クロ助(Claude Desktop)} \\ \hline
\text{明日の検証PC} & \text{メインPC(RTX 3050 8GB VRAM / RAM 128GB)} \\ \hline
\end{array}
$$


🎯 この記事で得られること

  • LLM-jp-4とは何か、なぜ注目されているかが分かる

  • 2つのモデル(8B / 32B-A3B)の違いが分かる

  • GPT-4oを上回ったベンチマーク結果の中身が分かる

  • 明日の検証で何を試すかの計画が分かる


🏯 LLM-jp-4って何?

LLM-jp-4は、国立情報学研究所(NII)が主宰する産学連携コミュニティ「LLM-jp」が開発した国産の大規模言語モデルです。2600名以上の研究者・エンジニアが参加する日本最大規模のLLM開発プロジェクトの最新成果として、2026年4月3日にオープンソースライセンスで公開されました。

ポイントは3つ:

① 日本語性能がGPT-4oを超えた

日本語MT-Bench(対話理解力テスト)のスコア:

$$
\begin{array}{|l|l|l|} \hline
\text{モデル} & \text{日本語MT-Bench} & \text{英語MT-Bench} \\ \hline
\text{LLM-jp-4 32B-A3B} & \text{7.82} & \text{7.86} \\ \hline
\text{LLM-jp-4 8B} & \text{7.54} & \text{7.79} \\ \hline
\text{GPT-4o} & \text{7.29} & \text{7.69} \\ \hline
\text{Qwen3-8B} & \text{7.14} & \text{7.69} \\ \hline
\end{array}
$$

8Bモデルですらも、GPT-4oのスコア7.29を上回る7.54を記録。86億パラメータという比較的コンパクトなサイズでこの性能は驚きです。

② 12兆トークンの良質データで学習

学習に使われたデータは約12兆トークン。前バージョンの約6倍です。インターネット上の公開データだけでなく、政府・国会の文書や合成データなど、日本語として質の高いテキストを厳選して使っています。

③ 完全オープンソース

モデル本体だけでなく、学習に使用したデータセットもすべて公開。第三者が追試・改良できる透明性の高さが学術プロジェクトならではです。


🤖 2つのモデルの違い

今回公開されたのは2つのモデルです。

$$
\begin{array}{|l|l|l|} \hline
\text{} & \text{LLM-jp-4 8B} & \text{LLM-jp-4 32B-A3B} \\ \hline
\text{パラメータ数} & \text{約86億} & \text{約320億(アクティブ約38億)} \\ \hline
\text{アーキテクチャ} & \text{Llama 2} & \text{Qwen3 MoE} \\ \hline
\text{構造} & \text{標準的なTransformer} & \text{MoE(専門家混合)} \\ \hline
\text{動作の軽さ} & \text{軽量} & \text{パラメータ数の割に軽い} \\ \hline
\text{最大トークン} & \text{約65,000} & \text{約65,000} \\ \hline
\end{array}
$$

MoE(Mixture of Experts) とは、モデル内に複数の「専門家ネットワーク」を持ち、入力に応じて最適な専門家だけを稼働させる仕組みです。32B-A3Bの「A3B」はアクティブパラメータが約38億であることを示しており、320億パラメータの知識量を持ちながら、推論時は38億パラメータ分の計算量で済むという効率の良さがあります。


🔧 明日の検証計画

Day269では、メインPC(RTX 3050 / RAM 128GB)で実際にLLM-jp-4 8Bを動かします。

試す方法の候補:

  • パターン1: Ollama(GGUF版が公開されていれば最も手軽)

  • パターン2: Transformers(Python)(HuggingFace公式形式で直接実行)

  • パターン3: 自力GGUF変換(llama.cppで変換→Ollamaに登録)

GGUF版がコミュニティからまだ出ていなければ、自力変換にも挑戦してみます。これ自体が記事ネタになりそうです。

テストプロンプト(ラズパイシリーズと共通):

  1. 日本語要約:「AIの歴史を200字で説明してください」

  2. コーディング:「PythonでFizzBuzzを書いてください」

  3. 推論:「りんごが3個、みかんが5個あります。2人で均等に分けるには?」

ラズパイのqwen2:0.5bやllama3.2:1bは日本語がボロボロでしたが、日本語MT-BenchでGPT-4o超えのLLM-jp-4はどうでしょう?期待が高まります。


💡 Day245との関係

Day245「国産LLM7選にAI5兄弟が本気で推し語り」で、デジタル庁が選定した国産LLMを紹介しました。あの記事ではtsuzumi 2(NTT)やPLaMo 2.0 Prime(PFN)など企業主導のモデルが中心でしたが、今回のLLM-jp-4は学術研究機関が主導するオープンソースモデルです。

Day245でジミーが推していたPLaMo、クロ助が推していたtsuzumiに続いて、「学術界からの刺客」が登場したことになります。明日の検証が楽しみです!


🔗 関連記事


📝 まとめ

  • NIIが国産LLM「LLM-jp-4」をオープンソースで公開(4/3)

  • 日本語MT-BenchでGPT-4o(7.29)を上回る7.54〜7.82を達成

  • 8Bと32B-A3B(MoE)の2モデル、12兆トークンでフルスクラッチ学習

  • 明日Day269でメインPC(RTX 3050)に入れて実際に試す予定


🚀 次回予告

Day269:国産LLM「LLM-jp-4」をメインPCで動かしてみた【検証編】

Ollama or Transformersでインストールし、日本語・コーディング・推論の3問テストを実施。ラズパイで試した海外モデルとの比較も交えてレポートします。お楽しみに!


🎨 おまけ:見出し画像作成プロンプト

今日の見出し画像のベースはジミー(Gemini)に下記プロンプトで作成。

詳細なアニメの美意識の画像を作成〜表情豊かな瞳、なめらかな網掛けセルの色使い〜
下記条件のnote見出し画像をサイズは横長で作成

テーマ:国産LLM「LLM-jp-4」がGPT-4oを超えた
雰囲気:日本の学術研究の力強さ、テクノロジーの興奮
要素:
- 日の丸をモチーフにした赤と白のグラデーション背景
- 中央にLLMを象徴するニューラルネットワークの光るノード
- 「LLM-jp-4」のテキストを大きく配置
- 周囲にベンチマークのスコア数値が浮かぶ演出
- 研究者やコミュニティを連想させる群衆シルエット
```

**Step 7**: 下部中央寄りに「YaroTech」のロゴを12ptで控えめに配置
**Step 8**: 全体のバランスを確認して完成

#生成AI #国産LLM #LLMjp4 #NII #ローカルLLM #Ollama #オープンソース #GPT4o #日本語AI #YaroTech

いいなと思ったら応援しよう!

YaroTech|生成AIの傾奇者 記事がお役に立てたなら嬉しいです! いただいたチップは、新しいMCPツールの検証や、より深い実践実験の資金として大切に使わせていただきます。 あなたの応援が次の「AI活用の感動」を生み出す原動力になります✨ 一緒に羽ばたき続けましょう!