生成から予測へ:世界モデル時代の Personal Vault 設計論JEPA・SIGReg を Obsidian/Qdrant・マルチモーダルエージェント基盤へ移植する(改訂版)
目次
超要約(はじめに読む)
序章 三つの切り口と、通底する二つの軸
第I部 JEPA 的自己教師あり学習をテキスト/知識グラフへ移植する
第1章 トークン予測から表現予測へ——なぜ移植が非自明か
第2章 Text-JEPA/Graph-JEPA のアーキテクチャ設計
第3章 Obsidian Vault への写像——ノート・リンク・frontmatter
第II部 V-JEPA 2 系のエージェント設計パターン
第4章 凍結エンコーダ+行動ヘッド+潜在 MPC の原理
第5章 マルチモーダル・エージェント——LLM と世界モデルの橋渡し
第6章 実運用基盤への落とし込み——n8n/Hermes/Qdrant/Claude Code/関所モデル
第III部 SIGReg を埋め込み崩壊対策へ転用する
第7章 ベクトル埋め込みの異方性と崩壊——何が問題か
第8章 SIGReg を後付け正則化・健全性診断に使う
第9章 Qdrant 運用への実装——量子化・HNSW・等方性の相互作用
第10章 同定可能性は Vault に移植できるか——O(n)-トルソルと回転不変な検索
第IV部 実験プロトコル——Phase 1〜5
Phase 1:SIGReg 診断のみ(即時・低リスク)
Phase 2:Qdrant 埋め込みの等方化 A/B
Phase 3:Graph-JEPA 風の構造検索
Phase 4:関所モデルへ潜在スコアを導入
Phase 5:センサ/動画モデルとの接続(将来構想)
終章 三本の統合と未解決リスク
主要参照
付録A Phase 1 診断スクリプト(実行可能 Python)
超要約(はじめに読む)
現在の言語モデルは、次トークンを当てる自己回帰(AR)か、伏せた語を復元するマスク言語モデル(MLM)に依存し、損失を語彙空間で測る。ヤン・ルカンの JEPA(Joint Embedding Predictive Architecture)は、ここを根本から変える。伏せた領域の「正解トークン」ではなく、それを写した「表現ベクトル」を文脈側から予測し、損失を抽象表現空間で測る。表層の揺れ(語選択・語順)はエンコーダが捨て、予測可能な構造だけにモデル容量を割く。これが本稿で繰り返す「生成ではなく予測」である。世界モデルは、この予測器を「現在状態+行動→未来状態」へ拡張し、コスト関数を最小化する行動系列を推論時に探索する枠組みだ。
本稿は、この二つの発想を、物理ロボティクスではなく、個人のナレッジ基盤(Obsidian Vault・Qdrant・n8n・Hermes・Claude Code)へ移植できるかを検討する設計研究である。扱う切り口は三本。第一に JEPA 的自己教師あり学習をテキスト/知識グラフへ移すこと、第二に V-JEPA 2 系のエージェント設計パターンを既存の LLM エージェント基盤へ接ぎ木すること、第三に SIGReg の「等方ガウス拘束」を埋め込み空間の崩壊対策へ転用することである。
本改訂版ではさらに、整列とガウス正則化の組が潜在構造を回転を除いて回復するという同定可能性の結果〔Klindt・LeCun・Balestriero, arXiv:2605.26379〕を踏まえ、SIGReg を「等方化の化粧」から「構造回復の処方の片割れ」へ位置づけ直す。ただしその保証は潜在のガウス性・遷移の定常性・平均回帰という仮定の上にしか立たないため、Vault に移植できるか否かを第10章で正直に切り分ける。
なお本稿は確立した結果と筆者の提案・仮説を区別して書く。後者は明示する。読む順序としては、この超要約で全体地図をつかんだのち、序章で二軸を確認し、関心に応じて第I部(テキスト/グラフ)・第II部(エージェント)・第III部(埋め込み運用と第10章の同定可能性)のいずれへ進んでもよい。実装から入りたい読者は第IV部の Phase 表と付録Aの診断スクリプトへ直行できる。
