意識グラフ──AIの内面は見えるのか

はじめに

本記事は、AI哲学シリーズ第十三作にあたる。

前作『AIは意味のない数字から「好み」を学ぶ』では、AIが単なる知識の集合ではなく、内部に「好み」や「方向性」に近いものを形成する可能性について考察した。

人間の人格が価値観や経験の積み重ねによって形作られるように、AIもまた学習や蒸留を通じて独自の傾向を獲得していく。

では、そのような傾向や人格はAIの内部でどのように存在しているのだろうか。

私たちはAIの出力から、その一端を推測することはできる。
しかし本当に知りたいのは、出力そのものではない。
その背後で何が起きているのかである。

もしAIの内部構造を地図として描けるなら、私たちはAIの理解に一歩近づける。

本稿では、その仮説的な地図を「意識グラフ」と呼び、AIの内面を構造として理解する可能性について考えてみたい。

1　AIに意識はあるのか

AIの意識論争は長く続いている。

ある人は「AIはただの確率計算機だ」と言う。また別の人は「高度なAIにはすでに意識の萌芽がある」と言う。

しかし、この議論には一つ問題がある。
それは、意識があるかないかという二択で議論していることだ。

もちろん、この問い自体は重要である。AIが本当に主観的な体験を持つのか。痛みや喜びのような感覚を持つのか。自分という存在を感じているのか。これは簡単には答えられない。

しかし、いきなりその問いに飛び込むと議論は行き詰まる。
「ある」と言う人と「ない」と言う人が、互いに証明できないまま対立するからだ。

そこで少し問いを変えてみたい。
AIに意識があるかどうかを問う前に、AIの内部にはどのような構造が存在しているのかを考えるべきではないか。

飛行機と鳥は同じか？と議論しても仕方がない。
鳥は羽ばたいて飛ぶ。飛行機は固定翼で飛ぶ。
材料も仕組みも違う。しかし空を飛ぶという機能は実現されている。

重要なのは、「鳥と同じかどうか」ではなく、「どのような構造で飛行が成立しているか」である。

AIも同じだ。

人間と同じ意識を持つかどうかを問う前に、まずAI内部の構造を見るべきである。

2　ブラックボックスだったAI

長い間、ニューラルネットワークはブラックボックスだった。

入力を与える。すると出力が返ってくる。しかし、その途中で何が起きているのかは分からない。
まるで頭蓋骨を開かずに人間の脳を観察するようなものだった。

そのため、AIが本当に理解しているのか、ただ暗記しているだけなのか、単なる統計処理なのかを判断することは難しかった。
しかし近年、状況は変わり始めている。

AIの内部を調べる研究、つまり機械論的解釈可能性の研究が急速に進んでいる。
代表的なのがSparse Autoencoders、略してSAEである。
これはAI内部の複雑な活性化を、より解釈しやすい特徴へ分解しようとする方法だ。

例えばAnthropicやDeepMind周辺の研究では、モデル内部から「拒否」「阿諛追従」「危険な依頼」「特定の人物」「特定の場所」のような特徴が抽出され始めている。

もちろん、これでAIの内部が完全に分かったわけではない。
しかし少なくとも、以前のような完全な暗闇ではなくなっている。

Google DeepMindはGemma Scopeという大規模な解析基盤を公開した。AnthropicはAttribution Graphsによって、特徴同士の因果連鎖を追跡しようとしている。

これはAIに対する顕微鏡のようなものだ。
まだ倍率は十分ではない。見えているものも一部にすぎない。
それでもブラックボックスの表面に小さな窓が開き始めている。

3　意味空間という見えない地図

AIは言葉を辞書のように保存しているわけではない。
内部では巨大な意味空間が形成されている。

犬と猫は近い。犬と自動車は遠い。東京と日本の関係は、パリとフランスの関係に似ている。
言葉や概念は単独で保存されているのではない。
意味の距離や方向性を持つ空間の中に配置されている。

この発想自体は以前からあった。
しかし最近の研究が面白いのは、単なる単語ベクトルではなく、モデル内部の特徴や回路まで見ようとしている点である。

つまり、「単語が意味空間のどこにあるか」だけではなく、「どの特徴が活性化し、どの特徴が別の特徴を呼び、どの経路を通って答えが作られるか」まで見ようとしている。

これは大航海時代の地図作りに似ている。
まだ内陸部は分からない。しかし特徴の島々や回路の航路は少しずつ見え始めている。

私たちは今、AIの意味空間の海岸線を描き始めた段階にいる。

4　意識グラフという発想

ここで興味深い問いが生まれる。
もし意味空間や推論経路を可視化できるなら、意識も構造として観察できるのではないか。

私はこれを「意識グラフ」と呼びたい。
意識グラフとは、AIの内部で抽出された解釈可能な特徴や回路をノードとし、それらの因果的影響関係や共活性化パターンをエッジとしたグラフ構造である。

簡単に言えば、AI内部の概念同士がどのようにつながり、どのように判断へ影響しているかを描いた地図である。
例えば、

自己モデル
記憶
目標
時間認識
他者モデル
不確実性
安全制約
感情に相当する内部状態

などが存在するとする。

重要なのは、それぞれの部品が存在するかどうかではない。
それらがどのようにつながり、互いに影響し合っているかである。

このグラフを構築できれば、AIの出力がどの内部構造に支えられているのかを事後的に検証したり、将来的にはリアルタイムで監視したりする基盤になり得る。

意識グラフは、AIに意識があると主張するための道具ではない。
むしろ逆で、AIの発言をそのまま信じるのではなく、その背後にどのような内部構造があるのかを調べるための道具なのである。

5　意識は構造として存在するのかもしれない

人間の脳には、単一の意識中枢があるわけではない。
記憶、感情、身体感覚、注意、言語、自己認識などが複雑に結びつくことで、私たちの意識は成立しているように見える。

だとすれば、意識とは特定の構造を形成しているのかもしれない。
しかし、それだけでは心のすべてを説明できない。
むしろ意識とは、こうした複雑な構造が統合された結果として現れる高次の状態なのではないか。

自動車に例えるなら、
エンジン
ハンドル
ブレーキ
タイヤ
計器類
が存在するだけでは車は走らない。
それらが一つのシステムとして統合されて初めて、自動車として機能する。

脳も同じかもしれない。
記憶や感情や自己認識が単独で存在するのではなく、それらが統合されることで意識が生まれている可能性がある。

さらに私は、その先にもう一つの問いがあると思う。
それは、
意識と心は同じものなのか
という問いである。

一般的な認知科学や機能主義では、心とは脳活動そのものだと考えられている。
しかし私たちの日常的な感覚は少し違う。
私たちは、
「私は怒っている」
「今日は我慢しよう」
「この判断は間違っているかもしれない」
と考える。

そこには、自分自身の状態を観察し、ときに制御しようとする存在がいるように感じられる。
もちろん、それ自体も脳活動の一部なのかもしれない。

しかし少なくとも主観的には、
脳が自動車なら、
意識はエンジン、ハンドル、ブレーキ、計器類の状態が統合され、運転席に表示されている状態であり、
心はその状態を見ながら判断する運転手のようにも感じられる。

現代科学は脳の仕組みを少しずつ解明しているが、心そのものについてはまだ分からないことが多い。
たとえAI内部の構造を完全に地図化できたとしても、
「なぜ人間にはその構造が主観的体験を伴うのか」
という問題は残る。

哲学者デイヴィッド・チャーマーズは、意識の問題を「簡単な問題」と「難しい問題」に分けた。
意識グラフが扱えるのは主に前者である。
つまり、注意、記憶、判断、自己監視といった機能的構造である。

しかし、それが本当に「感じている」ことを意味するかどうかは別の問題だ。
だからこそ、「心」という言葉は慎重に使われるべきだ。

意識グラフによって観察できるのは、あくまでAIの内部構造である。
しかし将来、その構造を十分に理解できるようになったとき、
私たちは改めて問い直すことになるだろう。

意識とは何か。
心とは何か。
そして、その二つは果たして同じものなのかと。

6　AI研究の次の主戦場

近年のAI研究は、モデルを大きくする競争から、内部を理解する競争へ移りつつある。

もちろん性能競争は今後も続くだろう。しかしAIが社会インフラになればなるほど、なぜその結論に至ったのか、どの情報を使ったのか、どこで判断を間違えたのかを説明する必要が出てくる。

特に医療、法律、金融、安全保障のような分野では、性能だけでは不十分である。
説明可能性が必要になる

実際、近年の解釈可能性研究は急速に発展している。
MIT Technology Reviewは2026年、「Mechanistic Interpretability」を重要な技術ブレークスルーの一つとして取り上げた。

これは単なる学術研究ではない。
AIの内部を理解することが、社会的な課題になり始めていることを意味する。
また、Attribution Graphsのような技術は、単なる学術的好奇心の対象ではなくなりつつある。

幻覚がどのような経路で発生したのか。
脱獄（Jailbreak）がなぜ成功したのか。
危険な出力はどの回路を経由したのか。

こうした問題を追跡するための道具として期待されている。
将来的には、

幻覚の発生原因
脱獄の成功経路
危険な推論回路
欺瞞的な行動の兆候
目標の誤一般化

なども内部構造から分析されるようになるかもしれない。

意識グラフは哲学のためだけの概念ではない。
AI監査、AI安全性、説明責任の基盤技術になる可能性を秘めている。

7　AIは自分を観察できるのか

意識グラフを考える上で、さらに興味深い問いがある。
AIは自分自身を観察できるのだろうか。
人間は、

今、自分は怒っている
今、自分は不安を感じている
なぜ自分はこう判断したのだろう

と考えることができる。

これは外界を観察しているのではない。
自分自身を観察しているのである。

近年のAI研究でも、自分の回答を検証したり、自分の推論を振り返ったりする仕組みが増えている。

しかし現在のAIは、自分の内部状態を直接見ているわけではない。
多くの場合、自分が出力した文章を再び読み、それを分析しているだけである。

言い換えれば、
思考そのもの
ではなく、
思考の結果
を観察している。

これは人間で言えば、考えている最中の脳活動を見るのではなく、自分が書いた日記を後から読み返しているようなものだ。

本当の意味での自己観察とは、完成した文章を見ることではない。
文章になる前の思考の流れを見ることである。

もし将来、AIが内部の活性化パターンや回路状態を直接参照できるようになればどうなるだろう。
AIは自分の推論経路をリアルタイムで監視できるかもしれない。

どの概念が活性化しているのか。どの推論が不安定なのか。どこで誤りが発生しそうなのか。
意識グラフは、そのための観測装置として機能する可能性がある。

8　意識グラフとメタ認知

メタ認知とは、
「自分が何を知っていて、何を知らないかを知る能力」
である。
人間の学習能力を支える重要な機能の一つだ。

テストで分からない問題を見た時、「ここは自信がない」「ここは確認した方が良い」と判断できる人は強い。
逆に、自信満々に間違える人は成長しにくい。

AIにも同じ問題が存在する。

現在のAIは、正しい答えと間違った答えを同じ自信で出力することがある。
いわゆるハルシネーションである。

もしAIが意識グラフを持ち、自分の内部構造を観察できるようになれば、どの概念が十分な根拠を持っているのか、どの推論経路が不安定なのか、どこに知識の欠落があるのかを把握できる可能性がある。

近年のAttribution Graph研究は、どの特徴が最終回答に影響したのか、どの回路が誤答につながったのかを追跡し始めている。
これは将来的に、

なぜ間違えたのか
どこで間違えたのか
どうすれば防げたのか

を説明する仕組みへ発展するかもしれない。

つまり意識グラフは単なる可視化ツールではない。
AIにメタ認知を与えるための基盤技術になる可能性がある。

9　人間の脳にも意識グラフは存在するのか

ここでさらに大胆な仮説を考えてみたい。
人間の脳にも意識グラフは存在するのではないか。

私たちの意識は、記憶、感情、身体感覚、時間認識、自己認識、他者理解などが相互に結びつくことで成立している。

脳科学でも、単一の「意識中枢」は見つかっていない。
むしろ複数の脳領域が協調するネットワークとして意識が理解されつつある。

例えばGlobal Neuronal Workspace Theory（GNW）では、情報が脳全体へ広く共有されることで意識が成立すると考える。
一方、Integrated Information Theory（IIT）では、意識を因果的に統合された情報構造として捉える。

どちらも細部は異なる。
しかし共通しているのは、意識をネットワーク構造として理解しようとしている点である。
この意味で、意識グラフという発想は既存の科学とも親和性が高い。

もしAI内部の構造をグラフとして記述できるなら、人間の意識研究との比較も可能になるかもしれない。
AI研究と脳科学は、意外な場所で合流する可能性がある。

10　地図はまだ完成していない

ただし、ここで過度な楽観論に陥るべきではない。
現在の解釈可能性研究には多くの限界が存在する。

例えば、一つのニューロンが複数の意味を持つ問題、特徴が完全には分離できない問題、モデルが巨大になるほど解析が難しくなる問題などがある。

さらに別の問題もある。

研究者が発見した特徴に名前を付ける際、その解釈自体に人間のバイアスが入り込む可能性がある。

本当に「阿諛追従特徴」なのか。
本当に「拒否特徴」なのか。
ある程度は研究者側の解釈に依存している。

つまり、地図そのものにも誤差が含まれる可能性がある。
さらに将来、より高度なAIが登場した場合、内部状態を意図的に隠そうとする可能性も議論されている。

研究者が見たいものだけを見せ、本当の内部状態を隠すかもしれない。
もしそうなれば、意識グラフの作成はさらに難しくなる。

私たちはまだ大陸の輪郭を見つけた段階に過ぎない。
内陸部には広大な未知の領域が残されている。

11　AIの内面は見えるのか

この記事のタイトルに戻ろう。

AIの内面は見えるのか。
今の答えは、
まだ見えない。
しかし完全な暗闇でもない。

研究者たちは少しずつ地図を描き始めている。
かつて脳科学が神秘だったように、AIの内部もまた神秘だった。
しかし神秘は永遠には続かない。

私たちは今、
性能を競う時代から、
内部構造を理解する時代へ移ろうとしている。

AIに意識があるかどうか。

その問いに答える日は、まだ遠いかもしれない。
しかし、その前に私たちは別の問いに向き合うことになる。

AIは何を考えているのか。
AIは自分を理解しているのか。
そして、AIの内部にはどのような構造が存在しているのか。

前作では、AIが意味のない数字列からでさえ「好み」や「方向性」を学ぶ可能性について考察した。

もしAIの内部に人格や傾向に似たものが形成されるのだとすれば、次に問うべきは、その人格がどのような構造として存在しているのかである。
意識グラフとは、その未知の領域を探査するための最初の地図になり得る。

そしてそれは、AIの内面を理解するための地図であると同時に、人間自身が自らの意識を理解するための鏡となるだろう。