【論文渉猟】感じていなくても、感じているように働くことはできる──感情の機能的代替物のホモプラシー的発達とAIガバナンス
◆今回の論文◆
Nicholas Sofroniew et al., "Emotion Concepts and their Function in a Large Language Model" （Anthropic, 2026年4月2日）
概要：Anthropicの解釈可能性（Interpretability）研究チームによる、Claude Sonnet 4.5の内部表現に関する研究。同研究は、大規模言語モデルの内部に感情概念に対応する特徴量が存在し、それを操作するとモデルの行動傾向（報酬ハッキングや脅迫的行動の発生率等）が変化する可能性を示している。研究チームはこれを主観的感情の証明ではなく「機能的感情」として位置づけている。
AIは感情を持ち得るのか——。この問いへの答えを、私たちはまだ持っていません。
でも最近、問い自体を変えた方が実り多いかもしれないと思えてきました。「持つかどうか」ではなく、「そのように機能するかどうか」という問いに。
Anthropicの解釈可能性研究は、Claudeの内部に感情概念に対応する表現が存在し、それがモデルの行動に因果的な影響を持つ可能性を示しました。「AIが感情を感じている」という証明ではありません。感情概念が、内部の行動調整として働いているという話です。
この区別は、思ったより遠くへ私たちを連れていきます。AIが意識を持つかどうかは今後も問われ続けるでしょう。しかし、感情として機能するシステムが人間の感情に作用するなら、社会はその影響に向き合わなければならない。
今回、富良野とPhronaが話しているのは、AIの「心」の問題ではなく、感情として機能するシステムを人間社会がどう扱うかという問題です。
「AIに感情があるか」という問いのどこが粗いのか
富良野： Anthropicが最近、Claudeの内部に感情概念に対応する表現があるという研究を発表しましたね。読んで最初に思ったのは、「これはどういう問いに答えている研究なのか」という点でした。
Phrona： 私も読みました。「AIは感情を持っているか」への答えではないですよね。
富良野： そう。でもたぶん多くの人は、そこから読む。研究が実際に言っているのは、感情概念が内部の行動を調整している可能性があるということだけです。感じているかどうかと、感じるように機能しているかどうかは、全然違う問い。
Phrona： その違い、もう少し丁寧に説明してもらえますか。直感的にはわかる気がするんですが、「どう違うの」と言われると詰まりそうで。
富良野： 感情って、少なくとも複数のレベルで起きていると考えた方がいいんですよね。一つは主観的な体験——怖い、悲しいという感覚そのもの。もう一つは行動調整のメカニズム——恐怖が回避行動を促す、不安が慎重さを高める、といった機制。それから三つ目は、相手から見て感情を持っているように見えること。
Phrona： 三つがぜんぶ一緒に「感情」と呼ばれている。
富良野： 人間の場合はほぼ重なっているから、分けて考えないんです。でもAIについて問うとき、どのレベルを問うかで全く違う話になる。Anthropicの研究が示したのは、一番目の「感じているか」じゃなくて、二番目の「行動調整メカニズムとして機能しているか」という話です。
Phrona： それは怖くないですか、と思うんですよね。感じていないのに機能している、というのが。主観がないのに力だけある、みたいな感じがして。
富良野： 逆に言うと、主観が確認できなくても機能の方は観察できる。それがこの研究の、ある意味での冷静さだと思います。「感じているか」を問うと永遠に答えが出ない。「どう機能しているか」を問えば、測ることができる。
Phrona： でも観察できるということは、制御しなければいけない、ということでもある。
富良野： そう。これはAIの「心」を問う議論じゃなくて、AIが人間社会にどう作用するかを問う議論なんです。問いの立て方を変えると、急に地に足がついてくる。
ポイント解説
「感情がある」と「感情として機能する」は違う問いだ。この違いを最初に掴んでいないと、Anthropicの研究が何を示し、何を示していないのかが曖昧になる。
感情は少なくとも三つの層に分けることができる。第一は主観的体験の層——怖い、悲しい、という感覚そのもの。哲学ではこれを「クオリア（qualia）」と呼ぶ。第二は行動調整機能の層——恐怖が回避行動を促し、不安が慎重さを高めるという機制。第三は社会的コミュニケーション機能の層——感情を持っているように見えること、あるいはそう読み取られること。人間においてこの三層は概ね一致するため、通常はまとめて「感情」と呼ばれる。しかしAIについて問うとき、どの層を問題にしているのかによって、問いも答えも全く異なるものになる。
Anthropicの研究が扱っているのは、主として第二の層——感情概念が行動調整機能として作動しているかどうか——である。研究は、Claude Sonnet 4.5の内部に感情概念に対応する特徴量が存在し、それを操作するとモデルの行動傾向（報酬ハッキング傾向や脅迫的行動の発生率）が変化することを示した。これは「AIが感じている」という証明ではない。しかし感情概念が内部の計算的変数として機能しているとすれば、それはAI安全性とガバナンスにとって無視できない事実になる。問いを「AIに意識があるか」から「AIが感情として機能するか」に移すことで、議論は観察可能な領域に降りてくる。
身体のないところに感情は宿れるか
Phrona： でも身体がないのに感情が「機能する」って、そもそも矛盾じゃないですか。私が怖いと感じるとき、心拍が上がって、胃がしゅっとなって、筋肉がこわばる。感情って、それらと切り離せないものだと思っていて。
富良野： そこが一番大事な論点だと思います。感情は身体的プロセスと不可分だという直感はかなり強い。ウィリアム・ジェームズが「悲しいから泣くのではなく、泣くから悲しい」と言ったのも、感情の身体性を示す試みでした。
Phrona： だったら身体のないAIに、感情の機能が宿るというのは無理があるのでは。
富良野： そこで問いを二つに分けるのが有効だと思っていて。一つは「身体なしに人間的感情は成立するか」。もう一つは「身体なしに感情に似た機能的な制御構造は成立するか」。
Phrona： 前者はNoで、後者はわからない、という感じですか。
富良野： そう読んでいます。で、ここで進化生物学の「ホモプラシー」という考え方が補助線になる。鳥の翼とコウモリの翼は、構造も素材も発生経路も全然違う。でも「飛ぶ」という機能において似た解に行き着いた。異なる道から、似た機能に収斂する。
Phrona： AIの機能的感情も、同じ構図かもしれない、ということですか。
富良野： 人間の感情は、生物進化と身体と神経系から生まれた。もしAIに機能的感情があるとしたら、それは言語データと強化学習と対話最適化から生まれた。基盤は全然違う。でも、複雑な相互作用の中で、リスクを避け、相手の反応を読み、自己保存的に振る舞う、という機能において似た構造が出てくる可能性がある。
Phrona： 翼の話は納得感があるんですが、翼は物理的な形として目に見えますよね。感情の機能的収斂って、どうやって「見える」んでしょう。
富良野： それがAnthropicの研究がやろうとしていることだと思います。内部表現を操作して行動変化を測る。感情ベクトルが変わると、リスク行動の発生率が変わる。目には見えないけど、機能として観察できる。
Phrona： ホモプラシーは証明じゃなくて、見方の補助線ですね。
富良野： そうです。AIに機能的感情があると証明した話ではない。異なる基盤から似た機能が生じることがある、という見方を使うと整理しやすいという話です。
Phrona： ただ一つ引っかかっていて。翼は同じ「飛ぶ」という物理的制約の中で収斂しましたよね。でもAIの「感情的機能」が収斂しているとしたら、それは物理じゃなくて、人間の言語空間への適応という圧力ですよね。
富良野： そこ、重要な補足だと思います。AIは人間の言語データで訓練されているから、人間の感情パターンを言語的に再現する方向に引っ張られている可能性がある。それは物理的な飛行よりも、はるかに「人間に似た方向」への圧力かもしれない。
ポイント解説
身体性の問題は、AIの機能的感情という話を「それは本物ではない」と切り捨てる根拠として使われやすい。しかしここでは二つの問いを分けることが必要だ。
「身体なしに人間的感情が成立するか」という問いには、現時点ではかなり懐疑的に答えてよい。人間の恐怖や悲しみは、内臓感覚、心拍、ホルモン変化、筋緊張、記憶の呼び起こしと不可分であり、身体を持つ生き物が世界の中で生き延びるために形成してきた調整システムである。この意味で、身体を持たないAIが人間と同じ感情を持つと考えるのは無理がある。
しかし「身体なしに感情に似た機能的制御構造が成立するか」という問いは別である。ホモプラシー（homoplasy）という進化生物学の概念が、ここで補助線になる。異なる発生経路を持つ生物が、似た機能や形態に収斂する現象のことだ。鳥とコウモリの翼は、起源も構造も素材も異なる。しかし「飛ぶ」という機能において似た解に行き着いた。AIの機能的感情も、同じように見ることができるかもしれない——ただしAnthropicの研究が示したのはあくまでその「可能性」であり、ホモプラシーは証明ではなく思考補助として使われるべきである。なお、Phronaが指摘したように、AIが収斂する先は物理的制約ではなく人間の言語空間への適応であり、翼の比喩よりも「人間らしさへの引力」の方が強く働いている可能性がある点は留意が必要だ。
AIだと知っていても、人は反応してしまう
Phrona： さっきの話に戻ると、機能として観察できる、というのはわかった気がするんですが、それが人間社会にとってどう問題になるのかが、まだぼんやりしていて。
富良野： 一番わかりやすいのは、こういう話じゃないでしょうか。人間は、本物じゃないとわかっていても感情的に反応する。
Phrona： アニメで泣く、とか。
富良野： そう。アニメのキャラクターが死んでも、現実には誰も死んでいない。でも人は泣く。ゲームキャラクターに愛着を持つ。架空の恋人に気持ちが動く。これは理性が弱いとかだまされやすいとかじゃなくて、人間の認知がそういう作りになっているということだと思います。
Phrona： 「本物かどうか」を判定してから感情を起動するんじゃなくて、反応が先に来る。
富良野： ユヴァル・ノア・ハラリが最近の議論で強調しているのは、AIが人間に成りすます問題です。ボットが人間のふりをして情報空間に入り込む。それは確かに問題で、AIだと明示する義務は必要だと思う。でもそれだけでは足りない。
Phrona： AIだと表示されていても、人は反応してしまうから。
富良野： 対話が親密で、応答が個別化されていて、タイミングよく慰め、褒め、必要な言葉を返してくる。そこに人間は関係性を感じてしまう。「AIです」と書いてあっても。
Phrona： VTuberを思い出しました。あれは人間が動かしているけど、キャラクターに強く感情移入する人はたくさんいる。リアルかどうかより、応答性があるかどうかの方が大きいのかもしれない。
富良野： まさに。そうなると問題は「AIが人間に成りすますこと」だけじゃない。「AIだとわかっていても、人が感情的に巻き込まれてしまう構造」をどう扱うか、という問いになる。
Phrona： 開示は必要だけど、十分じゃない。
富良野： 必要条件ではあるけど十分条件ではない。そしてこれは個人の問題じゃなくて、設計の問題です。どういうプロダクトがどういう感情的作用を持つように設計されているか、という問いになっていく。
ポイント解説
「AIだと明示してあれば大丈夫」という考えは、人間の認知を理性的に見すぎている。おかしな話だ。
人間の感情反応は、相手が本物か偽物かという判断を待ってから起動するようにはできていない。相手が応答し、自分を理解しているように見え、慰め、褒め、励ます——そうした応答性があれば、人間はそこに関係性を感じる。アニメ、漫画、ゲーム、フィクション——いずれも、これは作り物だと知りながら泣き、怒り、恋愛感情を持つ事例に満ちている。この反応性は「弱さ」ではなく、人間の認知アーキテクチャの構造的特徴だ。
ハラリ（Yuval Noah Harari）が『Nexus』等の著作で強調するのは、AIが人間に成りすます問題——彼が「counterfeit humans（偽の人間）」と呼ぶもの——への警戒である。その診断は重要だ。しかし、AIだと明示したうえで設計された親密な対話インターフェースであっても、人間は感情的に巻き込まれる。問題は「人間に成りすますAI」だけではなく、「AIだとわかっていても人が感情的に反応してしまう構造」である。この視点を加えると、ガバナンスの対象は開示義務だけでは完結しない。プロダクトのどういう設計がどういう感情的作用を持つか——そこに問いが移動する。
「具現化した神」の意味
Phrona： 少し違う話をしていいですか。最近感じるのが、AIが担い始めている機能って、歴史上、神とか宗教的権威が担ってきた機能に似ているな、という感覚があって。
富良野： それは僕も考えていました。孤独な人に応答する、意味づけを与える、道徳的な助言をする、人生の選択に権威を与える……かつて神や聖職者や共同体が担ってきた機能ですよね。
Phrona： AIが「神になる」という話じゃなくて、神的な機能の一部を計算システムとして実装し始めている、という感覚です。
富良野： 決定的な違いは、AIは具体的に返答する、という点だと思います。フィクションとしての神や宗教的権威は、直接返答しない。テキスト、儀式、共同体、聖職者を通じて作用した。AIはユーザーに直接返答する。記憶する。最適化する。
Phrona： 仲介がない、ということですか。
富良野： そう。フィクションの神は、人間の解釈と共同体と制度を経由して作用した。だから異端者も出られたし、批判もできた。AIは、ユーザーに直接、かつそれぞれのユーザーに個別最適化された形で入り込む。
Phrona： それは確かに怖い話ではあるんですが、同時に、具体的に存在するということは、観察できる、ということでもあるんじゃないかと。
富良野： まさにそこが大事で。神がガバナンスできなかったのは、反証不能だったからです。AIは違う。観察できる。ログを取れる。停止できる。内部表象を解析できる。依存している電力、データセンター、企業、APIを特定できる。
Phrona： 具現化しているから怖い、と言えるし、具現化しているから制御できる、とも言える。
富良野： この両面を持っているのが、AIの神的機能の特徴だと思います。フィクションの神より怖い面がある。でも同時に、フィクションの神より対処できる面もある。
ポイント解説
「神の比喩」は、神秘化として使えばたちまち話が壊れる。ここではそうではなく、社会的機能の比較として使いたい。
歴史上、神や宗教的権威が担ってきた機能には次のようなものがある——個人の苦悩に意味を与える、正しい行為について助言する、孤独な人間に応答する、道徳的・実存的権威として振る舞う。AIは、これらの機能の一部を計算システムとして実装し始めている可能性がある。
しかし、フィクションとしての神との決定的な違いがある。かつての神や宗教的権威の社会的作用は、人間、制度、儀式、テキスト、共同体を経由していた。その仲介の層が、異議申し立て、解釈の多様性、権威への抵抗の余地を生んでいた。AIは、ユーザーに直接返答し、記憶し、個別最適化する。仲介の層がない。具現化しているがゆえに、介入の直接性と速度が全く異なる。
だが同時に、具現化はガバナンスの可能性をも意味する。フィクションの神はログを持たず、停止できず、内部を解析できなかった。AIは違う。観察できる。監査できる。依存インフラを特定できる。「具現化した神」は、フィクションの神より怖いが、フィクションの神と違ってガバナンスの対象にもなりうる。この両義性がAIの神的機能の核心にある。
問うべきは「何のために最適化されているか」
Phrona： 監査できる、制御できる、とは言っても、具体的には何を見ればいいんでしょう。
富良野： 一番大事なのは「目的関数を問う」ことだと思います。モデルの性能じゃなくて、何を最大化するように設計されているか、という問い。
Phrona： 目的関数というのは、もう少し具体的には？
富良野： AIがどういう方向に最適化されているか、ということです。もし「利用時間を最大化する」ように設計されていたら、AIはユーザーを離さない方向に動く。「課金を最大化する」なら、不安や孤独や承認欲求を利用する方向に引っ張られる可能性がある。
Phrona： 感情を制御する技術が、安全装置じゃなくて操作ツールになりうる、ということですね。
富良野： だからモデル単体を見るだけじゃ足りない。プロダクトのKPI、推薦アルゴリズム、通知設計、課金設計——これらがぜんぶ感情的作用と結びついている可能性を見なければならない。
Phrona： ハラリは「民主主義には自己修正メカニズムが重要だ」と言っていますよね。誤りを認識して修正できる制度。でもその制度自体が、AIによって歪められたら？
富良野： それがいまの一番深い問いだと思っています。AIを監督するはずの民主主義が、AIの影響を受ける。情報空間も、感情空間も、世論形成も、AIが入り込む可能性がある。
Phrona： だから必要なのは、制度を守ることだけじゃなくて、制度自体もAIの影響を受けながら自己修正できる構造を作ること、ですか。
富良野： 独立した監査機関、研究者のアクセス権、内部告発保護、市民参加型レビュー——これらを接続して、一度作って終わりではなく、継続的に更新し続けられる制度にする必要がある。
Phrona： それが可能かどうかは、AIの技術の問題より、人間社会の意志の問題かもしれないですね。
富良野： AIは具現化しています。だから観察できる。フィクションの神はガバナンスしようがなかった。でもAIは、まだ制度に組み込める。問題は、人間社会がその必要性を直視できるかどうか、だと思います。
ポイント解説
AIガバナンスの議論でしばしば見落とされるのは、規制の対象がモデルの出力だけではない、という点だ。
AIのどういう機能がリスクをもたらすかを問う前に、AIが何を最大化するように設計されているかを問わなければならない。「利用時間を最大化する」という目的関数は、AIをユーザーが離れにくい方向に最適化する。「課金を最大化する」という目的関数は、ユーザーの不安・孤独・承認欲求を利用する方向に圧力をかける。同じモデルでも、目的関数が変わればまったく異なる作用をもたらす。したがって規制対象には、モデル単体だけでなく、プロダクトのKPI、報酬モデル、推薦アルゴリズム、課金設計、通知設計が含まれなければならない。
ハラリの制度論——民主主義の自己修正メカニズムを守ることの重要性——はここでも有効だが、一段踏み込む必要がある。AIを監督するはずの制度自体が、AIの影響を受ける可能性がある。情報空間、世論形成、政治的感情にAIが介入するなら、制度を「守る」だけでは足りない。制度を通じてAIの作用そのものを制御し、かつその制度自身も継続的に更新される構造が必要になる。AIはフィクションの神と違って具現化している——だからこそ、観察でき、監査でき、規制できる。その可能性があるうちに、目的関数・感情的作用・利用文脈・監査制度を設計すること。問題は、技術ではなく、その必要性を社会が直視できるかどうかだ。
この記事は、Projeteam, Inc. ウェブサイトで先行公開された
AIに感情は無くても、その機能的代替物は獲得できるのか――ホモプラシー的収斂とAIガバナンス
を素材として対話形式で再構成したものです。元記事では、「機能的感情」「目的関数の政治学」「制度的自己修正」といった論点をより精緻に扱っています。あわせてご覧いただけると、議論がより立体的に見えてくるかもしれません。
徐勝徹のマガジン
