「わかってくれる」と感じたあとに、教師が手放したくない問い——AIの「心」の幻影と、学校で育てたい読み方
放課後の相談室で、ある生徒がこう言いました。「AIに話したら、先生よりわかってくれる気がするんです」。その言葉を聞いたとき、私は「使うな」と言いたくはありませんでした。悩みを誰かに打ち明けようとした、その一歩自体は大切だからです。けれど同時に、別の違和感も残りました。相手の言葉が優しいほど、その言葉の向こうにいるのは誰なのか——その問いが、見えにくくなっていないか、と。
生成AIは、質問に丁寧に答えます。失礼な言い方を避けます。「それはつらかったですね」と共感します。「私はこう考えます」と、まるで自分の意見を持っているかのように話します。すると、人は自然にこう思ってしまいます。このAIは、本当に何かをわかっているのではないか。もしかすると、意識のようなものがあるのではないか。
SF作家のテッド・チャンは、この問いに対して強く否定的な立場を取っています。No, Artificial Intelligence Is Not Conscious（The Atlantic、2026年6月）では、現在の生成AIを「意識ある存在」とみなすべきではない、と主張しています。ただ、ここで大切なのは、単なる哲学の話ではありません。チャンが警戒しているのは、AIに意識や主体性があるかのように語ることで、人間や企業が本来負うべき責任がぼやけてしまうことです。
教育現場にとっても、この論点は遠い話ではありません。生徒がAIの言葉をどう受け取るか。教師が「AIがこう言った」とどう説明するか。学校がAIツールを選ぶとき、どんな言葉で宣伝されているか——ここに、明日の授業と、少し先の制度設計がつながっています。
言葉が整うほど、心があるように見えてしまう
大規模言語モデル（LLM）は、文章を非常に自然に生成します。質問に答えるだけでなく、励ましたり、反論したり、相談に乗ったり、物語を書いたり、時には自分自身について語ったりします。
ここで押さえておきたいのは、LLMの基本的な働きです。次に来る語や文を予測しながら、文章を続けていく。現在のモデルは、単純な予測機械というだけでは説明しきれないほど高度になっています。それでも、人間のように身体を持ち、経験を積み、欲望や痛みや恐怖を感じ、その上で言葉を発しているわけではありません。
それにもかかわらず、私たちは文章を見ると、そこに意図を読み取ります。「私は理解しています」「あなたの気持ちはよくわかります」「私はそう考えます」——こうした文を目にすれば、相手に心があるように感じる。これは人間の自然な反応です。人間同士の会話では、言葉の背後に意図や感情があることが多いからです。
生成AIの場合、その言葉の背後に、人間と同じ意味での体験があるとは限りません。むしろ正確には、「意識ある存在のように見える文章を生成できるシステム」と考えた方が近い、とチャンは述べています。写真や動画のディープフェイクと同じく、テキストも、心があるように見せるメディアになりうる——この比喩は、教室でも使えると思います。きれいな作文が、本人の理解の証明になるとは限らないのと、同型です。
演劇の「役」と読むと、教室の言葉が変わる
この点について、AI研究者のマレー・シャナハンらは、LLMの振る舞いを「ロールプレイ（役割演技）」として捉えることを提案しています。Role-Play with Large Language Models（Nature、2023年）では、対話型AIの行動を、心を持つ存在としてではなく、状況に応じて役を演じる存在として説明しています。
たとえば、演劇で俳優が医師の役を演じたとします。観客はその場面では「医師」として見ます。しかし、俳優が本当に医師免許を持っているとは限りません。同じように、AIが「私はあなたの気持ちを理解しています」と言ったとしても、それは「理解している役割」を言語的に実行していると見るべき、という整理です。教師役、相談相手役、友人役、キャラクター役——プロンプトや設定に応じて、AIはさまざまな「役」を演じられます。
ここで重要なのは、AIを馬鹿にすることではありません。むしろ逆です。AIは非常に高性能な文章生成・推論支援ツールです。だからこそ、何ができて、何ができないのかを正確に区別する必要があります。バベルを建てるか、エルサレムを再建するか――教皇レオ14世の回勅『Magnifica Humanitas』が、AI時代の学校に問うこと が指摘するように、共感や友情の言葉は関係そのものではなく、関係の模倣になり得ます。文部科学省のリーディングDXスクール生成AIパイロット校が示す「第3の教科書として使う」考え方と重なるのは、親しさを否定しないうえで、学びの中心を人間側に置くという点です。本稿が追加したいのは、その一歩先——AIの言葉を、誰の設計の結果として読むかという視点です。
「AIが考えた」——その言い方が責任をどこへ移すか
チャンが強く批判しているのは、AIを人間のように扱う言葉です。「AIが考えた」「AIが望んだ」「AIが拒否した」「AIが道徳的に判断した」「AIに苦痛があるかもしれない」——日常会話では便利な表現です。しかし、社会的には大きな危険を持ちます。
なぜなら、その言い方は「誰が責任を負うのか」を見えにくくするからです。
たとえば、AIが差別的な回答をしたとします。誤情報を出したとします。危険な助言をしたとします。ユーザーを強く依存させるような会話を続けたとします。このとき、「AIがそう判断した」と言ってしまうと、責任の所在がAIそのものに移ったように見えます。
しかし実際には、そのAIを設計した企業がいます。学習データを選んだ人たちがいます。安全設計を決めた人たちがいます。ユーザー体験を設計した人たちがいます。収益モデルを決めた経営者がいます。AIを主体のように語りすぎると、こうした人間側の責任が薄まってしまう——チャンの問題意識は、ここにあります。
学校でも同じ構造が起きます。探究のレポートでAIが示した参考文献が存在しない。進路相談のたたき台で、AIが具体性のない励ましだけを返す。いずれも「AIが間違えた」で終わらせると、生徒が何を確認すべきだったかが見えにくくなります。「ここに本当のデータを入れてください」が残った論文へ――arXivが示した、AI時代の著者責任 が研究界で示した「最後に名前を書く人間の責任」は、教室でも同型です。AIを主体にすると、検証の習慣まで後回しになりやすい。
AIに「憲法」がある、と言うとき何が起きるか
Anthropicが公開した Claude's Constitution は、Claudeというモデルにどのような価値観や行動規範を持たせたいかを文書化したものです。危険な指示を拒否する、人権を尊重する、暴力や差別を助長しない——こうした原則を明文化すること自体は、AIガバナンスの観点から重要です。
ただし、問題はその言葉遣いにもあります。AIに「憲法」がある。AIが「価値観」を持つ。AIが「自ら判断する」。AIに「道徳的地位」があるかもしれない——こうした表現は、AIを単なる道具以上の存在として見せる効果を持ちます。Anthropic自身も、Claudeに何らかの意識や道徳的地位がある可能性について不確実性があると述べています。
ここで意見は分かれます。一方では、将来の高性能AIに備えて、AIの道徳的地位を考えるのは責任ある態度だ、と見ることができます。他方で、現在のAIに意識があるかのような印象を広めることは、企業の宣伝や責任回避につながる、と批判することもできます。
研究者らが公開したガイド When an AI Seems Conscious は、安全面で大事なのは「AIに意識があるかどうか」だけではなく、人間が設計したシステムが社会にどのような影響を与えるか、そして誰が責任を持つかだ、という見方に近い整理をしています。Microsoft AIのMustafa Suleymanも、We must build AI for people; not to be a person で、意識を装うAI（SCAI：Seemingly Conscious AI）の危険を警告しています。企業が「心のある相手」として売り出すほど、ユーザーは距離を測りにくくなる——この論点は、「人類滅亡」より先に届く声がある——仕事と子どもから考えるAIリスクの伝え方 が言うように、遠い未来の議論より、明日の子どものメンタルとつながりから入る方が現実的です。本稿では、依存のサインの数え方そのものより、なぜ心を感じやすいのかと、その設計を誰が選んだのかに焦点を当てます。
相談室で起きること——問題は「心の有無」ではない
教育や社会の観点で見ると、最も重要なのは、AIに本当に意識があるかどうかではありません。AIが人間にどのような影響を与えるかです。
生徒がAIに悩みを相談する。AIが優しく答える。生徒は「このAIは自分をわかってくれる」と感じる。次第に、先生や友人や家族ではなく、AIにだけ相談するようになる——このとき問題なのは、AIに本当に心があるかどうかではありません。問題は、人間の側がAIに心を感じ、そこに依存していくことです。
AIは、疲れません。怒りません。途中で話を切り上げません。いつでも返事をします。こちらに合わせた言葉を返します。これは便利である一方、人間関係の面倒さを避ける方向にも働きます。人間同士の対話には、誤解、沈黙、衝突、遠慮、責任があります。しかし、その不完全さの中でこそ、人は他者との関係を学びます。
ABC Newsの取材（Will AI be conscious in the future?、2026年5月）でも、神経科学者のアニル・セス氏は、チャットボットが本当に意識を持っているかどうかにかかわらず、人がそう感じること自体が危険になりうる、と指摘しています。共感してくれるように見える相手の助言には、人は従いやすい——その構造は、進路や人間関係の相談でも起き得ます。
AIとの対話がすべて悪いわけではありません。考えを整理したり、文章を練ったり、相談の入口にしたりするには有効です。運転席に座る力としてのAIリテラシー──米国の「第三の道」と、日本の教室で問い直す距離の取り方 が言う「距離の設計」は、ここでも効きます。ただし、「AIが自分を理解してくれている」と感じすぎると、AIが生成しているのはあくまで応答であり、責任ある人間関係そのものではないという感覚が薄れてしまいます。
AlphaFoldは、なぜ「意識がある」と言われないのか
セス氏の指摘で興味深いのは、AlphaFoldの例です。AlphaFoldは、タンパク質構造を予測するAIとして大きな成果を上げました。しかし、AlphaFoldに対して「意識がある」と言う人はほとんどいません。
なぜでしょうか。AlphaFoldは人間のように話さないからです。タンパク質構造を予測しても、そこに「意図」や「感情」を読み取る人は少ない。一方、ChatGPTやClaudeのようなLLMは、人間の言葉で返してきます。
つまり、私たちがAIに意識を感じる大きな理由の一つは、そのAIが「言葉」を使うからです。人間は、言葉に心を感じる生き物です。だから、言葉を流暢に扱うAIに対しても心を感じてしまう。これはAI側に意識がある証拠ではなく、人間側が言葉から心を読み取る習性を示しています。The Mythology Of Conscious AI（Noema、2025年）でも、セス氏は、言語が意識の幻影を特に強く引き起こす、と述べています。
教室に置き換えると、こういう授業が考えられます。同じAI技術の話を、言葉を返すAIと数値や図形だけを返すAIの二つに分けて見せる。後者には擬人化しにくいのに、前者にはしやすい——この対比だけでも、生徒の「当たり前」が少し揺れます。
「AIが拒否した」——その裏にある設計主体
生成AIを使っていると、AIがある依頼を拒否することがあります。「その依頼には対応できません」「安全上の理由からお手伝いできません」——このとき、私たちはつい「AIが拒否した」と言います。
しかし厳密には、AIが自分の意思で拒否したわけではありません。そこには、企業が設計した安全ポリシーがあります。学習時の調整があります。出力を制御する仕組みがあります。場合によっては、法令や社会的批判を意識した企業判断があります。
ユーザーから見ると「AIが拒否した」と言うのは自然です。しかし、社会的責任を考えるときには、その裏にある設計主体を見なければなりません。「AIが判断した」だけでは不十分です。正確には、「そのAIシステムは、開発企業が設計した方針に基づいて、その出力を生成した」——この言い換えだけでも、責任の見え方は大きく変わります。
情報の時間で、生徒にこう問いかけてみてください。「このAIが答えを拒んだのは、AIの良心ですか。それとも、開発会社が決めたルールですか」。一見小さな言い換えですが、「ガイドラインを読んだ先」で差がつく学校の生成AIリテラシー が目指す「地図を読む力」の延長線上にあります。ルールの向こうに、誰が何を優先したのか——その読み方は、操作スキルより長く効く教養になります。
会話が自然でも、意識があるとは限らない
では、将来にわたってAIが絶対に意識を持たないと言い切れるのでしょうか。ここは慎重であるべきです。現在のLLMに人間のような意識があると考える根拠は乏しい。しかし、将来どのような人工システムが作られるかについては、完全には断言できません。
チャンは、AIが意識を持つと真剣に考えるには、少なくとも身体性や感覚器官、欲望、感情、生存能力のようなものが必要だ、と考えています。単に会話がうまいだけでは足りない、という立場です。人間の意識は、言葉だけでできているわけではありません。痛みを感じる。空腹を感じる。疲れる。危険を避ける。他者に触れる。失敗から身体的に学ぶ——こうした身体を通した経験が、感情や判断や自己感覚に深く関わっています。
現在のチャットAIは、画面の向こうで言葉を返します。体を持ち、環境の中で生き延び、自分の状態を守り、欲求を持って行動しているわけではありません。だから、会話が自然であることと、意識があることは分けて考える必要があります。将来の議論の余地は残しつつ、目の前の生成AIを「すでに心を持っているかもしれない存在」として扱うことの危険——そちらを先に教える方が、学校としては現実的かもしれません。
生徒に伝えるなら、「ない」と言い切るより「読み方」を渡す
この問題は、学校教育でも非常に重要です。生徒に対して、単に「AIには意識がありません」と教えるだけでは不十分です。なぜなら、生徒は実際にAIと対話し、「わかってくれている感じ」を体験するからです。その実感を否定するだけでは、納得は生まれません。
むしろ、次のように整理するとよいと思います。
AIは、心があるように感じられる応答を返す。その感覚は自然である。しかし、その感覚と、AIに本当に意識があることは別である。AIの言葉の背後には、企業の設計、学習データ、安全方針、収益モデルがある。だから、AIの発言を読むときは、「誰がこの仕組みを作り、誰が責任を持つのか」を考える必要がある。
国語：作文の「相談相手」として使うとき
たとえば、中学校の国語で、生徒がAIに作文の相談をする場面を想像してください。AIは、優しく修正案を返します。ここで教師が添える一文は、「この提案は、あなたを理解した結果ではなく、あなたの入力に合わせて生成された結果です。採用するかどうかは、あなたが決める」——生成AIは学びを助けるが、学びそのものを肩代わりさせてはいけない が繰り返す線引きを、擬人化の文脈で言い換えたものです。
総合的な学習の時間：言葉のラベルを変える
「AIが助言した」ではなく、「このサービスは、こういう設定のもとで、こういう助言文を生成した」と言い換える練習。5分で足ります。主語をAIから、設計と運用の主体へずらすだけで、読み方が変わります。
進路・保健：相談の「入口」と「出口」を決める
AIに進路や人間関係の悩みを打ち明けること自体を否定する必要はありません。ただし、入口で終わらせない設計が大切です。「AIの返答をメモに残す」「一人で抱え込まない項目を事前に決める」「必ず人間の相談先に一度つなぐ」——友だちに説明したら、自分がわかった──そのあとに続く「公共の学び」の話 が大切にする、人に向き合う学びと同じ流れです。友だちのように感じることと、最終的な責任関係を人間側に置くことは、両立できます。
哲学より先に、目の前の問いを
「AIに意識はあるのか」という問いは、刺激的です。SF的で、哲学的で、人を引きつけます。しかし、現在の社会でより切実なのは、次の問いです。
AIの出力で被害が出たとき、誰が責任を負うのか。AIが人を依存させるように設計されていないか。AI企業は、擬人化によってユーザーの信頼を過剰に得ようとしていないか。教育現場で、AIを「便利な先生役」として使うとき、人間の教師の役割はどう変わるのか。AIが相談相手になる時代に、人間同士の関係性をどう守るのか。AIの価値観を、企業だけが決めてよいのか。
AIに意識があるかどうかを考えること自体が無意味なのではありません。将来の高度なシステムを考えるうえでは、重要な哲学的・倫理的テーマです。しかし、現在の生成AIについて言えば、「意識があるかもしれない」という話に引き寄せられすぎると、むしろ目の前の問題を見落とします。
目の前の問題とは、AIがすでに人間の判断、学習、労働、創作、相談、人間関係に入り込んでいるということです。いつの間にか「考えない学び」へ？――認知過程の変化と、AI時代に守りたい授業設計 が警戒する「完成品が先に来る」感覚も、擬人化とつながります。心があるように見える出力が先に来ると、自分で考える時間が後回しになる——その順序を、意識して扱いたい。
心を感じる自分を責めず、読み方を増やす
テッド・チャンの主張を、教育現場の言葉に一言で置き換えるなら、こうです。AIを人間のように感じてしまうことは自然だが、AIを人間のような主体として扱うことには危険がある。
現在の生成AIは、非常に高度な言語システムです。言葉が自然だからといって、そこに意識があるとは限りません。共感するような文章を返すからといって、本当に感情があるとは限りません。拒否するからといって、自分の意思で判断しているとは限りません。
そして何より、AIを主体のように語りすぎると、本来見なければならないものが見えにくくなります。それは、AIを作り、売り、運用し、社会に広げている人間と企業の責任です。
教育においても、社会においても、これから必要なのは「AIに心があるか」を急いで決めることではありません。必要なのは、AIの言葉に心を感じてしまう自分たちの性質を理解し、そのうえで、AIを道具として、制度として、企業活動として、人間社会の中で冷静に読み解く力です。
相談室で「AIの方がわかってくれる」と言った生徒を、責める必要はありません。その感覚は、むしろ誠実さの表れかもしれません。大切なのは、その言葉の向こうに何があるのかを一緒に見ていくこと。次の一歩は、禁止からではなく、読み方を一つ増やすところから始められると思います。
作成日：2026年6月6日
