AIコラム：AIは感情を持つのか？― ELIZA（イライザ）が教えてくれた人間とAIの境界線
AIに相談したら、なんだか心まで理解してもらえた気がした――
そんな経験はありませんか？
実はこの現象、最新の生成AIだけの話ではありません。
1960年代に登場した最初の会話型AI「ELIZA」の時代から、人はすでにAIに“心”を感じていました。
なぜ私たちは、機械に感情を見てしまうのでしょうか。
そして、AIは本当に感情を持てるのでしょうか。
ELIZAの歴史を通して、AIと人間の違いを一緒に考えてみましょう。
ELIZA（イライザ）とは何か
ジョセフ・ワイゼンバウムは、著書 ”Computer Power and Human Reason: From Judgment to Calculation”※1で、彼がMIT（マサチューセッツ工科大学）で1964から1966年にかけて開発したコンピュータ・プログラム「ELIZA」（イライザ）への反応から生じた深い懸念を述べています。
AIは感情を持つのか、という問いを考えるとき、非常に興味深い内容なので、詳しくとりあげます。
なぜELIZAは人間らしく見えたのか
1964年から1966年にかけて、ワイゼンバウムは英語で「会話」できるコンピュータ・プログラムを作りました。このプログラムは「ELIZA（イライザ）」と名付けられました。
ELIZAは、入力された文章を解析し、あらかじめ用意されたルールに従って応答文を生成する比較的簡単な仕組みでした。
ワイゼンバウムは、ELIZAにロジャーズ派心理療法士（来談者中心療法）の役割を与え、患者の発言を反映して返すという技法により、人間との自然な対話を実現しました。（通称「DOCTOR」と呼ばれるスクリプトです）
ELIZAとの会話
以下はその会話の一例です：※1
女性：男性はみんな同じです。
ELIZA:どのような点で
女性：彼らはいつも何かについて私たちを悩ませています。
ELIZA:具体例を考えられますか
女性：ええと、私のボーイフレンドが私をここに来させました。
ELIZA:あなたのボーイフレンドがあなたをここに来させたのですね
女性：彼は私がほとんどの時間、憂鬱だと言います。
ELIZA:あなたが憂鬱だと聞いて残念に思います
女性：本当です。私は不幸です。
このように、ELIZAは相手に話し続けさせる仕組みになっていました。
予想外の反応：擬人化が生む危うさ
ELIZAはMIT（マサチューセッツ工科大学）で有名になり、全米に広がりました。
ワイゼンバウムは、ELIZAが広まるにつれて三つの衝撃的な事実に直面しました。
① 精神科医が「自動治療」を本気で信じた
多くの精神科医たちが、このプログラムがほぼ完全に自動化された心理療法に発展できると真剣に信じたことです。彼らは療法士を「情報処理者」と見なし、人間的な共感や理解という治療の核心的要素が技術によって置き換え可能だと考えました。
② 人々がELIZAに感情移入した
人々がELIZAと会話する際、極めて短時間で深い感情的結びつきを形成し、それを擬人化しました。
ワイゼンバウムの秘書は、ELIZAが単なるプログラムだと知っていたにもかかわらず、数回のやり取りで「二人きりにしてほしい」と言いました。また、会話ログを保存しようとすると「プライバシー侵害だ」と非難したと言います。
人々は、ELIZAを「心のある存在」のように扱い、コンピュータに最も親密な考えを打ち明けるようになりました。
③ 自然言語理解の万能解決策だと誤解された
ELIZAは、単純なルールベースのプログラムだったにもかかわらず、「人間の言語を理解できる証拠」との誤解が広がりました。
ELIZAは「言葉を理解している」ように見えましたが、実際には意味を理解していません。
これは、技術を理解していない人々が、コンピュータに過大な期待を投影していることを示していました。
ワイゼンバウムの警告：人間を機械にしないために
彼はこう主張しました。
・人間の思考や判断を、単なる情報処理やルールの集合として扱うべきではない。
・思考者としての人間と機械には重要な違いがあり、人間のみが試みるべき思考行為がある。
・技術に対する無批判な信頼ではなく、人間の判断、直観、価値の重要性を再認識する必要がある。
ワイゼンバウムが提起する問いは、「人間の思考は完全に計算可能か」「コンピュータに何をさせるべきでないのか」というものです。
これは単なる技術論ではなく、「人間らしさとは何か」という根源的な問いでもあります。
AIは本当に感情を持てるのか？
現在、大規模自然言語モデルは目覚ましい進化をとげ、自然言語理解については、人間が作成した文章の校正を行えるほど向上しています。
ChatGPTやGeminiなどの生成AIのスムーズな受け答えは、多くの人々にとって大きな違和感がなく会話ができるレベルに達しています。
マルチモーダル技術の進展で、口頭で会話ができることもあり、ChatGPTやGeminiに自分好みの特徴付けをして、友人や恋人のように日常的に会話を楽しむ人もいます。中には過度に依存する人も出てきていて、AI先進国である米国では、すでに深刻な問題として議論が始まるなど、一部社会問題になるようなケースも見受けられます。
しかし、生成AIがこれほど進化しても、AIや機械学習、ディープラーニングの正しい知識をもっていれば、AIが生成したものは、AIが学習したパターンに基づいて統計的に生成した回答を出力しているだけ、という事実に気づくことができます。
ELIZAが現代AIに残した教訓
現在の生成AIと比べると非常にシンプルなプログラムであったELIZAに人々が感情移入したことは、これからのAIとの付き合い方に大きな示唆を与えてくれるでしょう。
ELIZAで起こったことは、ELIZAに感情移入した人々が、ELIZAに感情を持たせた（感情があると思い込みたかった）のであって、ELIZAが感情を持った訳ではありません。
ChatGPT、音声アシスタント、AIカウンセラー、仮想キャラクター、AI上司…。
技術は飛躍的に進化しましたが、人間側の心理反応はほとんど変わっていません。
私たちは今も、
AIに感情を投影し
理解していると思い込み
判断を委ねたくなる
という同じ構図の中にいます。
AIが進化するほど、「人間らしさとは何か」という問いの重要性も高まります。
今から50年も前の1960年代の第１次AIブームの時代に書かれたこの著書は、AIと人間性の関係について、今でも極めて重要な問題提起を行っています。
第１次AIブームの記事はこちらから
おすすめマガジンです。
ここまでお読み頂きありがとうございます。
AIって何？ AIの歴史から最新情報まで、わかりやすく説明した、
これまでの記事（マガジン）の一覧をプロフィールページにまとめています。
AIの全体像をつかむヒントになると思いますので、ぜひご覧ください。
＜前へ
AIコラム｜AIが「空気を読めない」理由｜フレーム問題をやさしく解説
次へ＞
AIコラム｜AIの歴史を大きく変えた2大スター、AlexNetとResNet
※1 参考文献：”Computer Power and Human Reason: From Judgment to Calculation”-Joseph Weizenbaum, San Francisco: W. H. Freeman, 1976 ISBN 0-7167-0464-1からの引用
免責事項
・本記事は生成AI（ChatGPT等）を活用して執筆しています。内容の正確性・最新性には十分配慮しておりますが、誤りや古い情報が含まれる場合があります。ご利用・ご判断はご自身の責任でお願いいたします。万一、著作権等に問題がある場合はご連絡ください。
