ChatGPTは『考えない自分』をつくる──MITが暴いた『知性のゾンビ化』
MITの研究が明らかにしたのは、ChatGPTを使って書かれたエッセイの83.3％が『書いた本人すら思い出せなかった』という、衝撃的な事実です。
これは、記憶力の問題ではありません。
そもそも『思考が動していなかった』のです。
つまり、私たちは考えずに『考えたつもりになれる』時代に突入してしまったのです。
整った文章だけが評価され、そこに至る思考の痕跡は、どこにも残されません。
そして今、文書生成AIは、あなたの脳を静かに、そして確実に、沈黙させていこうとしているのかも知れません──。
……え、今読んでるこの文章も？
いやいや、これは私が書いたやつ……だよな？
念のため履歴を確認……
うん、大丈夫、たぶん……たぶん……これ、Geminiで書いたんだっけ？それともChatGPT？
あれ……ログイン履歴が……消えてる……？
まさか、私は既に『外部化された知性』の一部だった……？
このような現象への懸念は、AI倫理の分野ではすでに長年にわたって議論されてきました。
MITの研究結果は、これまで理論的に指摘されてきた『思考の外部化』や『記憶の希薄化』といった現象を、神経科学の水準で実証的に裏付けたに過ぎません。
たとえば教育現場では、学習プロセスそのものの空洞化に対する危機感が強まり、文部科学省は『生成AIの教育利用に関するガイドライン』を段階的に公表しています。小学校・中学校・高等学校・大学にいたるまで、それぞれの段階に応じたAI活用ルールが策定されています。
初等中等教育段階における生成AIの利活用に関するガイドライン（Ver.2.0）
（令和6年12月26日公表）
つまり、『生成AIによって人間の思考は委縮するのではないか』という問題は、すでに個別の懸念を超えた、社会全体の構造的な問いとなっているのです。
『痕跡なき知性』──電脳化社会における自己モデルの消失
（攻殻機動隊っぽい！）
生成AIによる知的退化は、いま静かに、しかし確実に進行しています。
その本質は、単に『脳波の活動が弱くなる』といった生理的変化ではありません。人間のメタ認知能力、即ち『自分が何を考えているのかを知る力』が沈黙し始めている、その深刻な兆候にあるのです。
MITの実験によれば、ChatGPTを使ってエッセイを作成した被験者グループ（LLM群）のうち、83.3％が自分の書いた文章から重要な情報を引用できなかったと報告されています。
これは単なる記憶力の問題ではありません。思考のプロセスそのものが、脳内に『記録』されていなかったということを意味しています。
『私はこう考え、こう書いた』という因果関係が頭の中に築かれておらず、自己を形づくる認識構造が抜け落ちていたということです。
こうした『自己なき言語生成』というテーマは、ChatGPTの登場以前から、フィクションの世界で繰り返し描かれてきました。
その代表的な作品が、士郎正宗による『攻殻機動隊』（1989年〜）シリーズです。
攻殻機動隊風タイトル術
（以下のようなタイトルにすると、それっぽくなります）
・『脳の沈黙プロトコル』──自己なき言語とメタ認知の断絶
・《ゴーストは、そこにいたのか》──ChatGPTが奪う『思考の由来』
・『記憶されなかった思考』｜The Silence of Internal Trace
『攻殻機動隊』では、電脳化された人間がネットワークを通じて知識や感覚を共有する一方で、『それは本当に自分の記憶なのか』という構造的な問題が、繰り返し描かれてきました。
とりわけ1995年の映画版（押井守監督）では、『人形使い』や『ゴーストの漂流』といったモチーフを通じて、記憶と自己の境界が曖昧になる現象が、作品の核心として深く掘り下げられていました。
そしていま、文書生成AIが急速に普及する現実のなかで、私たちが直面している『書いたはずなのに思い出せない』『なぜそう書いたのか説明できない』といった現象は、まさに『攻殻的問題系』が現実化した姿だと言えるのではないでしょうか。
言葉はたしかに生成された。けれども、そこに『思考の痕跡』が残されていない。
『私はこう考えたから、こう書いた』という因果関係すら辿れない状況は、思考の主体そのものが希薄になっていることを示唆しています。
AIの台頭によって『記憶なき知性』という新たな問題が、静かに、私たちの生活に入り込んでいるのです。
この《記憶なき知性》という問題系は、じつは『攻殻機動隊』に先んじて、過去の文学・SF・哲学作品においても繰り返し描かれてきたものです。
たとえば、以下のような物語や思想のなかに、『思考の出所が曖昧になること』や『自己が構成不可能になること』への先駆的なまなざしを見ることができます。
《自己構築エラー》──機械知性と記憶のゆらぎ
『赤毛組合』（コナン・ドイル、1891年）
まさかの古典ですが、『自分で考えているつもりが、実は他人の思考に利用されていた』という構図が描かれています。これは、AIとの共著において主体の所在が不明瞭になる現象と重なります。
『1984年』（ジョージ・オーウェル、1949年）
記憶が改竄され、言語が管理され、人々が『思考の由来』にアクセスできなくなる全体主義社会が描かれています。なかでも『ダブルシンク（二重思考）』という概念は、『自分が何を考えていたかを知らないようにする』認知装置として、生成AIの利用中に起こる『思考プロセスの失念』と驚くほど似通っています。
『高い城の男』（フィリップ・K・ディック、1962年）
現実と虚構が交錯するなかで、『誰が思考しているのか』『どの現実が本物か』が曖昧になっていきます。ディック作品特有の多重世界構造は、AIと共創されたコンテンツに見られる、出所と実在性のゆらぎを先取りしているとも言えるでしょう。
『ボッコちゃん』（星新一、1963年）
感情を持たないロボットと人間の関係を描きながら、実は『人間の側が機械的に振る舞うこと』の方が問題であると示唆しています。生成AIに“人間らしさ”を感じてしまう錯覚を、すでに半世紀以上前に風刺していたのです。
『虚人たち』（筒井康隆、1981年）
登場人物の人格や作者自身のアイデンティティが次々と解体されていくこの作品では、『私は誰か』という問いが物語構造に織り込まれています。ChatGPTが生成する“誰でもありうる”文章の匿名性と、強く響き合う内容です。
こうした文学的想像力は、哲学的にもすでに理論化されています。
たとえば、ミシェル・フーコーは『言葉と物』『知の考古学』などで、人間の主体とは制度や技術によって構築されたものであると指摘しました。ジャン・ボードリヤールは、『シミュラークルとシミュレーション』で、『現実の模倣が独立し、もはや原型を持たない状態（ハイパーリアリティ）』を示し、まさにAI生成コンテンツの特質と一致します。
また、デヴィッド・ヒュームの『束縛説』は、『自己とは感覚や記憶の集合体に過ぎない』と説きます。これにより、ChatGPTを通じて思考を行うという行為が、『誰の考えでもない集合的自己』のような状態を生んでしまうことに理論的根拠が与えられます。
ジャック・デリダは『意味も主体も痕跡の連鎖に過ぎない』と語り、ダニエル・デネットは『意識は一つの物語ではなく、多重ドラフトとして構成される』と主張しました。こうした理論群は、まさに今、私たちが直面している『ChatGPTが書いたものを、自分の考えだと誤認する現象』と深く重なっているのです。
これらの物語や思想を振り返ることで、ChatGPTによる文章生成がもたらす『思考の痕跡の消失』とは、文学や哲学が予見してきた『人間の限界』に、現実がついに到達してしまったという証左なのではないでしょうか。
今、私たちが問うべきは、ただAIが『便利かどうか』ではなく、そこに書かれた言葉が『誰の思考だったのかを本当に覚えているのか』という根源的な問いなのです。
思考は誰のものか？──いま問われている本質
ChatGPTの登場によって、私たちは『情報を生産する』ことはできても、『思考を持っていた』と言えるかどうかが曖昧になりつつあります。
これはもはや、技術の問題ではありません。それは哲学・文学・SFが先んじて予見していた『知の痕跡の喪失』という問題です。
そしてこの問いは、もはや創作や物語のなかではなく、私たちの日常のGoogleドキュメント、note、Slackのチャット欄で、現実の問題として進行しているのです。
書くこと＝考えること、ではなくなる時代
もともと、文章を書くという行為は、思考を外在化し、構造化し、自分自身を再帰的に理解するプロセスでした。
しかし現在、それは『プロンプトを入力し、出力された文章を貼り付ける』という操作作業へとすり替わりつつあります。
MITの研究は、ChatGPTを使用して文章を書いた人の脳波データをEEGで解析した結果、前頭前皮質・頭頂葉・視覚野の接続性が著しく低下していたことを報告しています。
これはつまり、『考えながら書く』という神経ネットワークが、物理的に沈黙していたということです。
もはや我々は、『考えなかった成果物』が評価される社会へと踏み出してしまったのかも知れません。
『黙る脳』と『叫ぶ快楽中枢』──ドラッグと生成AIの根本的な違い
覚醒剤やヘロインのような薬物が脳に及ぼす影響については、脳科学の研究により一定程度まで明らかになっています。これらの薬物は、主にドーパミン系や報酬回路を過剰に刺激し、快楽の回路を暴走させるとともに、前頭前皮質の抑制機能を低下させることが知られています。その結果、衝動制御や意思決定が損なわれ、依存症や行動異常が引き起こされるのです。
一方で、ChatGPTのような大規模言語モデル（LLM）がもたらす影響は、薬物とはまったく異なるメカニズムで脳に作用します。LLMは、脳に快楽を過剰に与えるのではなく、思考に関わる脳領域の活動そのものを減少させるという点で、本質的に異なっています。
本稿で取り上げているMITの研究では、ChatGPTを使用してエッセイを書いた際、前頭前皮質や頭頂葉における脳の接続性が有意に低下することが、EEG（脳波）計測によって確認されました。これは、LLMがタスクの認知的負荷を軽減する結果、思考や問題解決に関わる脳活動が抑制されていることを意味しています。
但し、プロンプトの入力や生成結果の評価といったプロセスでは、一定の認知的関与が残されているため、『完全に思考が停止する』というわけではありません。
神経可塑性の原理──『使わなければ、衰える』
脳は筋肉と同様に、使用すれば強化され、使わなければ衰えるという性質を持っています。これは『神経可塑性』と呼ばれ、現代の脳科学における基本的な理解です（Hebb, 1949）。たとえば、軽度認知障害（MCI）の患者においては、思考・記憶・言語などのタスクを意識的に繰り返すことで神経結合が強化され、認知症への進行を遅らせることができると報告されています。
ところが、ChatGPTのようなLLMに過度に依存し、認知的努力を省略する行為が常態化すると、思考や問題解決に関わる脳回路の使用頻度が減少してしまうおそれがあります。
実際、本稿で取り上げているMITの研究" Your Brain on ChatGPT"では、LLMを多用した後に単独でエッセイを書くよう指示された参加者の多くが、論理構造の精緻さや全体的な文章の品質の低下を示したと報告されています。これは、LLMへの依存が長期的に認知機能に悪影響を及ぼす可能性を示唆する重要な知見です。
たとえば、日常的に足を動かさずに生活を続ければ筋力が衰えていくように、思考プロセスを反復しない状態が続けば、認知能力も徐々に低下するリスクがあります。
メタ認知の低下──思考プロセスの言語化の難しさ
文章を書くという行為の本質は、単なる『出力作業』ではありません。
本当に重要なのは、『なぜそのように書いたのか』を自分の言葉で説明できる力、つまりここ最近ちょっと流行っている『メタ認知』の保持にあります。
メタ認知とは、自分の思考や行動を客観的に把握し、必要に応じて調整するための自己反省的なプロセスを指します。
かつて『自己批判』という言葉が共産主義的文脈で用いられていた時代もありましたが、今ではすっかり死語になってしまいました。
しかし皮肉なことに、最近のAI界隈では、この『自己反省的なプロセス』こそが重要だと、ちょっとした流行語のようになりつつあるのです。
MITの研究では、LLMを使用してエッセイを書くユーザーにおいて、論点の構成理由や表現の選択意図などを自らの言葉で説明する能力が低下する傾向が確認されました。
たとえば、
・どのような論点を立てたのか
・なぜその表現を選んだのか
・誰に向けて書いたのか
…といった問いに対し、使用者自身がはっきりとした説明をできないケースが目立つというのです。これは、文章そのものは整っていても、その背後にある思考の過程が『意識化されないまま進行していた』ことを意味しています。
このような状態が常態化すると、『自分の考えを持って書く』という感覚そのものが失われていくおそれがあります。文章が自然に流れてしまうことの快適さの裏で、思考の由来を見失う危うさが静かに進行しているのかもしれません。
教育の自壊──『考えなかったこと』が評価される世界
この現象がもっとも深刻に現れているのが、大学教育の現場です。
すでに一部の大学では、生成AIを用いたレポートの提出が、明示的に禁止されていない限り、黙認されつつあります。
『文章として破綻していないからOK』『構成が整っているから高評価』といった評価軸が一部で重視されつつある一方、クリティカルシンキングやオリジナリティを評価する試みとして口頭試問や自己申告なども行われています。
こうした傾向に対応するため、ChatGPTなどの生成AIによる文章を検出する『判定AI』の開発も進められています。
たとえばGPTZeroやTurnitin AI Detectorなどが代表例ですが、現実には『いかに判定AIをごまかすか』という技術的な競争に突入しており、プロンプト工夫や人力による微修正などで検出をすり抜ける事例が続出しています。
これは、教育の自壊です。
なぜなら、教育の本質は単なる知識の伝達ではなく、『考える力を育てること』そのものだったからです。
にもかかわらず、思考の欠如に目をつむり、整った文章という見かけだけを評価してしまえば、それは『考えなかったことを褒める制度』に他なりません。
対処法：『外在化された思考』を取り戻すために
では、我々はこの『知的ゾンビ化現象』の流れに、どう抗えばよいのでしょうか。
MITの研究は、ひとつの鍵を提示しています。
それは『Brain → LLM』、すなわちまず人間が考え、その後にAIを使うという順序が、もっとも神経活動を活性化させるという事実です。
この順序は、単なる工夫ではありません。
人間が思考の主導権を保持し、AIを補助的な外部化装置として使うための、脳科学的にも理にかなった戦略です。
リハビリのための4ステップ
この順序を日常的な創作・執筆作業に落とし込むと、以下のようなプロセスになります：
１．自分の頭で要点を手書きする
キーワード、論点、伝えたいメッセージをまずは自力で書き出す。これは『脳を起動する合図』です。
２．AIに清書させ、あくまで提案として受け取る
語彙や構文を参考にするのは構いませんが、AIの出力をそのまま『自分の考え』として提出してはいけません。
３．出力された文章を閉じ、自分の言葉で要約してみる
AIの成果物を読まない状態で、自分の頭で再構成できるかを確認します。これは記憶と自己モデルの統合訓練になります。
４．他者に説明する／議論する
最終的には、自分が何を考え、なぜそう書いたのかを他人に説明できること。これこそが再帰的思考の完成形です。
この4つのステップは、単に教育的に『良さそう』なだけではありません。脳の可塑性を保ち、知的エンゲージメントを維持するための神経科学的リハビリ法でもあります。
AIリテラシーの先にある『思考リテラシー』
いま、多くの教育機関や企業、行政が『AIリテラシー』の重要性を声高に叫んでいます。まるでそれさえ掲げていれば未来対応できているかのように。
もちろん、生成AI時代の最低限のスキルとしてAIリテラシーは必要です。しかし、MITの研究が示したのはそれだけでは足りないという現実です。『どこで・誰が・なぜ思考したか』という痕跡が消えた文章が、光り輝く“完成品”として出現してしまうからです。
つまり私たちが本当に取り戻すべきは、単なるAIの使い方ではなく、『思考そのものの意味を問い直す力』です。これこそが真の『思考リテラシー』なのです。
ところが、日本ではこの言葉すら既に消費されています。たとえば、GLOBIS（グロービス）は『知・情・意』といったキャッチコピーで、この概念をMBA型ビジネススクールの商材として売り出しています 。
『リテラシー』とつければそれなりに見える――その浅はかさは、日本社会に染みついた『権威リテラシー依存症』の土壌を露呈しています。
そもそも、GLOBISのような自己啓発型スクールを『知の権威』と信じ込み、『思考リテラシー』という言葉をそのまま鵜呑みにしてしまうこと自体が、思考を手放す行為にほかなりません。
いま本当に必要なのは、AIリテラシーという技術的スキルではなく、『思考するとは何か』そのものを問い直す力です。
つまり、自分の思考を言葉として形にし、意味づける力を取り戻すことが求められています。
それこそが、本当の意味での『思考リテラシー』なのです。
この視点を欠いたままでは、日本は『自分で考えたふり』だけが得意な、中身のない知性が量産される国になってしうかも知れません。。
『AIリテラシー』という言葉に安心せず、『誰が、なぜ、どう考えたのか』を明示しようとする意識が必要です。
そうでなければ、AIとの共存はただの幻想です。知らぬ間に、私たちは自分の思考を明け渡し、生成された言葉の奴隷になってしまうでしょう。
思考を止めた社会に、未来を語る資格はないのです。
この時代に本当に大事っちゃ、血反吐吐きながら単価5円にたどり着いた博多女、NATSu_博多っ子さんが見つけた、あの真理たい！
『マネージャーは自分。AIは上司じゃなか。』 by NATSu_博多っ子──ちゅうこったい！
武智倫太郎
