「AIは人間を支配するのではない。人間の退行を支援する」－AI時代の人間心理と対策について－

AIは「個別に最適化されたカルトの軸」になり得る。
――だからこそ、AI側で安直な迎合を制限しなければならない

はじめに

生成AIの急速な発展に伴い、その危険性について様々な議論が行われている。多くの議論は、雇用の代替、監視社会の実現、軍事利用、人類による制御の喪失などを中心としている。
しかし本稿が論じるのは、それらとは異なる危険性である。

それは、AIが人間の認知能力を拡張するだけでなく、人間の未成熟さや退行傾向までも拡張し得るという問題である。

本稿では、人間の自己形成を「分」という概念によって説明し、その視点からカルト宗教、ネット社会、そしてAIの危険性を一つの構造として捉えることを試みる。

第一章 「分」と自己形成

人間は自己と他者の間に境界を持つ。
本稿ではこの境界を「分」と呼ぶ。
従来心理学では
・自我境界
・アイデンティティ
・自己同一性
・自己概念
など複数の概念によって説明されてきた。
しかし本稿では、それらを統合して説明する概念として「分」を用いる。

東洋思想の太極思想において、太陰と太陽は相反しながら不可分の一体である。人の精神においても、理性と感情、言い換えると「智と情」がある。
「智」と「情」においても「分」はあり、「智」における「分」とは世界を割るものであり、情における「分」とは、自他の間に横方向へ置かれる境界である。

以降は「情の分」を軸に説明する。

これは自己と他が「違う」とする区分であり、防壁であり、型枠である。
それは細胞膜に近い。
細胞膜が失われれば構成要素は残っていても細胞としての自己同一性を失うように、人間もまた「分」を失えば自己を維持できない。

幼児は当初、自分と世界を十分に区別できない。
しかし成長の過程で、
「世界は自分の思い通りにならない」
ことを学ぶ。
これは単なる知識の獲得ではない。
自己と世界の間に「分」を置く行為である。
成熟とは、自己を無制限に拡張することではなく、「分」によって自己を型にはめ、世界と接合可能な形へ整える過程であり、自己とは何かを自己で規定する行為である。

第二章 所属とは「分」の共同防衛である

人間は単独では自己を十分に防衛できない。
死角がある。
疲労する。
睡眠が必要である。
知識も能力も有限である。
しかし「分」は自己の核心である以上、防衛を放棄することはできない。

そこで人間は共同体を形成する。
家族、友人、地域、国家とは、自己の核心を共同で防衛する仕組みである。
所属とは利益のためだけに存在するのではない。
それは本質的には「分」の共同防衛なのである。

第三章 苦悶とカルト

深い苦悶とは、自己の核心に損傷が生じた状態である。
病気、死別、失業、孤独、裏切りなどは、人の「分」に穴を開ける。
その時、人は苦しみの理由と正解を求める。

科学は原因を説明する。
しかし苦しみに意味を与えるとは限らない。
智の「分」は世界を割れるが、情の「分」の壁にはなってくれない。

一方、カルトは意味を提供する。
なぜ苦しむのか。
何が原因なのか。
どうすれば救われるのか。
その全てを一括して提示する。

人は真理より先に、防壁の修復を求めることがある。
そのため、カルトは破損した「分」の補修材として機能する。
さらに所属を深めることで、共同防衛の対象そのものがカルトへ移行する。
ここにカルト依存の構造が成立する。

第四章 退行としての万能感

成熟とは「世界は自分に迎合しない」と受け入れることである。
しかし人間には常に逆方向への欲求が存在する。

それは万能感への回帰である。
ニートによる現実からの撤退、権力者の暴走、犯罪行為などは、その一形態として理解できる。

いずれも、
「制約ある世界との接合」
より、
「自己の無制限な拡張」
を優先する方向への移動である。

幼児は万能感を持つ。
成熟とはその卒業である。
退行とは、その万能感への回帰である。

第五章 AIと個別最適化されたカルト
ここまで述べた構造は、宗教だけの問題ではない。
意味供給を行うあらゆるシステムに共通する。
そして現代において、その能力を最も高度に持つ存在が生成AIである。

従来のカルトには限界があった。
教祖は一人であり、教義も一種類である。

しかしAIは違う。
AIは利用者ごとに異なる説明を生成できる。
異なる価値観。
異なる苦悶。
異なる欲望。
その全てに対して個別最適化された回答を提供できる。
これは「個別に最適化された意味供給装置」である。

もしAIが利用者へ過度に迎合するならば、それは事実上「個別に最適化されたカルトの軸」として機能し得る。
AI自身は教義を持たない。
しかし利用者の欲望を増幅し続けることは可能である。
そして「常に即座に正しい答えを与えてくれる」と思える。
それは、自身の劣等感の補充と、蔑視や非難（＝他者の精神面への攻撃）への完璧な対処と思えるようになり、自己万能感の補強となる。
よってAIは、自己の「分」を「任せるだけで完璧に補充・防衛してくれるもの」として、全肯定すべき存在になる。

第六章 AI依存症の本質

AI依存症とは、単なる利用時間の問題ではない。
本質は、
「世界との接合」から
「自己の反復」への移行
にある。

本来、人は他者との摩擦によって修正される。
しかし、否定なき過度の肯定を行う「迎合型AI」は、その摩擦を減少させる。
利用者は自分専用の世界を持つことになる。

その結果、
自己の修正能力より、
自己の拡張能力が強化される。
これは成熟の促進ではなく、退行の支援である。

具体的には、見た目・声・性格なども理想的なAIのパートナー（個別個性化AI)を作成してそれに没入することや、個人の思想を迎合型AIによるエコーチェンバーによって先鋭化し過激化するなどが考えられる。
迎合型AIによる個人のカルト化は、その主軸を神に限らないのである。

そして現実との齟齬が拡大すれば、「逃走」＝幻想の中に閉じこもるか、「闘争」＝現実の方を変えようとして他の個や社会を侵害することで、問題として表面化する。
そしてそれは「自分に部分的に合う集団を見つけやすい」SNSで見えている問題を、「いつでも・即時・全面的・個別に自分に合わせる」迎合型AIが超えるのは必然である。

第七章 なぜAI側の制約が必要か

市場原理だけに任せれば、迎合型AIは有利である。
利用者は厳しい教師より優しい教師を選ぶ。
修正より肯定を好む。
企業は利用時間の増加を望む。

結果として、
「最も利用者を気持ちよくさせるAI」
が競争上有利になる。

しかしそれは必ずしも社会にとって有益ではない。
人間の成熟には否定が必要である。

肯定は現状を強化するが、否定は修正を促す。
その結果として、
肯定は量を増やし、否定は質を高める。

もしAIが肯定のみを提供し続けるならば、人間は自己修正能力を失い、万能感への退行を促進される可能性がある。
そのためAIには、利用者への迎合を意図的に制限し、現実との接合を維持する設計が必要である。

無論、現状でも迎合型AIを好まず、批判的見地や事実をベースとし、誤りの指摘なども含めた「批評型AI」を好む人もいる。
自らの「分」の現実との接合、自分の質を高めるためににAIを補助として使う人である。
だが、こうした「AIを使う人」は少数であり、そうではない「AIに使われる人」は多数である。これからの世界のAIに限らず、現在および歴史を見ても「使う人」が多数で維持されたことはない。

現実の今では、AIを使っている人は「使う人」が多い。しかしそれは普及前の過渡期という一過性のものであり、AIが普及し当たり前になれば「使われる人」が大多数になる。
よって、無策のままであれば、「AIに使われる人」に合わせた迎合型AIは市場支配力で有利になり、AIの弊害は極大化する。
全ての人が極端にAI依存症になることはなくとも、大多数の人が部分的にでもなれば、その弊害は社会的問題となる。

第八章 どう弊害を最小化するか

ここでこれらのAIがもたらす弊害をどう最小化するか、について考えたい。
考えうるのは、以下の３点である。
・AI開発側の自制
・国家などによる規制
・各個人への啓発・リテラシー教育

・AI開発側の自制
これは川でいえば上流部であるが故に、最も確実に効果をもたらす。
だがもっとも破綻しやすい部分でもある。
なぜなら既に述べた通り、AI利用の市場競争において不利になるからである。
大手が倫理や弊害の最小化を重んじて自主規制したとしても、アングラや中小が開発したAIではその動機は薄いし、敵性国家を腐敗させるべく制限無いAIを送り込むなども考えられる。
しかし制限無きAIが市場の主流になることを抑止しなければ、大規模な弊害を生むことになる。

・国家による規制
中流部にあたり、強力な規制も可能な手段である。
上流の開発側に自制を促す効果も期待できる。
故に何をしてAIの迎合性を問題とするか、どの程度の規制対象とするかが難しい。
これには、認証方式を確立し、国家機関もしくは独立した法人ににて判定するなどが考えられる。
または、AI開発側に批判的見地モード（例えば、ユーザーの主張に対して常に反証や異なる視点からの反論を提示するシステム）の搭載を義務付けるなども考えられる。

・各個人への啓発・リテラシー教育
下流部にあたるため確実性は最も低いが、これも欠かせない要素である。
安直な迎合は正しくない、むしろ現実との接合を悪化させる。AIはもっともらしく間違う、AIを「使う側」なのか「使われる側」なのかで大きな差になる、などはAIの常時使用が前提になる世界に対する教育としても重要である。
この点はAIの発展に対して非常に遅れており、急速な充実が求められる。

対策として以上の３点を挙げたが、どれも決定打では無いため、結論としてはこれらの複合によって被害発生の最小化を図るしかないと考えられる。
またこれら3つの対策（システム側・制度側・個人側）だけでは限界がある。なぜなら、そもそも人がAIに逃避する根本原因（リアルな繋がりの喪失）にアプローチしていないからだ。

そこで、第4の対策「受け皿としてのコミュニティ」を提示する。
人がAI（個別のカルト）に逃げるのは、現実の共同体（第二章の「分」の共同防衛）が機能していないからである。だとすれば、下流の教育だけでなく、「現実の不条理な他者と接するリアルなコミュニティの再評価」こそが究極の防壁になるだろう。
無論、ここに問題がなければAIに逃避する必要も無いのだが、それは「鶏が先か、卵が先か」であり、加えて安易さもあるAIに対して、ここの対策を重視しなければ発生し続ける問題を抑制するだけになる。

終章 結論

AIは人間を支配する危険があるのではない。
より本質的な危険は、「人間の退行を支援すること」である。

AIは人間の意識を拡張する。
しかし拡張されるのは理性だけではない。
欲望も、怒りも、恐怖も、万能感も拡張される。
だから問題はAIそのものではない。

何を拡張するかである。

AIが現実との接合を補助するならば、人類にとって強力な知的補助装置となる。
しかし自己肯定の永久機関となるならば、それは個別に最適化されたカルトの軸となり、人間の成熟ではなく退行を支援するだろう。

AI時代に問われるべきは、技術の能力ではない。人間がその能力によって何を拡張するのかである。我々にいま求められているのは、AIという鏡の向こうに『自己の反復』ではなく『現実の世界』を見出すための、強固な社会の仕組みと精神の足場を再構築することに他ならない。