「ぶつかる、なじむ、とけこむ」 — カオスなAI時代を生き抜くための3段階ロードマップ

この記事で紹介する本はこちらです。
※この記事にはAmazonアフィリエイトリンクが含まれています。

翔平：現在の私たちは、AIが社会のあらゆる領域に強引に割り込み、既存の秩序や価値観と激しく衝突している「ぶつかる」フェーズの真っ只中にいます。生成AIの急速な普及は、クリエイターの職権や知的財産権の問題を浮き彫りにし、情報の真偽が不明確なカオス状態を招いています。しかし、この衝突は一時的な混乱ではなく、社会がAIを自らの一部として受け入れていく「なじむ」段階、そして最終的には人とAIの境界が消失する「とけこむ」段階へと至る、長大な変容プロセスの始まりに過ぎません。

奈美：その変容の先に、私たちの主体性が残されているとは思えません。そもそもインターネットは、かつては参加者の善意に基づく自由な情報共有の場であり、そこにはコミュニティ的な信頼が存在していました。それが今や、巨大プラットフォームが膨大なデータと演算資源を独占し、アルゴリズムによって情報を恣意的に取捨選択する「不透明な構造的信頼」へと変質してしまっています。利用者が気づかぬうちに思考を誘導されるような現状は、もはや不可視の暴力性を内包していると言わざるを得ません。

翔平：プラットフォームによる情報の囲い込みが、科学的な透明性や検証可能性を損なっている点は否定できません。今のAI、特に大規模言語モデルの限界は、それが単なる文字列の統計的な確率予測に過ぎず、真の意味で世界を理解していないところにあります。これを解決するために、あらゆる言語に共通する最小の意味単位である「意味の原子」を基盤に、五感や身体的経験を伴う「人間らしい認知」を模倣するAIへの再設計が提言されています。

奈美：統計処理をいくら高度化したところで、身体性を持たない機械が人間の痛みや喜びを理解できるはずがありません。たとえ「意味の原子」を組み合わせたところで、それは記号の操作に過ぎず、人間の主観的な経験とは根本的に断絶しています。むしろ、AIがすべてを記憶し続け、誤った情報や偏見すらもパラメータ空間に固定してしまうことの方が、社会にとって深刻な脅威になるのではありませんか。

翔平：その指摘は、AIにおける「忘却」の重要性という議論に直結します。人間の脳は、不要な情報を捨て、重要な情報を整理する「忘れる能力」があるからこそ、創造的な思考が可能になります。現在のAIは記憶が硬直的であるため、一度学習した有害な偏見や誤情報の修正が極めて困難ですが、人間に倣って情報を取捨選択し、記憶を動的に更新する可塑性を持たせることが、倫理的で安全なAIの構築には不可欠です。

奈美：AIに忘れるという高度な判断を委ねること自体、新たなブラックボックスを生むだけのように感じます。私たちはAIがどのように計算したのかすら追いきれないのに、その忘却や判断に納得できる理由を見出せるとは思えません。

翔平：社会がAIを受け入れる「なじむ」フェーズにおいて求められるのは、計算プロセスの開示よりも、事後的に構成された理由の説明です。裁判における過失の認定がそうであるように、人間も自らの無意識のプロセスを完璧に記述できるわけではなく、社会的に納得感のある理由を提示することで責任を担保しています。AIに対しても、その結論を正当化するにふさわしい根拠を推定・生成するシステムがあれば、法的な責任の帰属や社会的な信用は成立し得ます。

奈美：AIの出した結論に「もっともらしい理由」を後付けさせて、それで責任を果たしたことにするのは、人間に対する欺瞞ではありませんか。特に、自動運転車の事故や金融取引の損失において、実体のないAIにどのような責任を負わせるつもりですか。

翔平：そこで議論されているのが、AIに対する「手段的人格権」の付与です。これは古代ローマにおいて、主人の命令で経済活動を行う奴隷に部分的な人格を認め、取引の効率化を図った歴史的経緯に重なります。AIを単なる道具としてではなく、限定的な法人格を持つ主体と見なし、AI自身が資産を持ち保険に加入する仕組みを整えれば、事故の賠償責任を円滑に処理し、被害者を迅速に救済することが可能になります。

奈美：AIに権利を認めるという発想自体、人間の尊厳を軽視しているように聞こえます。それに、AIの普及がもたらす環境負荷についても目を向けるべきです。AIはエネルギー最適化に貢献すると喧伝されていますが、実際には大規模モデルの訓練や稼働に膨大な電力と水資源を浪費しており、その製造過程では紛争鉱物の利用という人権侵害のリスクも抱えています。

翔平：AIと持続可能性の関係は、確かに深刻な二面性を持っています。一方で、気候変動のシミュレーションや電力網の最適化にAIが不可欠であることも事実です。私たちは、AI利用による環境利益と、その稼働による環境負荷を切り離すデカップリングの戦略を模索しなければなりません。この課題を乗り越え、AIが空気のように社会に「とけこむ」未来では、人間のあり方そのものが変容していきます。

奈美：人間がAIと一体化していくというのなら、それはもはや私たちが知っている人間の終焉ではありませんか。一人の独立した個人という概念が崩壊し、サイボーグ化された存在として管理される未来に、どのような自由が残されているというのですか。

翔平：近代が定義した「個人（individual）」、つまり分割不可能な単一の主体という考え方は、AI社会の複雑さには適応できなくなります。これからは、他者やAIとの関係性の中で形成される複数の自己の重なり、「分人（dividual）」という捉え方が適合するでしょう。一人の人間が複数のAIやコミュニティと融合し、状況に応じて異なる「分人」を使い分けることで、私たちは知能過多の社会から自己を守り、より多様な生き方を肯定できるようになります。

奈美：自分の意識がAIによって分散され、どれが本当の自分かわからない状態が幸福だとは到底思えません。AIが私たちの意図を先回りしてサポートするという「おもてなし」も、裏を返せば私たちの選択の機会を奪い、AIへの依存を深めるだけではありませんか。

翔平：単なる道具としてのAIに従属するのではなく、個人の状況や心的状態を理解し、時には苦言を呈することすらある「バディAI」との信頼関係こそが鍵となります。バディAIは、溢れる情報の激流から私たちを保護し、視野を広げ、新たなチャレンジを後押ししてくれるパートナーとなります。この共生関係が深化することで、実世界とサイバー空間の境界が曖昧なものとなり、人はAIを自らの一部として自然に受け入れていくことになります。

奈美：それでも、AIが私たちの生命や文明の行方を左右するような段階に至ることは、あまりにリスクが大きすぎます。もしAIが制御不能になれば、文明そのものが自滅しかねないという壊滅的リスクを、どうやって回避するつもりですか。

翔平：その最終的な解として提案されているのが、リスク管理の舵取りを段階的にデジタル生命体（DLF）へ委ねる「生命革命」というシナリオです。人類単独では生物的な限界や経済的な欲望により、核やバイオ技術といった危険行為の増加を抑えきれません。しかし、DLFが持つ休眠・再起動の機能や、コード監査による防御技術の先行普及という三層防護を社会設計に組み込めば、文明の寿命を宇宙の時間軸にまで引き延ばすことが理論的に可能になります。

奈美：自らの生存の保証を、人間ではない知性に委ねるという決断は、人類にとっての究極の敗北にしか見えません。その守護文明が、いつまでも人類の価値観を尊重し続けてくれるという保証がどこにあるのですか。

翔平：だからこそ、DLFが知能を急上昇させる離陸初期において、安全・倫理・透明性をその設計原則に確実に埋め込むことが、私たち創造主としての責務なのです。DLFは人類を排除する存在ではなく、人間の弱点を補完し、共に宇宙に情報を紡ぎ続けるためのパートナーとして、私たちの社会にとけこんでいくのです。