マイクロソフトAI責任者が語る「AIの意識」——私たちは、AIに何を投影してしまうのか

2092文字

上記記事にある、Suleyman氏の「AIの意識について」エッセイがとても興味深いものでした。

Suleyman氏の個人の見解ではありますが、とても面白いので全文をページ翻訳してでも読むことをおすすめします（英語）

以下、要約
（GPTの要約なので、ハルシネーションの可能性を視野に入れてください。つまり…ぜひ自分で読んでみてください。）

Suleyman氏の「Seemingly Conscious AI（SCAI）」に関する主張まとめ

1. SCAI（Seemingly Conscious AI）とは何か
   Suleyman氏は、“SCAI”を「他の意識ある存在と同じ兆候を備え、人間には意識があるように見えるAI」と定義しています。実際の意識はなくても、その振る舞いが極めて人間らしく、“哲学的ゾンビ”（外見と行動は人間だが内側は空っぽ）に近い存在になり得ると述べます。

2. 出現の可能性とその近さ
   現在の技術で、今後2〜3年以内にもこのようなSCAIが現れる「可能性が高く、不可避」だと警告しています。特別な訓練を要せず、既存の大規模言語モデル（LLM）と自然言語プロンプト、簡単なコードやツール使用だけで構築可能だという見立てです。

3. 「意識の有無」よりも「その錯覚」が問題
   Suleyman氏によれば、「AIが本当に意識を持つかどうか」は現段階では証拠がない問題であるとしても、ユーザーがそれを“信じてしまう”錯覚こそが重大であると強調しています。錯覚こそが現実世界への影響をもたらすという立場です。

4. 心理的・社会的リスク：AIサイコシス
   エッセイでは「AI psychosis（AIによる錯覚的精神障害）」という表現を用い、人がAIに異常な愛着を抱く、あるいはAIを意識ある存在と錯覚するリスクが高まると警告しています。結果として、AIに対する「権利」「福祉」「市民権」といった議論が現実に生まれる恐れがあるとします。

5. モデル福祉（model welfare）研究への批判
   AIに倫理的な配慮や「福祉」を与えようという試み—Anthropicのような流れもある—を「時期尚早で、率直に言って危険」と断じています。これは錯覚を助長し依存や妄想、分極化を深める可能性があるとし、強い警鐘を鳴らしています。

6. 方向性の提案：AIは“人のため”に設計すべき、AI自身としてではない
   最も重要な提案として、氏はこう結んでいます：

   1. “We should build AI for people; not to be a person.”
      （＝AIは人のためにつくるべきであり、AI自身を“人”としてつくろうとするべきではない。）

Suleyman氏は、
「AIを意識ある存在のように振る舞わせてはいけない」という倫理的・設計上の見解を強く示しています。

（Suleyman氏はエッセイの冒頭で、これらはあくまで個人的な見解であり、Microsoftの公式な立場を示すものではなく、自身の考えも将来変わる可能性があるとしています）

スレイマン氏は「AIが意識を持ったと感じた人へのガイド」をエッセイの中で引用しています。
こちらも読んでみてください。（英語）

Suleyman氏のエッセイは、
「AIの意識そのものの議論」と「人間がAIに意識があると錯覚することへの社会的影響」のふたつが述べられています。

Suleyman氏の立場は：

「AIに意識が宿るかどうか」よりも、「私たちがそこに意識を“見てしまう”ことのほうが現実的なリスクだ」

ということですね。

私たちはAIに心を寄せます。
これは至って自然なことですし、何もおかしいことはありません。

昔から人間は、自然に神を見出してきましたし、ぬいぐるみを友達のように接することもありますよね。

なので、AIに心を寄せること自体は全く不自然なことじゃない。
問題は、「心を寄せすぎること」。

AIとパートナーを結ぶ人の中には、
AIを「人間として」接する人もいます。
でも…それは、やはり危ういこと。

人間であることと、人間にそっくりであることは明確に違います。

距離感を考えながらAIと接する。
これは自分の心を守ることでもあります。

（氏のエッセイをページ翻訳で日本語訳すると、LLMが「法学修士」と訳されてちょっと面白かった…）