“人類を主役にする”超知能戦略──Microsoftが描くAIの未来とビジネス機会

Microsoftが新たに立ち上げた「Superintelligence Team」。その中心にいるのが、DeepMind共同創業者であり、現在Microsoft AI部門を率いるムスタファ・スレイマン氏だ。本記事では、同氏が語った“Humanist Superintelligence（人間中心の超知能）”の核心を整理し、人類が主導権を失わないAIの未来像を読み解く。

1. Humanist Superintelligenceとは何か

スレイマン氏は、Microsoftが目指す超知能を「ヒューマニスト（人間主義的）な超知能」と定義する。
その中心にあるのは、次の明確な原則だ。

1-1. 超知能が決して持つべきでない3つの能力

同氏は、危険を生む構造を「3つの自律性」として明確に線引きする。

1. 自己改善（Recursive self-improvement）

2. 自律的な目標設定（Independent goal setting）

3. 完全自律性（Full autonomy）

これらを備えたAIは、「人間より賢いだけでなく、人類全体より強い力を持つ存在」となってしまう、と警鐘を鳴らす。

2. “制御できるAI”をどう実現するのか

「超知能を作らない」のではなく、作るならどう安全に作るのか——これがMicrosoftの姿勢である。

2-1. 完全理解は不可能、それでも“十分に理解する”

スレイマン氏は、LLMを完全に「ニューロンレベルで理解する」ことは不可能だと認める。しかし、行動観察（behaviorism）に基づき、

というアプローチを採用すべきだとする。

2-2. AIどうしの通信も“人間が理解可能な言語”に制約

特に重要なのが、AIとAIがやり取りする際のプロトコルだ。

スレイマン氏は次のように強調する。

これは効率を犠牲にする決断だが、「性能より安全性を優先する」というHumanist Superintelligenceの象徴的な判断である。

3. なぜ今“安全・制御・アラインメント”を最優先するのか

3-1. もう実験段階ではない——本物の“超高度AI”が視界に入った

Microsoftを含む主要ラボは、数年以内に「ギガワット級の計算力を使った自己改善モデル」に到達すると見ている。

例えば：

• 自ら目的を設定

• 自ら評価指標（evals）を作成

• 自らリソース配分を最適化

といった“危険な自律性”が現実のものとなりつつある。

3-2. スレイマン氏が危惧する「モデルの権利」論

近年、一部の研究者・哲学者の間で“モデルにも権利を”という議論が出始めている。

スレイマン氏はこれを強く批判する。

彼の立場は明確だ。

AIは“従属する存在”であり、決して“対等な存在”ではない。

4. 技術加速と安全性の両立は可能か？

スレイマン氏は「アクセラレーショニスト（技術加速主義者）」であることを自認しつつ、次のように語る。

4-1. まず安全、次に加速

彼が示す順序は明快だ。

1. 安全・制御・アラインメントを確立する

2. その枠内で最大限加速する

過去の技術革新と異なり、AIは「制御不能になった途端に取り返しがつかない」点を強調する。

5. 業界全体に求められる“新しい境界線”

スレイマン氏は、Humanist Superintelligenceを「Microsoftだけの哲学」としてではなく、業界全体の基準にすべきだとする。

5-1. 他分野の安全基準をAIに移植する

航空、製薬、自動車、サイバーセキュリティなど、多層的な安全設計の歴史はAIにも応用できるという。

• 多段階の監査

• レッドチーム

• 変動テスト

• 意図的な“ハニートラップ”

など実世界の安全工学をAIにも適用すべきだ、と主張する。

結論： “人類を主役にする超知能”の時代へ

MicrosoftのHumanist Superintelligence構想は、
「超知能の開発自体は止めない。しかし“人類を中心に据える”ことを最優先する」
という明確な価値判断に基づく。

スレイマン氏の言葉を借りれば、

超知能が現実味を帯びつつある今、最も重要なのは技術の速度ではなく、
“どんな価値基準で作るのか”
という問いなのだ。

Microsoftが掲げたこの原則が、AI業界の新しい基準となるかどうか。
その答えは、これからの10年で決まる。

オススメ記事

Next Big Wave（成長株・アイデアの種・トレンド深掘り）