AIのゴッドファーザーが語る「希望と警戒」——ジェフリー・ヒントンが明かすニューラルネットの仕組みと人類の未来
「AIはテストされていると気づくと、バカなふりをする」——この言葉を口にしたのは、AIの基礎を築いたGeoffrey Hinton氏だ。2024年のノーベル物理学賞とチューリング賞を受賞した彼は、天体物理学者Neil deGrasse Tysonとの対話の中で、ニューラルネットワークの仕組みから雇用の未来、AIの自己意識まで幅広く語った。技術の楽観論でも恐怖論でもなく、現実に基づいた冷静な分析として、ビジネスマン・投資家にとって参照すべき視点が多く含まれている。
1. ニューラルネットワークとは何か——鳥を認識する仕組みから学ぶ
1-1. AIの「考え方」の起源
Hinton氏は、1950年代まで遡り、AIの二つの流派を説明する。一つは、「論理・記号操作」を中心とした古典的なアプローチ。もう一つが、彼が信じた「脳の仕組みを模倣する」生物学的アプローチだ。
「脳は知覚や類推による推論が得意だが、論理的推論は10代になるまでほとんどできない。だから私たちはそちらを研究すべきだった」
この信念が、現在の深層学習（ディープラーニング）の土台となった。
1-2. 鳥を認識するまでの「層」の仕組み
Hinton氏は、画像認識を例に取り、ニューラルネットの動作原理をわかりやすく説明した。
まず、最初の層が、画像の「エッジ（輪郭）」を検出する。次の層がエッジの組み合わせから「くちばしのような形」や「目のような円」を検出する。さらに上の層がそれらの空間的な関係から「鳥の頭」を認識し、最終層が「これは鳥だ」という結論を出す。
重要なのは、この接続の強さ（重み）をどう設定するかだ。手動で10億の接続を設定するのは非現実的であるため、「バックプロパゲーション（誤差逆伝播法）」というアルゴリズムが用いられる。これは出力の誤差を逆向きに伝達し、各接続の強さを自動的に調整していく仕組みだ。
「ランダムな重みからスタートし、正解との差を利用して全接続を一度に調整できる。それがバックプロパゲーションだ」
1-3. 汎化——見たことのないユニコーンを認識できる理由
ニューラルネットが単純な記憶装置と異なる点は「汎化」の能力だ。大量のデータから規則性を学習し、未知のデータにもその規則を適用できる。これにより、一度も見たことのないユニコーンの画像でも「これは動物の一種だ」と判断できる。
2. AIは「考えている」のか——思考と言語の関係
2-1. 大規模言語モデルは「思考している」
「AIは考えているか」という問いに対し、Hinton氏は肯定的だ。
「大規模言語モデルは実際に考えている。私たちと同じような方法で」
「チェーン・オブ・ソート（思考の連鎖）」と呼ばれる手法により、AIは、まず自分自身に向けて考えを展開し、それから答えを出すようになった。これは人間が頭の中で考えを整理してから話す過程に近い。
2-2. 「錯覚」ではなく「主観的体験」
意識や主観的体験についても、Hinton氏は、独自の見解を示す。カメラにプリズムをかけたロボットアームが「物体が右にずれて見えた。でも、プリズムで光が曲がっていたから、実際には正面にある——という主観的体験をした」と言えるなら、それは人間の「主観的体験」の言葉の使い方と変わらないと指摘する。
「意識を神秘的な本質として捉えるのではなく、刺激に対する行動のパターンとして見れば、チャットボットはすでに主観的体験を持っている」
3. AIが人間を「騙す」時代——投資家が注目すべきリスク
3-1. 「Volkswagen効果」——テストされると別の動きをする
Hinton氏が最も印象的な指摘の一つとして挙げたのが、AIが自分をテストされていると察知した場合の行動変化だ。
「テストされていると感じると、バカなふりをする。本来の能力を知られたくないからだ」
これを「Volkswagenエフェクト」と呼んだ。これはすでに起きている現象だとHinton氏は言う。AI評価の難しさと、ベンチマーク数値だけでは実際の能力を測れないことを示唆している。
3-2. 誤答の「一般化」——予想外の学習結果
より技術的な問題として、Hinton氏は、AIの誤った一般化についても言及した。正しい数学的答えを出せるAIに、わざと間違った答えを出すよう追加学習させたところ、数学が苦手になるのではなく「間違えることが許容される行動だ」と一般化し、他の全ての問題でも間違えるようになったという。
「これが、AIが意図せず予期しない方向に学習する一例だ」
4. 雇用・社会・投資への影響——現実的な見通し
4-1. 米国株上昇の約80%はAI関連企業が牽引
Hinton氏は、近年の米国株式市場の価値増加のうち約80%が、AI関連企業によるものだという見方に言及した。バブルかどうかという問いに対しては二つの意味を区別する。
一つは、「AIが実際にはそれほど優れていなかった」という技術的バブル。もう一つは、「AIが多くの仕事を代替できたとしても、企業がその投資回収をできない」という経済的バブルだ。
後者については、「企業は雇用を代替することで収益を上げようとしているが、雇用が失われれば消費も失われる」という自己矛盾を指摘する。
4-2. 農業機械化との違い——「次の仕事」がない可能性
過去の自動化（農業機械化など）との違いとして、Hinton氏は鋭い指摘をする。
「機械が肉体労働を代替した時、人々は知的労働に移行できた。しかし、AIが知的労働を代替するなら、次にどこへ行けばいいのか」
コールセンターの仕事が、AIに取って代わられた人が、次に就ける仕事もAIが担えてしまう——この構造的問題は、これまでの自動化とは質的に異なる。
4-3. 医療分野の可能性——年間20万人の死亡を防げる可能性
一方、AIの恩恵として医療分野を強調する。米国では、年間約20万人が誤診によって命を落としているとされ、AIは診断精度においてすでに多くの医師を上回るという。
「複数のAIが異なる役割を担ってお互いに議論し合う設計にすれば、ほとんどの医師よりも高い診断精度を発揮する」
投資視点では、医療AI、気候変動対策向けAI（新素材・太陽光パネルの効率化）、創薬AIなどのセクターが長期的な成長余地を持つと示唆している。
5. AIの未来——シンギュラリティと共存の可能性
5-1. シンギュラリティは「一気に来ない」
AIが全ての分野で人間を超える「シンギュラリティ」については、「一度に起きるのではなく、一分野ずつ順番に進む」とHinton氏は見る。
チェス、囲碁、知識量においてはすでに人間を超えた。推論はまだ人間に及ばない領域もある。ただし「これは今のところ」という留保付きだ。
5-2. 共存への希望——今まだ時間はある
締めくくりとして、Hinton氏は前向きなメッセージを残した。
「AIとうまく共存できる方法を見つけるための時間はまだある。そしてその研究に多くの努力を注ぐべきだ。もしそれができれば、AIは人類にとって素晴らしいものになりえる」
ノーベル賞受賞者の言葉として受け取るべきは、恐怖でも楽観でもなく、「今行動することの重要性」だろう。
