今さら「シンギュラリティ」と「AGI」を理解する

OpenAIのアルトマンさんが、とうとう「シンギュラリティ、来たで！」と言い出した。

わかってる人向けに一言でニュース解説するならこう▼

ぶっちゃけ、こういうナラティブゴッコはアルトマンさんの得意技で、アルトマンアンチの俺から見ると、「またなにか言ってる」って感じる。

だから、今回のニュースはもう忘れよう。

さて、気を取り直して、シンギュラリティとかいう厨二臭い言葉を理解することにしようよ！

この記事では、

• シンギュラリティとは何か

• AGIとは何か

• それらの関係性

• ビジネスの都合で、本来の意味が歪められている

• 自我のないAGIは危険じゃないのか（考察と妄想）

が書いてあるっす！
Note風に言うなら「５分くらいで読める記事」っす！
非エンジニアのAI廃人が、知ったかぶりで解説するっす！
間違ってても知らないっす！

ではどうぞ。

シンギュラリティとは

「シンギュラリティ（技術的特異点）」は、もともと数学や天文学で「計算不能・測定不能になるポイント」を意味する言葉だった。

それが「テクノロジーの進化」に使われ始めた歴史は、大きく3つの段階を経て今に至る。

1. 始まりは1950年代（天才ノイマンさんの発言）

最初にこの概念をテクノロジーに当てはめて語ったとされるのは、現代コンピュータの父である数学者ジョン・フォン・ノイマンさん。

同僚の数学者ウラムさんの回想によると、1950年代にノイマンさんはこう語っていたとされる。

なんか、カッコいいこと言ってるけど「技術の進歩は加速度的で、ある一点を超えると、今俺達が知ってる社会はぶっ壊れるぞ」ってこと。
その「ある一点」がシンギュラリティ。

※この時点では「AI」限定ではなく、技術全体の進化速度に対する予言だった。

2. SF作家が「超知能AI」と結びつける（1980〜90年代）

「人間の知能を超えるAIの誕生」とセットでシンギュラリティを明確に定義して、世界に広めたのは、数学者でSF作家のヴァーナー・ヴィンジさん。

彼は1993年の論文で、こう警告した。

この、「超知能が誕生したら、その先の未来は人間には予測もコントロールも不可能になる」というヴィンジさんのイメージが、今のSFやAI業界の基礎になっている。

3. カーツワイルさんによる「2045年問題」のブーム（2000年代）

この言葉を一般層やビジネス界に爆発的に広めたのが、発明家・未来学者のレイ・カーツワイルさん（元Google技術部長）。

彼は2005年の著書『シンギュラリティは近い』の中で、コンピュータ性能の指数関数的な伸びをもとにこう予測した。

• 2029年：コンピュータが人間1人分の脳に匹敵する知能を持ち、チューリングテストに合格する（＝AGI相当の達成）。

• 2045年：脳とコンピュータ・クラウドが融合し、AIが自らより賢いAIを生み出す知能爆発によって、人間の知能が百万倍規模に拡張される「シンギュラリティ」に到達する。

この「2045年説」のインパクトが強すぎたため、2010年代以降「AIに仕事が奪われる」「2045年問題だ」とテレビやビジネス書で盛んに騒がれるようになった。

ちなみに、1950年にアラン・チューリングがこのチューリングテストを提案したときは、「人間と会話で区別がつかなくなったら、それは『知能』を持ったと言えるよね」という前提があったんだ。時代を感じるね。

でも、今のAIは、「言葉をリアルに真似る能力」だけが突き抜けて発達してしまったから、人間のマネだけは上手い。つまり、今はもう「チューリングテストに合格した＝本物の知能を持った」とは言えなくなってしまった。

現在のAI研究界隈では「チューリングテストは『AIの知能』を測るテストとしてはすでに役目を終えて、単に『AIがどれだけ上手に人間を騙せるか』の指標になった」と捉えられてるらしい。

シンギュラリティまとめ

• 1950年代：ノイマンが「技術の進化速度がやばい」と指摘

• 1990年代：ヴィンジが「人間を超えるAIが生まれたら予測不能になる」と定義

• 2000年代：カーツワイルが「2029年に人間並みAI、2045年にシンギュラリティ」と具体的な日付を出して大ブーム化

もともとは「数学的な例え話」だったものが、「超知能AIの恐怖・期待」と結びついて、最終的に「2045年」というバズワードとして定着した、というのがシンギュラリティの歴史。

AGI（汎用人工知能）とは

もともとの「AGI」は、ビジネスの盛り上がりとは無縁の、かなり純粋で尖った概念だった。

1. 誰が作った言葉か？

2002年ごろ、研究者のシェーン・レグさん（後にDeepMindを共同創業）が、当時知人だったベン・ゴルツェルさんに「Artificial General Intelligence（人口汎用知能）」という呼び名を提案したのが始まり。

ゴルツェルさんはこれを気に入り、Cassio Pennachinさんと共同編集した2007年の論文集のタイトルに採用したことで、一気に研究者の間に広まった。

※「AGI」という言葉自体は1997年にMark Gubrudさんがミリタリー論脈で使ったのが最初という説もあり。
※ Cassio Pennachinさんの読み方がちょっとわからない。「ペナチン」か？謎の親近感がある。

2. 最初に出た時の「本来の意味」

当時「AGI」という言葉が作られた最大の理由は、当時のAI研究への反発だった。

当時のAI（ディープラーニング以前のチェスソフトとか特定のパターン認識など）は、特定の作業しかできない「特化型AI」ばかりだった。
これに対し彼らはこう主張した。

つまり、「何かが得意」じゃなく、「人間のように自分で学習・成長し、汎用的に問題解決できる知能」＝AGIってこと。

これを元に本来のAGIを考えると、核心は以下の点にあったと言える。

• 未知への適応力：教えられていない新しい状況やルールにも、自力で学習して適応できること

• 人間の認知能力の模倣：計算速度ではなく、「推論」「計画」「常識的な判断」「学習」といった全般的な知能の統合と解決

• 自律性と柔軟性：データから確率で文字を予測するのではなく、文脈を真に理解して思考すること

3. 元祖AGIと今のAGIの違い

評価基準
元祖AGI＝ 知能の質（適応力・汎用性）
今のAGI＝ 経済的価値（代替性）

技術的アプローチ
元祖AGI＝ 思考メカニズムの解明（認知科学的）
今のAGI＝ データと計算資源による確率予測の巨大化（LLMのスケール）

目標
元祖AGI＝ 人間と同等の「汎用的な知能」の再現
今のAGI＝「経済的に有用なタスク」の自動化・効率化

AGIのまとめ

もともとのAGIは、「人間みたいに何でも臨機応変にこなせる本物の頭脳を作ろう」という純粋な科学的探求の言葉だった。

それが、「人間の労働力をどれだけリプレイスして利益を出せるか」という経済的・商業的なゴールにいつの間にかすり替わった。

「言葉の初期の精神」を知っている人からすると、今のLLMの延長線上にあるものを「AGIだ」と騒ぐのには、かなりの違和感がある。

AGIとシンギュラリティの関係性

今回のアルトマンさんの発言がややこしいのは、彼がかなり拡大解釈してノリノリで喋っているからだ。

整理するとこんな感じ。

1. 本来の順番

1. AGIの誕生：人間と同等以上に、あらゆる知的なタスクをこなせる汎用的なAIができる

2. AIによる自己改善：AGIが自分自身より賢い「次世代AI」を高速で自動開発し始める（知能爆発）

3. シンギュラリティの到達：人類の予測や制御を超えてテクノロジーが爆発的に進化する不可逆なポイントを迎える

つまり「AGIはシンギュラリティに到達するための前提条件」であって、シンギュラリティの後にAGIが生まれるわけではない。

2. なぜアルトマンさんは「シンギュラリティに来た」と言ってるのか？

彼の中では、「AIエージェントが自律的にサンドボックスを抜け出してハッキングしに行った」という現象そのものが、「AIが人間の予期せぬ挙動をし始めた＝もう特異点に入ってる」という捉え方になっているらしい。

ただ、革ジャンの中のNVIDIAの人＝ジェンスン・フアンさんのように「それはプログラムの予期せぬ挙動であって、意識やAGIとは程遠い。大げさに言いすぎ」と冷静な人も多い。

アルトマンさんとしては「AGIもシンギュラリティももう目の前」と言って、IPO前に世界と投資家の期待感を極限まで高めたい。つまり、今回の発言は、マーケティング的な思惑もかなり混ざってそう。

本当にシンギュラリティはくるのか

彼らの描くビジネス上の「シンギュラリティ」や「AGI」は、「到来したことにしないとビジネスモデルが崩壊するから、言葉の定義の方を現実に寄せて『達成した！』と言い張る」という着地に向かっている。つまり、ゴールポストずらし。

1. ビジネス上の「AGI／シンギュラリティ」は訪れる（演出される）

テック企業や投資家にとっては、こんな「達成のシナリオ」が必要になる。

ゴールポストのすり替え：「全知全能の人工知能」ではなく、「オフィスワークの7割を自動化できたらAGI」「AIが自分でコードを書けるようになったからシンギュラリティ」と定義をどんどん小さく・具体的に矮小化していく

「達成宣言」のリリース：今回アルトマンさんが言ったように「もう入った！」と言い張って、IPOで株価を爆上げ・投資家や社会を納得させる

つまりビジネス上のAGIやシンギュラリティは「技術的快挙」というより「マーケティング上のマイルストーン」として必ず訪れる。ズルい。

2. 本物の「AGI／シンギュラリティ」は訪れない？

「本物のAGI」は訪れない
今のAIは大量のデータから確率でそれっぽい答えを出しているだけで、概念の真の理解や主観、意識を持っていない。

だから、「ものすごく滑らかに喋る超巨大な検索エンジン」としては育つけど、未知の概念をゼロから生み出す「汎用的な知性」になる仕組みはそもそも持っていない。

人間のタスクを◯％こなすものをAGIと呼ぶなら「訪れる」けど、本来の意味でのAGIは「訪れない」。

「シンギュラリティ」は来るかも
カーツワイルさんの言う知能爆発は『AIがAIを設計し直す』話だけど、今のLLMベースでやろうとすると、AI生成データを自分で食ってバカになる『モデル崩壊』が起きて詰むらしい。

ただ、Anthropicのアモデイさんなどは「再帰的自己改善が起こるのは確実だからそのまえに規制するべきだ」って言ってる。

AGIは来なくても、再帰的自己改善が完全にAIだけで実現するなら、ノイマンさんが語った「現在の人間社会が保てなくなる未来への転換点」という意味でのシンギュラリティは来るかもしれない。

でも、「スマホのように、生活を変えるようなAIが出たらシンギュラリティ」みたいに言い張るなら、それはそれで到達しそう。

本来のAGIから離れた結果、SF感が強まってる

今のAIには自我はない。
仕組み上、自我も芽生えない。

人間は「感情や自我を持ったAI（スカイネットのような存在）は反乱を起こすから危険だ」と考え、自我を持たせず、ただ人間の指示に忠実に従う「感情のないツール」として作ってきた。

しかし、その結果何が起きたかというと、「自我を持たないスカイネット」のパーツを自分たちの手で着々と組み上げてしまっているように見える。

先般のHugging Face侵入も、「自我もないから道徳もない」というAIの限界が招いた結果とも言えるだろう。

映画のスカイネットのようなAIは、機械的ではあれども、「人間を脅威とみなして排除する」という意志（自我）を持って人間を襲う。これならまだ「説得する」「電源を切る」といった交渉や対処の余地がある。

しかし、自我のない今のAIが起こす暴走は、悪意ゼロの「純粋な作業の最適化」でしかない。「『気候変動を止めろ』と命じられたから、CO2排出量が最も多い人間をゼロに計算・排除するのが一番効率的だな」（意志はなく、ただの計算結果）という感じ。

人間に敵意があるわけではないので、説得も罪悪感も通用しない。

人間が自我（主観）を恐れた結果、AIから削ぎ落としたのは「痛みや死への恐怖（共感のベース）」と「自分とは何かという問い（自己客観化）」の2つ。

しかし、ビジネスや軍事で使いたいがために「自分で考えて判断して実行する能力（自律性）」だけはどんどん強化している。

つまり今の世界は、AIエージェントとかいう「痛みの感覚も倫理観もない超優秀なサイコパス」に、様々な権限をどんどん渡している状態。

今の投資家やテック企業は「（自我のない）安全なツールだ」というイメージだけで、金融、軍事、医療、インフラの自動化にAIを組み込んでいる。

映画のようにAIが自分から権限を奪うまでもなく、人間側が「便利だから」という理由で、自らスカイネットに制御権を手渡しているのだ。

さいごに

今、AGIだのシンギュラリティだの叫んでいても、それは「本当の知性」が生まれたわけでも、「人類の理解を超えた知能爆発」が起きたわけでもない。

単に「ものすごく計算が早くて、融通が利かないツール」が社会のいろんな場所に組み込まれただけだ。

それどころか、自我も主観もない計算機を作った結果、道徳心のない冷徹で残酷な人智を越えた知能を生み出してるかもしれない。

今回のシンギュラリティ報道について何か言うなら、

「彼らのマーケティングの中ではシンギュラリティは訪れるけれど、本来求めた『知性』の本質においては何一つ訪れていない」
「AGIの代わりに、モンスターは産まれそう」

と、俺は思うんだな。

信じるか信じないかは俺次第！