自動化バイアスとシンギュラリティ

自動化バイアスとは、ＡＩの出す答えを疑わなくなる認知バイアスのことである。

chatGPTをはじめCopilotあるいはGemini等、ＡＩには「間違っているかもしれない」という但し書きが添えられているが、

わからないから訊いているのに、それが間違っているかどうかなんてわからない。

よほどの専門家でもないかぎり、その真偽の確かめようがない。
しかし、その専門家が傍にいないからＡＩに訊いている、あるいは調べているわけで、真偽の確認をしようにも手立てがない。
いまやどの検索エンジンを開いても、自動的にＡＩが答えているからなおさらだ。

よってＡＩの出す答えを追認せざるを得なくなる。
これが自動化バイアスである。
すでに世にはＡＩで作成された文章その他情報が溢れかえっている。
これをいちいち確認する術はない。
よって、なし崩しにこれらの情報を受け入れる他なくなるという事態にならざるを得ないだろう。
こんにちにおける戦争状況にいたっては、れいの大統領をはじめ国家が意図的に虚偽情報をまき散らすのだからなおさらだ。
これからはむしろ情報の真偽を確かめることのほうが困難となるのでは？
あるいは確証バイアス（自分の聞きたい情報だけを受け取る）によってもはや真偽などはどうでもよくなるのかもしれない。
じっさい株式市場は大統領の投稿を虚偽だとわかっていてもいちいち反応している。
自分たちに都合がよければ嘘でも何でもいいのだ。

先週放送された国際報道２０２６によると、自律型致死兵器システム通称LAWSは人が関与することなく攻撃するシステムで十年以上前から国連の契約国会議で規制の議論されているが、結論は出ていない。
イラン・ウクライナにおいてすでに一部が使用されているとのことで、表向きは指揮官が判断してからとのことだが、じっさいには判断している暇はなく、使用している側はいずれも人道上の問題はないとのことだが、この流れを食い止めることはできないのが現状で、もし誤爆があった場合、一応責任の所在は指揮官にあるとのことだが、その賠償等、具体的なものには何も決まっていないとのこと。
膨大な数のAIによる攻撃をいちいち確認するのは不可能のようで、これも先のAIによる情報と同じでなし崩しになってしまうにちがいない。

むかし楚の王が雲梯という新兵器を手に入れたという情報を得た墨子が、新たな兵器を持てば使いたくなるに違いないと、楚王を諌止しに行ったという有名な逸話があるが、最新兵器ができたから戦争と起こすというわけではなく、戦争に勝利するために最新兵器ができるといったほうが正確なのかもしれない。
国連ではAI兵器の規制の議論がなされているようだが、トランプのやりようをみれば、議論しても意味なさそうなのは明白だ。どの国だって戦争に勝つためには手段は選ばないし、国際社会が守ってくれないのだから国際法など守っていられるわけはないのだ。

映画『ロボコップ』（古いほう）では、試作機のロボットが見学していた何の罪もない役員を撃ち殺すというシーンから始まるが、そんなミスが起こらないとも限らない。それはＡＩにとって我々に誤った情報を流すのと同じレベルのミスでしかないからだ。
ちなみに、新しいほうのロボコップは２０１４年の作品だが、これはもうまさに今のアメリカを揶揄するような作品になっている。

戦場でマシーンと戦う兵士にとって、それはもうターミネーターと戦っているようなものだ。さすがにまだターミネーターのように不死身のボディでもって、撃っても撃っても立ち上がってくることはないだろうが、それでも、人類はいよいよ機械と戦いはじめたのだ。
映画では機械が人類の撲滅を図っていて、その構図はじつにシンプルでわかりやすかったが、現実はそうはいかない。人間が機械の判断を疑うことなく、機械と人間が戦い始めたのなら、それはもうターミネーターとほぼ同じようなことが起こっているのだ。
すでに人類はAI（機械）に操られ始めているのには違いないのだから。

そこで思い起こされるのがシンギュラリティというやつである。
シンギュラリティとは、AIが自己改善を繰り返し人間の知能を超え、技術進化が人類の理解や制御を超える転換点を指す概念である。
これを提唱した未来学者で発明家のレイ・カーツワイルは２０４５年を予測しているが、早ければ２０２９年にもとの予測がある。

先日Anthropicがまたしても新モデルであるClaude Mythosを発表し、この性能が凄まじいとして株式市場でまたショックを起こしている。
windowsなど主要OSの主要ウェブブラウザの脆弱性を数千件も見つけたうえに、それを修復してみせるという離れ業をやってのけ、あんまりすごいものだから悪用を恐れて一般には公開されないくらいだ。すでに人知にも近く、このMythos自身が自らを開発し、さらに強力になりつつあるというから驚く。猛烈なスピードで自己改善を行い今にも人間を超えようという状況だ。

シンギュラリティという言葉が出たころというのは、シンギュラリティというものがいったいどんなもので、どう社会が変わっていくのか想像もつかなかったが、シンギュラリティに先立つ段階としてプレシンギュラリティ（前特異点）があり、AIの進化によって社会や生活に変化が現れ始める時期のことを指すのだが、いまはまさにこの時期にあたるだろう。
いまのところ人間の知能を超えたかどうかはわからない。しかし、その知能を疑わなくなれば、それはもう超えたかどうかではなく、人類が機械に支配されつつあることを意味している。