【コラム】止められない市場をどう統治するか：④AIは期待で止められるのか

要旨：
金融市場では中央銀行が期待に働きかけることで市場の振れを調整できたが、AI市場は「一方向に蓄積される技術」であるため、期待や倫理的シグナルだけでは進行を止めることは難しい。競争環境下での協調失敗や、技術の不可逆性がその理由である。本稿では、個人や社会のシグナルが無力ではないものの、有効に働くためには「コストや制約」に結びつく形でなければならないことを論じ、個人が発するべきは「危険だからやめろ」ではなく「止められないものは危険」「影響範囲が不明なものは受け入れられない」という具体的停止基準の共有であると結論づける。

前稿までで、金融市場とAI市場を対比しながら、監督の限界と制度設計の方向性について論じてきた。金融市場では、プレイヤーと監督の非対称性のもとで、事前にすべてのリスクを封じ込めることはできない。そのため、自己資本やストレステストといった「壊れ方の管理」が重要になる。AI市場においても同様に、アルゴリズムの完全な理解ではなく、停止可能性や影響範囲の制御といった観点が中心になるべきだと論じた。

ここまでは、いわば制度の話である。
では、このような構造のもとで、私たち個人はどのように関わることができるのだろうか。

金融危機においては、中央銀行は利上げ・利下げといった政策を通じて、市場参加者の期待に働きかけてきた。過度な楽観を抑え、過度な悲観を和らげることで、市場の振れ幅を平準化する。そこでは、個々人の判断や期待が、間接的に市場全体の動きに影響を与える。

では、AI市場においても同様に、私たちの認識や態度、すなわち「シグナル」は、開発の方向や速度に影響を与えうるのだろうか。

1　期待を動かせば止まる市場と、止まらない市場

金融市場において、期待は極めて重要な役割を果たす。楽観が資産価格を押し上げ、悲観がそれを崩壊させる。中央銀行はこの期待に働きかけることで、過熱や収縮を緩和しようとする。言い換えれば、金融市場は「期待によって動く市場」であり、期待を調整することで一定の制御が可能である。

しかし、AI市場は同じ構造を持っているだろうか。

ここで重要なのは、AIが金融とは異なり、「引き上げ可能な資産」ではないという点である。金融市場では、不安が広がれば資金が引き上げられ、市場は収縮する。しかしAIにおいて、一度開発されたモデルや知識、技術は、簡単には消えないし、引き上げることもできない。むしろ、それはコピーされ、拡散し、別の主体によって再利用される。

その結果、AIは「収縮することで安定化する市場」ではなく、「一方向に蓄積され続ける技術系」に近い性質を持つ。ある主体が開発を控えたとしても、別の主体がそれを進める。したがって、「危険だからやめよう」という期待や倫理的メッセージだけでは、全体の進行を止めることは難しい。

この意味で、AI市場は金融市場のように、期待の操作によって振れ幅を調整できる対象ではない。

2　倫理はなぜ止められないのか

AIをめぐる議論では、しばしば倫理や規範に訴える形でのシグナリングが行われる。「この技術は危険だ」「慎重であるべきだ」といったメッセージである。

もちろん、こうした議論は無意味ではない。しかし、それだけでAI開発の方向を決定的に変えることは難しい。理由は単純で、AI開発が競争的な構造を持っているからである。

ある主体が倫理的理由から開発を控えたとしても、他の主体が同じ判断をするとは限らない。むしろ、「自分がやらなくても誰かがやる」という状況では、開発を続けるインセンティブが強く働く。これは、典型的な協調の失敗の構造である。

したがって、倫理的なシグナルは、個人の意識には影響を与えうるが、システム全体の進行を止める力としては弱い。ここに、金融市場との決定的な違いがある。

3　それでもシグナルは無意味ではない

では、個人のシグナルはまったく無意味なのだろうか。そうではない。

重要なのは、シグナルがどのような形で作用するかである。金融におけるFRBのシグナルは、期待を通じて市場全体の動きを変える。しかしAIにおいては、期待そのものよりも、コストや制約に結びついたシグナルが重要になる。例えば、

• 特定の用途に対する社会的批判が強まる

• 投資家がリスクを意識して資金配分を変える

• 規制強化の可能性が意識される

こうした変化は、開発そのものを止めるわけではないが、資源配分や戦略に影響を与える。つまり、AIにおけるシグナルは、直接的に開発を止めるというより、どの方向に進むか、どこにコストがかかるかを変える形で作用する。

この意味で、個人や社会の認識は、無力ではないが、金融市場のように即座に全体を収縮させる力も持たない。

4　期待ではなく、制約へ

ここから見えてくるのは、シグナルの性質の違いである。

金融市場では、期待を操作することで市場の動きを調整できる。したがって、中央銀行の役割は「市場心理の調整者」として理解される。一方でAI市場では、期待の操作だけでは不十分であり、シグナルは最終的に制度や制約へと結びつかなければならない。

言い換えれば、AIにおいて有効なシグナルとは、

ここで初めて、個人の認識と制度が接続される。倫理的な議論は、直接的に開発を止める力は弱いが、それが社会的合意となり、最終的に規制や評価基準として制度化されるとき、実効性を持つ。

5　個人の役割とは何か

では、この構造の中で、個人は何をすべきなのか。

答えはやや地味である。個人ができるのは、AI開発を止めることでも、単独で方向を決めることでもない。むしろ重要なのは、どのようなリスクがあり、それがどのように制御されるべきかについて、現実に即した認識を持ち、それを共有することである。

前稿で論じたように、AIにおいて本質的なのは、アルゴリズムの透明性ではなく、停止可能性や影響範囲の制御である。したがって、個人が発するべきシグナルもまた、「危険だからやめろ」という抽象的なものではなく、「止められないものは危険である」「影響範囲が不明なものは受け入れられない」といった、より具体的で検証可能な基準に基づくものであるべきだろう。

このようなシグナルは、単独では市場を動かさない。しかし、それが社会的な基準として共有され、制度や評価に組み込まれるとき、はじめて実効性を持つ。

6　結論――グリーンスパンではなく、監督者へ

金融市場においては、グリーンスパンのように市場心理を読み取り、期待に働きかける中央銀行の役割が大きかった。しかしAI市場において必要なのは、そうした「期待の調整者」ではない。

むしろ必要なのは、リスクを過小評価せず、破綻の可能性を前提に、どこでどのように止めるのかを問い続ける監督者である。そして個人の役割もまた、期待を操作することではなく、どのような条件で停止すべきかという基準を社会的に形成していくことにある。

AIは、期待によって膨張し、不安によって収縮する市場ではない。したがって、それを制御するためには、期待ではなく制約に働きかける必要がある。

私たちが問うべきなのは、「どれだけ期待するか」ではなく、「どのようなときに止めるべきか」である。

そしてその問いこそが、AI市場におけるシグナリングの出発点なのだろう。