【映画】「AI崩壊」感想・レビュー・解説

僕は、「AIによる自動運転」に、強い懸念を抱いている。

ニュースなどを見ていると、自動運転の未来は、もう当たり前にやってくるように描かれている。恐らく一般的に、そういう意識の人が多いだろう。

しかし、僕は、自動運転は結局社会を変革しないのではないか、と思っている。その理由は、事故が起こった場合における人間の意識の変化だ。

そもそも自動運転について、「事故が起きない」と思っている人もいるだろう。今は実験の段階だから事故が起きることもあるけど、実際に自動運転技術が完成すれば事故は起こらないのだ、と。

ンなわきゃない。

渋谷のスクランブル交差点に差し掛かった時、歩行者が飛び出したことで事故になりかけている、と考えてみよう。この場合、その飛び出してきた歩行者を避けるためにどの方向にハンドルを切ったところで、その先にはかならず大量の人間がいる。渋谷のスクランブル交差点の映像はよくテレビなどでも流れているから分かる人も多いだろうが、あそこは常に、交差点の全方位に、信号待ちをしている歩行者がいる。事故を回避するために、ハンドルを切っても安全な方向など、存在しないのだ。そういう場合、誰かを犠牲にするしかない、ということになる。

スクランブル交差点のような極端な状況でなくても、同じだ。どの方向に転換しても誰かを傷つけてしまうという状況はいくらでも想定可能だ。

で、そういう場合に問題となるのは、「誰を犠牲にするか」である。哲学者のサンデル教授のお陰で有名になった、「トロッコ列車問題」と同じ話である。トロッコ列車問題の場合、何もしなければ5人が死亡し、線路のスイッチを切り替えれば1人が死ぬ、という状況だ。この場合、どちらを選ぶのが正しいか、という問題だ。そしてこれと同じ状況に、自動運転を制御するAIも直面することになる。

この場合、AIはどう判断するだろうか？

少し前、森美術館の「未来と芸術展」という展示を観に行った。そこで印象に残ったのが、自動運転の事故シミュレーションだ。AIにどういう風にプログラムするかで、まったく同じ状況の事故であっても、被害者が変わる、というものだ。プログラムは3パターン用意される。「A人間になるべく被害を与えない」「B　ドライバーになるべく被害を与えない」「C　損害を最も最小限にする」の3つだったと思う。

Aをプログラムされている場合、状況から未来予測をしたAIは、その中から、人間への被害が少ないものを選ぶ。つまり、今乗っている車が破損するとか、周囲の建物が壊れる、というような被害を選ぶ。また、載っている車が破損することで、ドライバー自身が怪我をしたり、最悪死亡する場合もある。

Bをプログラムされている場合、たとえ人的な被害が出ようとも、ドライバーを守ることを優先する。結果的に、誰かを死亡させるかもしれない。

Cをプログラムされている場合、被害に遭い得るすべての人の保険の加入状況や訴訟リスクなどを計算し、その中で、最もドライバーに金銭的被害が少ない損害を選択する。例えば、トランプ大統領と赤ん坊が被害者になりうる状況であれば、赤ん坊が被害者になる、ということだ。

このように、まったく同じ状況の事故であっても、自動運転を施行するプログラムがどのようになっているかによって、被害者が変わる。

さてここで、自動運転の話から一旦離れよう。自動運転ではない車の事故の場合、基本的には、「事故を起こしたドライバーが被害者を選んだ」と判断される。「選ぶ」という言葉が、実情に即していないことは理解している。ドライバーは決して誰を被害者にしようなどと考えているわけではなく、咄嗟の回避行動の結果、あるいは回避行動が取れなかった結果、その人に被害を与えてしまうことになるのだから。しかし、意識的でないにせよ、結果的にドライバーの行動の結果によって被害者が決まっていること、そして、AIと議論を比較するための都合上、「選ぶ」という言葉で説明する。

ドライバーが被害者を選んでいる以上、事故を起こしたドライバーが責任を取るべき、というのは当然の理屈だろう。皆がそのことを了解しているからこそ、事故を起こした人間は、それがたとえ不本意な状況によるものであったとしても刑務所に入るのだし、社会もそれを当然だと受け取る。

さてでは、自動運転の場合はどうだろうか？先程の説明の通り、自動運転の場合、被害者が誰になるかは、自動運転を制御するプログラムによる。その場合、被害者（あるいは被害者遺族）は、そして社会は、誰に責任を負わせればいいだろうか？ドライバーでないことは明らかだ。ドライバーの意思は、まったく関わっていないのだから。

では開発メーカーだろうか？いや、ここは慎重に考えなければならない。僕は、「事故が起こった場合に、開発メーカーに非はないとする」という社会の合意が存在しなければ、自動運転技術は世の中に登場しない、と思っている。プログラム次第で被害者が変わってしまう世の中において、被害者（遺族）が、被害を受けたのはプログラムのせいだと訴える可能性は十分にある。事故を起こした車とは別のプログラムが搭載された車であれば、自分たちは被害者にならなかったかもしれないからだ。しかし、そんな訴訟リスクを抱えたまま、企業は自動運転を世に出すわけがないだろう。

だからこそ、事前に合意が必要だろうと思う。

その合意は、まともな形では取れるはずがない。だから、国が強権を発動して勝手に決めるか、あるいは、世の中のどさくさに紛れていつの間にか明文化されていたりするだろう。

その状態で、何か事故が起こるとする。SNSの時代だから、事故の様子はばっちりと映像に映るだろう。その時、そのまま真っすぐ進めば政治家が被害に遭うという状況で、自動運転のプログラムが判断して軌道修正し、横にいた赤ちゃんが犠牲になる、みたいな事故が起こったら、世論はどうなるだろう？

みたいなことを僕はずっと考えている。

僕の中で、今ここで書いたようなことは、時期は明言出来ないが、まず間違いなく確実に起こることだと思っている。もちろん、僕が思いつく程度のことは、もっと偉い人たちだって思いついているだろうし、そのための対策を模索しているだろう。しかし、少なくとも僕には、これを解決する簡単な方法があるとは思えない。例えば、地下に道路を作るなどして、車と歩行者の移動スペースを完全に分ける、などすれば解決可能だろうが、簡単な方法ではない。車と歩行者が同じ領域にいる以上、事故が起こることは回避できないし、事故が回避出来ないのであれば、誰を犠牲者に決めるのかという問題は必ず発生する。プログラムによって“決められた”犠牲者側が、「仕方なかった」と納得出来る可能性はまずないだろう。

「AIが社会を便利にする」ということの一番大きな要素は、「人類がAIの判断を受け入れるしかない」という点だ。AIがどんな判断をするとしてもそれを受け入れる、という共通理解を持たなければ、AIは社会の中で機能しない。もちろん、人間もバカではないから、「AIが概ね良好な判断をする」という状況にある程度はもっていけるだろう。しかし「完全に」は無理だ。AIが人間ではない以上、AIはどこかで必ず、人間にとってそぐわない判断をする。

そして、その時、AIの判断を盲目的に受け入れるということは、「人間であることを手放すこと」と同じだ。

AIは間違いなく、人間の生活を便利にする。しかしその便利さを享受するために、究極的には、僕らは人間であることをやめなければならない。これが、現状から判断できる僕の結論だ。

この映画は、僕のその結論を補強するものだと感じられたし、そういう意味で、今観ておくべき映画だ。

内容に入ろうと思います。
研究者である桐生浩介は、社会を一変する開発をする。医療AI「のぞみ」だ。国民の健康データをすべて管理し、病気になる前に最適な治療を施したり、手遅れにならない診療を行うことが出来る。「のぞみ」は、社会におけるライフラインとしての地位を確立し、あらゆる情報が「のぞみ」と連携し、社会基盤となっている。
桐生は、その開発を機に日本を離れ、一人娘である心と2人で生活している。2030年、娘の希望もあり、久々に日本へ帰国することとなった桐生。桐生は、「のぞみ」の開発者として英雄視される一方で、「のぞみ」によって職を奪われたり、貧困が拡大したと考える層からバッシングも受けていた。桐生は、そんな混乱を嫌って日本を離れたのだが、この度、総理大臣から名誉ある賞を授与されるということになり、帰国を決めた。
「のぞみ」を運営する本社でマスコミ向けの発表を行い、その後娘に初めて「のぞみ」を見せる。「のぞみ」が格納されている部屋は、核ミサイルでも破られないという強固さで、出入りは完全にコントロールされている。授与式に向かう桐生と、「のぞみ」の部屋に忘れ物をしたという心が別行動を始めた時、突如「のぞみ」が暴走を始めた。誰も、何が起こっているのか理解できない。しかも心が「のぞみ」がいる部屋に閉じ込められてしまう。「のぞみ」がいる部屋は、緊急時に冷却装置が働くようになっており、室内温度は急激に低下してしまう。このままだと、心の命が危ない。
一方、「のぞみ」の暴走の捜査を担当することになった、警察庁の天才捜査官である桜庭は、元々桐生に憧れてAIの研究を始め、そこから警察庁に入庁するという異例の経歴を持つ人物だ。彼の捜査により、「のぞみ」を暴走させたパソコン端末を持つ人物が短時間で特定されることとなった。それは…なんと、桐生だった。授与式に向かう桐生のカバンから、端末が見つかったのだ。
「のぞみ」の暴走で街中が大混乱、交通渋滞が各所で発生する中、指名手配された桐生は、警察の追跡をギリギリのところで交わし続ける逃亡劇を繰り広げる。心が閉じ込められていることを知った桐生は、警察を振り切るのと同時に、「こころ」の暴走を食い止める必要もあった。設備もなく、誰が裏切り者かも分からず、さらに警察に追われているという状況で、果たして桐生は「のぞみ」の暴走を止められるのか？また、「のぞみ」を暴走させた真犯人は一体？
というような話です。

ノンストップサスペンスという感じで、その展開も面白かったし、これから起こりうる未来に対する問題を様々に提示しているという点でも興味深い映画でした。

ストーリー展開的には、「いやー、もうそれは無理っしょ！」という状況が何度も訪れながら、その状況をなんとか回避していく、という連続で、飽きさせないですね。たまに「さすがにそれは無理っしょ」と思う展開もなくはないんだけど（笑）、まあでも、エンタメ作品として面白く見れます。

僕がこの映画を観ながら考えていたことは、この映画が「AIって怖い」という風に捉えられたら怖いな、ということです。

怖いのは、人間だ。

僕にとって、AIと原発は非常に近い存在だ。原発についてそこまで詳しくはないが、しかし、原発を支える技術そのものは素晴らしいと思う。だがやはり原発というのは、安全とは言えないという感覚がある。そしてそれは、「使う人間側の問題」だ。技術の問題ではない。人間が、原発という技術をどう扱うのか、という点において、数多くの問題が存在している。

AIも同じだ。AIという技術自体は素晴らしいと思う。しかし、それを使う側の人間に問題がある。「AIって怖い」という、AI側に責任をおっかぶせるような捉え方をしてしまうと、結局何も進まない。どういう形でかはともかく、AIが社会に組み込まれることはまず間違いない。環境問題、人口減少問題、高齢化社会問題など、社会的な問題を多数抱える日本ではなおさらだろう。AIをいかにして社会に組み込んでいくか、という観点によってしか解決されないだろうと思う問題は多々ある。

そういう時、「AIって怖い」と言っているだけでは話が進まない。AIの問題は、人間の問題なのだ。

AIと原発は、何か問題が起こった時のダメージの大きさ、という意味でも共通項がある。ほとんど問題は起こらないかもしれない、しかし起こってしまったら社会を壊滅させるだけのダメージを与えうる。こういう存在に対して、人間はどう関わるべきなのか。人間側の合意が必要だ。

何かあった時のダメージが大きいものであればあるほど、「性善説」は通用しない。それらを悪用する人間がいる、という「性悪説」を前提に考えなければいけない。その仕組みをどこまで作り上げられるか、そしてその仕組みを社会の構成員がどれだけ納得して受け入れられるか。AIが社会に導入されるか否かは、この点に掛かっているよなぁ、といつも思っている。

「のぞみ」も、人間がきちんと使えば、これほど有用なものはない。もちろん映画の中では、「のぞみ」がマイナスの要因を持ち込んだ、と主張する人々も多数登場する。僕も、個人の意見としては、「のぞみ」に管理される社会は嫌だな、と思う。しかし、もうそんなこと言っていられない時代がやってくる、というのも間違いない。「のぞみ」のような医療AIが必要なのか、あるいはまた別のタイプのAIが必要なのかはともかく、何らかの形でAIを導入して、ある程度AIに管理を任せる社会を構築しなければ、人類は地球上で生き残っていけないんだろう、と思う。「なんか気分的に嫌なんだよね」という程度の意見で反対できる状況では、もはやない。

AIの登場によって、マイナスの要素ももちろん出てくるだろう。それによって、被害を被る人も出てくるだろう。しかし、僕は、しょうがない、と思う。このことを考える時、何かの本で読んだ、昔の中国のアヘンの問題を思い出す。かつて中国は、アヘンの依存によって苦しんだが、政府はある時アヘンを禁止する決定をした。しかしそれは、ある一定の年齢以下の人たちに対してのみだったという。つまり、ある年齢以上の、依存度がかなり進行してしまっている人たちに対しては、強く取締をしなかったのだ。全面的に禁止するのではなく、ある一定の犠牲を織り込んだ上で、長い目でみて依存を解消する、という選択だ。

AIが社会に組み込まれる際も、必ずこういう判断が下るだろう。一定の犠牲を前提とした上で、全体の利益のために、何らかの形でAIが導入されるに違いない。

だから僕は、そうなった時、AIの暴走に間接的にも加担せずに済むような立ち位置にいたい、と思う。