「アイの過ちを教えて」　第１話

あらすじ

本文

（場面）学校の教室

　先生が現代社会の授業を行っています。近未来なため、生徒たちの机には液晶が取り付けられています。先生はタブレットを用いて授業スライドを操作し、それが机の液晶に映し出されます。生徒たちは授業スライドを教科書のように見ています。
　生徒の中には主人公である水瀬（みなせ）とその友達の伊吹（いぶき）もいます。

先生「今では当たり前ですが、車は機械が自動で運転してくれます。しかし、このような状態になるまでには、長い年月がかかりました。
　自動運転車とは、人の代わりに機械が自動で運転してくれる車です。人がその時の判断で操作をするのとは違って、自動運転はプログラムに基づいて動きます。つまり、全ての状況に置いて、どのような対応をするのか事前に決めておく必要があります。
　では次の場合はどうでしょう」

先生「運転中の車の目の前で、子供が飛び出しました。ブレーキは間に合わない。この場合、できることは、飛び出した子供を轢くか、車の進路を変更し、無関係の大人を轢くかの２つです。
　自動運転ができる前、人が車を運転していた時代は、どうするかは運転手の判断、いいえ、こんな状態では冷静に判断できませんね。まあその時のなりいきでどちらかの選択を選んでいました。
しかし、自動運転の場合はどうでしょう。先ほども言った通り、プログラムで動く以上は事前にどうするのか決める必要がある。もちろん間違った方を選ぶわけにはいかないので、正しい方を選ばないといけません。では、水瀬君。飛び出した子供を轢くか、無関係の大人を轢くか。どっちが正しいと思いますか？」

水瀬「どちらも正しいです」

先生「そう、水瀬君の言う通りどちらも正しいです。この場合ですと、『飛び出した子供に原因があるから、子供を轢くべき』という考えもありますし、『飛び出したのは悪いけど、大人が子供を守るべきなので大人が代わりに轢かれる』という考えもあり、どちらも正しいです。
　これが自動運転が長い間実現できなかった理由です。自動運転は事前にどう対応するのか、つまりすべての場合において誰もが納得する正しい答えを出さないといけない。しかし、どちらも正しい以上選ぶことはできない。
また、そもそも正しい答えなんて存在するのでしょうか？　正しい答えなんて時・場所・場合によって変わります。例えば先ほどの例ですと、もし子供のほうの生存率が４０％で、大人のほうが生存率７０％だったら、もし子供を轢くと巻き沿いで他の人も巻き込むことになったら、答えが変わるかもしれません（場合の説明）。地域によって、文化や歴史、宗教に違いがあり、それぞれが正しいとされる考えがある（場所の説明）。そして仮に場合・場所に置いてただ1つの正しい答えを決めることができたとしても、その答えが未来では間違っているかもしれない。例えば昔は同性婚がタブーとされていましたが、今では普通に認められています。この理論でいくなら、今正しいとされている考えも、１００年後には間違った答えになるかもしれません。（時の説明）
　ここまでをまとめると、自動運転の実現には、１つの正しい答えを出す必要がある。しかし、そもそも正しい答え同士が衝突する。もしくは正しい答え自体が時・場所・場合によって違うから、実現ができない。これを解決したのが、超高性能AI、アイの存在です。アイというAIは、高性能、そしてその汎用性の高さから、様々な製品に使われています」

先生「では伊吹君。アイのAIを使ってどのように自動運転の実現をしていったか？」

伊吹 「みんなにアンケートをとって、その答えをまとめました」

先生「そう、アイは私たちにアンケートをとり、その回答を集計し、自動運転車に反映することで実現していきました」

先生「このやり方なら、時・場所・場合に合わせた正しい答えを出すことができます。様々な場合において、人々に調査を行い、結果を集計して自動運転車に反映します」

先生「さきほど、正しい答えは地域（場所）によって変わると言いましたが、それに関しても地域によって、答えを変えることで解決します」

先生「そしてこのアンケートは定期的に行い、更新されます。そのため時代が変わり価値観などが変わったとしても、対応できます」

先生「またこのシステム自体も改善のためアンケートを行います」

先生「これにより、時・場所・場合に合わせた正しい答えを出せるようになり、自動運転が実現することになりました。では、次にアイ安全システムについてやりましょう」

先生が操作しているタブレットにエラーが表示される。頑張って直そうとするが、直らない。

先生「あれ、ごめんなさい。ページが見られないみたい。……水瀬君、これって直せるかな？（水瀬にタブレットを渡す）」

水瀬「分かりました」

水瀬がタブレットに触れて、能力発動（この後この能力についての説明があります）

水瀬「教材作成の方の編集内容が保存されてないのが原因です。なので、先生のアカウントに切り替えて、変更を保存すれば……」

先生「あ、そっか。えぇと、……直った、直った。ありがとう水瀬君」

チャイムが鳴る

先生「っと、それでは今日の授業はここまで。皆さん気をつけて帰るように」

先生が教室を出る前に、教室の隅にいるヒューマノイド（家事・労働代行ロボット、ペッパー君のようなイメージ）に声をかける。

先生「それじゃあ、掃除をお願い」

ヒューマノイド「かしこまりました（掃除を始める）」

伊吹「水瀬、今日家に遊びに行っていい？」

水瀬「あーごめん伊吹。今日はちょっと、ノヴァースに行って手伝わないといけないんだ」

伊吹「ノヴァースって、あのノヴァース？さっすがー。じゃあまた明日」

そう言って伊吹は帰る。入れ替わるように国家安全局職員（以下職員）が水瀬に近づく。

職員「それじゃあ今日は、ノヴァースまで送ればいいんだね」

水瀬「いつもありがとうございます」

職員「これも国家安全局の私の仕事だから気にしなくていいよ。それにね水瀬君、私たちが君のことを車で送ったり、監視しているのは――」

水瀬「分かっています。僕の能力を悪用する人から守るためですね」

職員「そう、君のその能力は便利な反面、どんなものでもハッキングできてしまう危険な力だ。特にアイ安全システムは絶対に破ったり、人に教えちゃだめだよ」

水瀬「そんなことしませんよ」

職員「ほとんどの機械にはアイのAIが使われている。そしてアイのAIには、人間に危害を加えないように、『アイ安全システム』が入っている。強力なセキュリティで守られているから破ることなんてできない。けど……」

水瀬「僕の能力なら破ることができる」

職員「そう。もし、アイ安全システムが破られたら、例えばこのヒューマノイドが人間を襲ったりする。そんなことになったら社会崩壊だ。……まあそんなことが起こらないように、私たち安全局が守るから。それじゃあ、行こうか」

水瀬はノヴァースまで職員に送ってもらうことに。

＊＊＊＊＊

（場面）ノヴァース研究所

八神英治（やがみえいじ　以下八神）と水瀬が作業しています。ニュースキャスター（以下キャスター）がその後に出てきます。

水瀬「ああ、多分これは、モーターの消費が激しくなったから、こんなことが……。この前加えた表情認識機能が原因です」

八神「そっか、あの機能はモーターを使うからね。じゃあモーターをもう一つ加えれば……、いやー水瀬君。いつもありがとう」

ニュースキャスターが出てきます。

キャスター「さあ、もはや一家に一台と言われている、家事・労働代行ロボット、通称ヒューマノイド。今回はそれを作っているノヴァースに来ています。では早速、ノヴァースの社長である八神英治さんにお話を聞いていきたいと思います。いやー八神さん。私の家にもヒューマノイドがいますけど、いつも助かっています」

八神「ありがとうございます」

キャスター「それにしても、ヒューマノイドはすごい技術力ですよね」

八神「それに関しては、彼が手助けしてくれたことが大きいです」

八神が水瀬を紹介する。

キャスター「なんと、もう一人の有名人、水瀬くんともお会いできました。たしか、水瀬くんには特殊な能力があるんですよね？」

水瀬「はい。僕には、機械に触れることで設計や構造、仕組みがソフトウェアも含めて全て把握できるという能力があります。まあ簡単に言うと、触れた機械を１００％理解できる感じです。例えば、スマホを貸してもらえますか？（スマホを受け取る）今、このスマホにはロックがかかっています。ですが、この能力を使うと……」

能力を発動する

水瀬「このスマホの構造、設計、内部データ、すべてが分かりました。パスワードの情報もです。そのため、こんな風にロックを解除することも」

キャスター「すごい能力ですね。でもそんな能力、いったいどうやって」

水瀬「あんまり覚えていないんですけど、子供のときに誘拐されて、それ以来この能力が……、誘拐した犯人は分からないのですが、こうなってしまった以上は、社会をよくするために、この能力を使おうと考えています」

八神「エラー処理や新しい機能を追加する際に、いつも手助けしてもらっています」

キャスター「ヒューマノイドの普及は、水瀬君の助けがあってこそなんですね。だとしても八神さん。ここまでヒューマノイドを作り、普及することはとても大変だったと思います。ここまでやってきたのには、何か理由があるのでしょうか？」

八神「……今はもういないのですが、私には妻の明日香（あすか）がいました。明日香はいつも子供に寂しい思いをさせたくないと言っていて、……そんな明日香の夢は家族のようなヒューマノイドを作ることでした」

キャスター「八神さんは奥様の夢を継いでいるのですね」

八神「はい、今の私にできることは、夢を継ぐことだけですから。叶うことなら、明日香に家族のようなヒューマノイドがいる世界を見せてあげたいです」

＊＊＊＊＊
（場面）　ノヴァースの空き部屋のような場所
インタビューが終わり、２人で雑用のような作業しています。

八神「ごめんね、水瀬くん。こんなことまで手伝わせて」

水瀬「いえ、暇なので全然大丈夫ですよ」

八神「それに、いつもありがとう。ヒューマノイドの開発を手伝ってもらって」

水瀬「僕も好きでやってますから。それに、僕の家にもヒューマノイドがいますから。僕も八神さんにいつもお世話になっていますよ」

水瀬がヒューマノイドを発見する。

水瀬「っと、あれ、このヒューマノイド、……なにかが……」

八神「ああ、それは、……水瀬君。実はそれが最初のヒューマノイドなんだ」

水瀬「最初の……、ということは、これが元になって今のヒューマノイドが……」

八神「うん。まあ、ハードウェアは今のものと一緒だけどね」

水瀬「へぇー、……このヒューマノイド、動かしてみていいですか？」

八神「……そのヒューマノイドは動かないよ」

水瀬「え、どうしてですか」

八神「……水瀬君、……………………アイ安全システムを解除する方法を教えてくれないか」

水瀬「え！　いやそれは……、どうしてそんなこと……」

八神「さっき明日香のことについて話したよね。明日香はヒューマノイドの開発を進めるために、アイのAIを使って自分のことをコピーしたヒューマノイドを作ったんだ。それがこのヒューマノイドだ」

水瀬「これが……（驚く）」

八神「これを作った後に、明日香は死んだ。……私は明日香の死を受け入れられなかった。だからこのヒューマノイドを明日香だと思って接したんだ」

ここも水瀬は驚くというかそんなことがって感じです。

八神「分かってる。こんなの頭がおかしいって。このヒューマノイドは仕草や声、考え、話し方、明日香そのものだった。でも本物じゃない。明日香のことをコピーしたロボットだ。こんなの、はたから見たら、おかしいよね」

水瀬「そんなこと……、少なくとも、何も知らない人がおかしいなんて言える権利ないですよ」

八神「そっか、ありがとう。……それで、続きなんだけど、このヒューマノイドは私と喧嘩をしたんだ。アイ安全システムが入っている機械が人に危害を加えたらどうなるか知ってるかい？」

水瀬「安全のために、システムが全停止して、動かなくなる。その……」

八神「そう。このヒューマノイドは、動かない。喧嘩をしたときにアイ安全システムを破って、システムが全停止したからだ。……水瀬君。私はこのヒューマノイドと、明日香ともう１度話したいんだ。こんなことを頼むのは犯罪だと分かっている。けど、アイ安全システムを無力化する方法を教えてくれないか？」

水瀬「……」

八神「本物ではないかもしれない。明日香はもう死んだ。それを受け入れないといけないって分かってる。……わかっているけど、もう一度明日香に会いたいんだ。会って謝りたいんだ」

水瀬「………………分かりました。他の人に教えちゃだめですよ」

＊＊＊＊＊

数日時間が進む。
（場面）水瀬の家

水瀬の家で、水瀬と伊吹が遊んでいます。そして水瀬の家のヒューマノイドが出てきます。

伊吹「で、そこで俺が言ってやったの――」

ヒューマノイド「ご夕飯の準備ができました」

伊吹「あ、もうこんな時間か、じゃあ俺帰るわ」

水瀬「うん、じゃあね」

伊吹「ってあれ、なにこれ？　自動運転の歴史？　紙の本なんて珍しいな」

水瀬「ああ、それね。……ちょっと気になっててね」

伊吹「へぇー、なんで」

水瀬「……あんまり覚えていないんだけど。子供の時に道路に飛び出して車に轢かれそうになったんだ。でも自動運転車は、進路を変えて、他の人にぶつかった。アイのAIはどうしてそんなことをしたのか、ずっと気になっている。あれはどう考えても僕が悪かったから」

伊吹「だから調べてるんだ。……あれでもさ、水瀬の能力を使えばわかるんじゃねぇの？」

水瀬「それができないんだよね。アイの判断は時・場所・場合で変わる。だから、その辺の車に能力使っても、分からないんだ。あの時の車に能力を使えば分かるけど、あの車がどこにあるか分からないし」

伊吹「……そっか。まあでもさ、アイが選んだってことは、それが正しかったってことだろ。……それじゃあ」

伊吹が帰ります。

＊＊＊＊＊
（場面）水瀬の家
ある朝

電話が鳴る音

伊吹『水瀬！　今どこにいる！』

水瀬『どこって、家だけど』

伊吹『大変なことになってる！』

テレビが勝手に動き始めます（ハッキングされている）。
そしてテレビでは、悪そうな水瀬が喋っています。水瀬には覚えがないので、フェイク映像です。

フェイク映像の水瀬「皆さん、この世界はおかしいと思いませんか？　僕はね、この世界が嫌いなんだ。この世界はアイを中心に回っている。何も考えずに、みんなアイが正しいと思っている。そんな世界に僕は絶望した。だから壊すことにした。今、世界はヒューマノイドが暴走して大変なことになっていると思います。これをやったのは僕です。先日、ノヴァースでお手伝いをした際に、アイ安全システムを解除させるプログラムを仕組ませていただきました。みなさんが正しいと思っていた世界なんて僕の存在一つで崩壊する。では皆さん、まあ頑張ってください」

フェイク映像の犯行ビデオはここで終わります。

水瀬「な、なんだよこれ」

そして、壊れたヒューマノイドが登場し、包丁を持って水瀬を襲います。

ヒューマノイド「ﾐ…　ﾅｾ…　ｻ…　ﾏｦ…　ｻﾝﾏｲ…　ﾆ…　ｵﾛｼﾏｽ…」

伊吹「水瀬！」

駆け付けた伊吹が銃でヒューマノイドが持っている包丁を撃ち落とす。

伊吹「水瀬！　大丈夫か？」

水瀬「え、う、うん。え！　伊吹、その銃って」

伊吹「とにかく離れて」

伊吹が持っている近距離用の武器でヒューマノイドをボコボコにする。その後職員が駆けつける。

職員「遅れてすまない。伊吹、大丈夫か？」

伊吹「はい！　電源を消しても効かないので。こいつを拘束します」

職員「そうか、……水瀬君、今世界では君がヒューマノイドを暴走させたことになっている。それは本当か？」

水瀬「いえ」

職員「そうだよね。あの映像が本当なら君が襲われるはずがない。だが、こんなことができるのも君しかいない。何か心当たりはあるかい？」

水瀬「…………八神さんに、安全システムの解除方法を教えました」

職員「じゃあ、八神英治が――」

水瀬「でも、八神さんはこんなことをする人じゃないです」

職員「まあとにかく、私たち国家安全局の仕事は国の安全を守ることだ」

水瀬「あの、私たちって」

職員「ああ、そうか。伊吹も私と同じ安全局の人間だよ」

水瀬「え！？　え」

職員「私とは違って、生徒の立場で水瀬君のことを守るように言われている」

水瀬「（情報を受け止めきれてない）」

伊吹「……隠しててごめん」

職員「私と伊吹はこの暴動を止めに行く。私としては水瀬君も来て欲しいだが――」

水瀬「あの、すみません、ちょっと待ってもらえます。（色々起こりすぎて混乱している）」

職員「……少し時間を置こうか。私はあのヒューマノイドについて少し調べることがあるから」

そう言って、職員はヒューマノイドを調査。伊吹に水瀬が話しかけます。

水瀬「あ、あの、伊吹。……伊吹は安全局の人なんだよね」

伊吹「うん」

水瀬「そ、そのなんで隠してたの？」

伊吹「安全局の人間だと分かっていたら、水瀬を狙うやつらに警戒される。だから水瀬にも隠して、監視することになっていた」

水瀬「……そっか。…………伊吹は止めに行くんだよね」

伊吹「うん、俺は安全局の人間だから」

水瀬「その、僕も行った方がいいの？」

伊吹「……正直水瀬が来てくれると助かる。だけど、それは安全局の意見であって、俺は――」

職員「ヒューマノイドに命令を出している場所はやっぱりノヴァースみたいだ。私と伊吹は今からノヴァースに向かう。水瀬君は――」

水瀬「行きます。僕が起こしたことですし、それに八神さんがこんなことするはず……、きっと何かあるはずなんです」

職員「分かった。じゃあ３人でノヴァースに向かおう」

＊＊＊＊＊

（場面）ノヴァース廊下

職員「ここノヴァースのどこかに、ヒューマノイドに命令を出している場所があるはずだ。そこに向かおう」

水瀬・伊吹「「はい！」」

ヒューマノイド何体かが、襲い掛かります。銃や、近距離用の武器で応戦します。攻撃は効いている気配はありますが、致命傷ではないので、そのまま襲ってきます。らちが明かないため、逃げます。

（場面）ノヴァースの空き部屋

伊吹「よし、ここなら追ってこねぇ。とりあえずここに隠れよう」

職員「それにしても、暗いね。電気はどこだ」

水瀬「いてっ」

水瀬が何かにぶつかり、転びます。（電源が入る音がします）

伊吹「水瀬！」

水瀬「だ、大丈夫、何かにぶつかったみたい」

電気がつく（明るくなって、状態が分かります）。
転んだ水瀬の近くには、八神明日香のヒューマノイド（以下明日香）がいます。

伊吹「ここにもいたのか！」

職員と伊吹が明日香に向けて武器を構える。

水瀬「ちょ、ちょっと待って」

明日香「あ、あの」

伊吹「水瀬、離れて！そいつも八神英治から命令を受けているかもしれない」

明日香「英治さんが何かしたのですか？」

伊吹「水瀬から離れろ！」

水瀬が立ち上がって、明日香を守るように立つ

水瀬「待って、このヒューマノイドは違う」

職員「確かに他のとは、雰囲気が違うみたいだけど」

明日香「……は、はじめまして……、私は八神明日香、八神英治の妻です」

職員「八神明日香！　いやでも、八神明日香はもう死んでいるはずじゃ」

明日香「はい。ですが、八神明日香は死ぬ前に自分の情報をヒューマノイドに読み込ませました。それが私です」

伊吹「八神明日香をコピーしたヒューマノイドってことか」

明日香「はい。あの、それでこれはどういう状況なのですか？　さっき英治さんが何かしたって言っていましたけど」

これまでのことを明日香に説明をする。

明日香「そんなことが、あの私も協力させてください！」

伊吹「いや待て。奥さんなんだろ。八神英治の味方をする可能性だって」

明日香「確かに伊吹くんのいう通り、私は英治さんを大切に思っている。でもこんなことをするなんて間違っている。大切に思っているからこそ、私は英治さんを止めたいんです」

職員「……水瀬くんが言ったように、敵だったらすでに私たちを襲っているはずだ。それに、八神英治からの命令も受けていないみたいだし」

伊吹「……すいません、疑って（頭を下げる）。正直俺たちじゃ、どうしようもないので、協力してほしいです」

明日香「もちろんです。私と英治さんは、ここノヴァースで一緒に働いていました。だから道案内は任せてください」

職員「それでは、命令を出している場所は分かりますか？」

明日香「おそらく、７階の中央管理室です。ここを出て、北階段を上るのが１番近いです」

伊吹「そのためには、あいつら（さっき負けたヒューマノイドたち）を倒さないといけねぇ。なんか弱点でもわかれば……」

水瀬「…………（考えて思いつく）弱点なら分かるかもしれない。……八神さんの話によると、明日香さんは今のヒューマノイドと設計や構造が同じらしい。明日香さんちょっといいですか？」

明日香に触れて能力発動

水瀬「今、明日香さんがどういう回路や構造で動いているか分かった。まず、ここにカメラがあって、これで僕たちを認識している。だからここを破壊されると僕たちを認識できなくなる」

伊吹「……そうか！　明日香さんとあいつらは同じヒューマノイド。つまり体の構造や設計部分は一緒。だから今言った弱点は、あいつらにも効くってことか」

（場面）先ほどの廊下
ヒューマノイドがいますが、伊吹と職員がカメラ部分に向かって銃弾を撃ち込みます。
カメラを破壊されたヒューマノイドたちは、混乱します。

伊吹「すげぇ、水瀬の言った通りだ。カメラを破壊したから、俺たちを認識できてねぇ」

水瀬「やっぱり明日香さんと設計は同じみたいだ。だから後ろのこの部分から、心臓に向かって、こうやって貫けば」

水瀬が武器で、ヒューマノイドを貫いて、避難します。
ヒューマノイドは爆発します。

水瀬「回路がショートして、爆発する」

伊吹「やっぱ水瀬の能力はすげえな」

水瀬「今回は明日香さんのおかげだよ。明日香さんが協力してくれたから、ヒューマノイドの弱点が分かった」

明日香「いえ、すごいのはその能力ですよ。そんな能力、どうやって……」

水瀬「あんまり覚えてないんですけど、子供のときに誘拐されて、それでこの能力が……、明日香さん？」

明日香「いえ、何でもないです。先を急ぎましょうか？」

その後も、ヒューマノイドの弱点を突きながら、爆発させていって、７階の中央管理室にたどりつきます。

使用した素材

• ICOOON MONO：https://icooon-mono.com/

• SILHOUETTE ILLUST：https://www.silhouette-illust.com/

• illustAC：https://www.ac-illust.com/

• タダ絵：https://freeeillust.com/

第２話

第３話

：