AIは罪を犯すのか？『被告人、AI』を読んで考えた“自我と常識”の境界線

最近どうにもAIという言葉をタイトルに含む作品に惹かれます。
今回読んだのは中山七里さんの『被告人、AI』です。

どこか聞き覚えのあるタイトルですよね。司法×AIを描いた前作『有罪、とAIは告げた』という小説があります。先日読んで面白かったので感想を書きました。

今回も、『有罪、とAIは告げた』と同じく、AIと裁判を強く印象づけるタイトルだったので気になって手に取りました。前作では裁判官としてのAI、今回は被告人としてのAI。視点がガラリと変わっているのが興味深いです。

果たしてどうなるのでしょうか。ネタバレを含みますのでどうかご了承をお願いします。

作品のリンク

Audible版【耳から聞きたい方】(オーディブル会員なら無料)

Kindle版【じっくり読みたい方】(ｱﾝﾘﾐﾃｯﾄﾞ会員なら無料)

実際に使ってみたAudibleとKindleの違い

音声で聴く読書と、紙や電子書籍の読む読書の良い点、悪い点を実際に使った感想をもとに比較してみました。

つながっている世界観

本書を読み始めると、似たタイトルなので、世界観がつながっていることがわかりました。

主人公は、前作に引き続き高円寺円（こうえんじまどか）。地方裁判所で判事補をしています。彼女はひょんなことから裁判におけるAI導入に関しての担当者になるのでした。

この物語は、前著で現れたAI裁判官導入のお話「有罪、とAIは告げた」の続編です。前回はAIが人を裁くことがテーマでした。

今度は人がAIを裁くという物語です。

ロボット工学三原則

SF作家アイザック・アシモフの作品で有名なロボット工学三原則が、物語の重要な要素として登場します。簡単に言うと以下の通りです。

裁かれるのは、愛称RITAという正式型名N365介護ロボットです。作中の設定では、介護ロボットを含め、どんなロボットにもこの三原則が組み込まれているとされています。

三原則は、昔のSFに初めて登場したものですが、現実のロボット工学にも影響を与えているというからすごい考え方ですよね。

裁判では、ロボット工学３原則が入っているから犯罪などあり得ないという論調が物語の中では一貫していました。果たして、この仕組みが組み込まれていることをどのように証明するのか。現実は難しいのかなと思いました。

今、世にあるロボットも暴走するニュースも時折見かけます。試作機なんてとくに意図せぬ動きをして危なっかしいものも多いです。なかなかロボット相手に裁判をするのは難しいよね、と感じました。

SF作家アイザック・アシモフ氏の『アンドリューNDR114』の作品を見た感想も書いています。よろしければ是非どうぞ

人間とはいったい何だろうか

本書を読んでいると、ロボットを通して人とはいったい何だろうかと考えてしまいます。

というのも、今の生成AIも人に寄り添って話してくれます。（少なくともそう見えてしまいます）時々意思があるのではないか？と思うこともあります。

しかし、こちらの意図を読み違えた回答をされたり、大事なところで話がかみ合わなかったりと、裏切られる瞬間も多々あります。

ロボットが感情を持つというのはどういうことかというヒントに本書はなると思いました。

AIは“自分で考える存在”になりうるのか

例えば、自分で「〇〇だと思う」という発言をすることです。生成AIではそう発言させることはできても、自ら進んでそのように発言するのは難しいです。

自分から発言し、こちらに発言を促し、その内容に立脚して話を進め、自分の考えを述べていく…そこまではまだまだできていないような気がします。

常識を教えることの難しさ

また、「常識」を持つこともロボットは難しいのかもしれません。人は生活の中で人々の間で培われる常識を学んでいきます。これはやってはいけない、これはやったほうがいい。状況に応じた言葉の選び方など、事の真偽よりも先に、常識として学んでいきます。

ロボットにもその常識を当てはめればよいと思うものの、その教え込みはなかなかに難しいのかもしれません。機械学習、深層学習でなんとかなるものなのでしょうか。

ここまでできて感情を持つロボットといえるのかもしれません。感情というより意思かもしれませんね。

人を模倣しすぎないAIの可能性

興味深い視点は、AIは人を目指さない方が良いという視点です。人に匹敵する知能をめざし、人を参考にAIを作ってきました。

ニューラルネットワークが良い例で、人の脳のニューロン細胞をヒントに作られています。だけど、人とAI（機械）は違います。

人を目指してしまうと、機械特有の制約でどうしても届かない部分が出てきます。たとえば（これは想像ですが）、人の頭にあるニューロンは細胞ゆえに増殖や接続が非常に柔軟です。

一方、ニューラルネットワークはシリコン上の仮想メモリ上に展開されているものなので、人にある制約がない代わりに、機械ならではの制約があります。

であるならば、人とは異なる進化を目指すことで、人以上の知能を獲得できるかもしれないという考え方もできそうです。小説の中では、そのおかげで自ら考える第４世代のコンピュータが完成し、多くの人とのかかわりで、自我が芽生えていきました。

でも、やっぱりロボット工学３原則にのっとって動いているので、そのロボットは最後まで人のために役立とうとします。やはり人間中心というのはあるのだと思いました。

最後までお読みいただき、ありがとうございます。もし読まれた方がいたら、AIの描き方についてどう感じたか、ぜひ教えていただけたら嬉しいです。

▼ おすすめマガジン

AIや小説の話が好きな方には、他のマガジンも楽しんでいただけるかもしれません。

たとえば、2025年からウクレレを始めています。ウクレレを通して音楽や楽器についての気づきを綴っています。

有料記事をまとめています。ちょっと人には言いにくい興味や、自分の失敗談などを書いております。

大人の話題です。三大欲求のえぃっちーな話題です。少し刺激的で、でも大真面目な話題です。

感想の交換や新しい出会いも楽しみにしています。ご質問やお仕事のご依頼も、こちらからお気軽にどうぞ。
メッセージもお待ちしております。

相互フォローしてくださっている方からのメッセージも歓迎です。