「AIは責任を取れないから人間が必要」という主張への疑問

「AIが発達しても、最終的に責任を取るのは人間だから、人間の仕事はなくならない。」

こういう主張をよく見かけます。一見もっともらしく聞こえるのですが、個人的にはそれなりに疑問がある主張だなぁと最近思い始めています。

そもそも、今だって「人間が責任を取っている」と言えるのかどうか、という点です。

企業が何か問題を起こしたとき、責任を取っているのは誰でしょうか。社長が記者会見で頭を下げる。「再発防止に努めます」と言う。場合によっては辞任する。それで終わりです。

個人情報が漏洩しても、欠陥商品で誰かが怪我をしても、責任を取っているのは「法人格」であって、中にいる人間が無限に責任を追及されるわけではありません。会社が倒産することはあっても、経営者個人が全財産を失って路頭に迷うところまでいくケースは稀です。

株式会社という仕組みは、まさにそのためにあります。有限責任という概念があるからこそ、人々はリスクを取って事業を始めることができる。失敗しても、出資した分以上の責任は負わなくていい。
この仕組みがなければ、今ほど会社という仕組みがこれほどありふれたものにはなっていないでしょう。

この仕組み自体が無責任だと言いたいわけではありません。

むしろ逆で、この仕組みがあるからこそ資本主義は発展し、技術は圧倒的なスピードで進化できたのだと思います。失敗のリスクを限定できるからこそ新しいことに挑戦できます。
全責任を個人が負わなければならないなら、誰も新しい薬を開発できないですし、誰も新しい乗り物を作りませんよね。

ただ、それを踏まえた上で「AIは責任を取れないから人間が必要」という主張を聞くと、やっぱりちょっと疑問が浮かびます。

今だって、実質的に責任を取っているのは法人格という「概念」です。
人間が頭を下げているように見えて、その人個人が被害者一人一人に賠償しているわけではありません。会社のお金で、会社の名前で、会社として対応しています。そして、それが正しいという形をとっています。

AIが判断ミスをしたとき、誰が責任を取るのか。
それは今と同じで、そのAIを運用している会社が取るのでしょう。AIを開発した会社かもしれないし、AIを導入した会社かもしれません。
自動運転車が事故を起こしたとき、責任を取るのは車に乗っていた人間でしょうか。それともメーカーでしょうか。これは今まさに議論されていることですが、少なくとも「人間が運転していないから責任の所在がない」とはならないはずです。少なくとも現時点では「個人」という「人間」ではなく、どこかの「法人格」が責任を負う形で落ち着くでしょう。

そもそも現在の「責任を取る」というのは、謝罪して、賠償して、再発防止策を講じる、ということになっています。
それは人間がやってもAIがやっても、というか、法人格という仕組みを通じて行われるものであって、生身の人間が必須というわけではありません。

「AIは責任を取れない」と言うとき、その「責任」って何を指しているんだろうと思います。

道義的な責任、つまり「申し訳ない」と心から思うこと。これは確かにAIにはできないかもしれません。でも、企業の謝罪会見を見ていて、本当に心から申し訳ないと思っているかどうか、正直わからないことも多いですよね。形式的に頭を下げて、用意された原稿を読んで、それで「責任を取った」ことになっていますし、いろいろ言いたいこともありつつも、「それでよし」としているのが少なくとも現在の日本形です。
それ以上の責任、それまでの給与を全部没収だったり、犯罪者として捕まえたり、命の危険があるということはありません。「有限責任」という前提のもと社会活動しているわけですから、多くの場合これは守られるべきです。

だとすれば、AIが生成した謝罪文を人間が読み上げることと、人間が考えた謝罪文を人間が読み上げることに、本質的な違いはあるのでしょうか。
また、その読み上げる主体が「AI格」といった形で「法人」のように「権利を与えたAI」が謝罪文を読み上げた場合はどうでしょう。
AIの定義には拠りますが、人間よりもシステムのほうがヒューマンエラーがない分再発防止策は適切に取れることでしょう。
そうなると、「人間なんかに任せているほうが怖い」「人間といういうだけで再発させる奴のいう責任なんて適切ではない」ということにはならないでしょうか。

繰り返しますが、今の仕組みが悪いと言いたいわけではありません。有限責任の仕組みがあるから社会は発展してきたし、素晴らしい仕組みだと思っていますし、これからも続いていくと思います。
ただ、「AIは責任を取れないから人間は残り続ける」という主張は、今の責任の取り方を美化しすぎているように感じます。
法人格というクッションを挟んで、有限の範囲で対応しているだけにすぎないとも言えます。

AIが社会に浸透していく中で、責任の所在をどう設計するかは重要な議論です。でもそれは、「人間がいないと責任が取れない」という話ではなくて、「責任を負う主体をどう定義するか」という制度設計の話なのではないでしょうか。