AIの実力 #5: AIには価値判断できないって本当？

これまで、「AIには○○できない」パターンの誤解についてお伝えしてきました (「意味理解」⇒  #1・#2・#4、「創造」⇒ #3) 。
今回は「価値判断」についてです。

「AIには価値判断ができない」という主張は、広く共有された見解のように語られることが多いですが、果たして本当にそうでしょうか？ 

「価値判断」とは何を指すのか？

「AI には価値判断できない」と言われるとき、そもそもその「価値判断」とは何を意味しているのでしょうか？
大きく二つの意味で使われています。

• 倫理的な価値判断: 行為や結果の善悪の判断

• 感性的な価値判断: 芸術や表現の美醜や好悪の判断

「価値判断できない」 とはどういうことか？

また「AI には価値判断できない」と言われるとき、何をもって「できない」というでしょうか？
ここにも複数の意味が含まれています。

• 内在的な価値基準の欠如:  物事の善し悪しや美醜について、そもそも価値基準を持っていない

• 判断の結果の質の低さ: 自分の基準で何らかの判断を実施することはできるが、その判断の精度が悪い

状況によって「責任をとれない」の意味でも「判断できない」(例 「そんな重大なことは私には判断できません」) ということもあります。
それは本当は「判断してはならない、させてはならない」という意味ですので、今回は割愛します。

「価値判断できない」のはAIだけか？ 倫理的な価値判断の例

上記の「価値判断」は人間でもできないケースはたくさんあります。

例えば、医療現場で救急搬送の優先順位を決める「トリアージ」。
倫理的な判断が求められる典型的なケースです。
医師が判断するのが基本ですが、医師・医療関係者が不在の場合もあります。
そのとき普通の人には判断できないでしょう。
むしろ、AIの方が START法などの判断基準を理解して、素早く、精度高く判断することができるかもしれません。

また、学校の道徳の時間で学ぶような倫理の問題も、今のAIにとってはもはや難しい問題ではありませんが、人間は間違うこともあるでしょう。

「価値判断できない」のはAIだけか？ 感性的な価値判断の例

感性的な価値判断については、より主観的な面が強いので、そもそも「だれだれは感性的な価値判断ができる、できない」というのは、すでに科学的に検証可能なステートメントとは言えないかもしれません。

逆に検証可能な形に変換してしまうと、AIの方が得意に見えてきます。

会社の業務においても、例えば社外にメールを出すときにには必ず LLM に添削させる、という人は増えつつあります。
これは、どちらの文章が日本語としてより自然か、現在の状況と相手との関係性において、よりふさわしいか、という判断をさせていることにもなります。
そして、そのAIの添削の質は、普通の「人」のレベルを超えつつあることは、生成AIのヘビーユーザーほど、強く実感しているでしょう。

よりセンスが問われるケース、例えば、ある動画がバズるか否かを当てる問題はどうでしょうか？
これも、そもそも人間にもセンスの有無があります。
そして AI の予測精度が人間の平均精度を超えるのは時間の問題でしょう。

小説や絵画の賞の審査官のケースはどうでしょうか？
審査官は個性や審美眼が重視される世界と言えるでしょう。
そして、そもそも何らかの実績があるから審査官として選ばれているわけです。
これはさすがに、現時点ではAIが担うのは難しいように思えます。
しかしもし、十分な経済的インセンティブが働くのであれば、いずれ個性豊かな「AIクリエーター」が登場し、成功をおさめ、そしてその「AIクリエーター」が「審査官」に選ばれる日が来ても、不思議ではありません。

「AI には価値判断ができない」という思い込み

以前の「意味理解」のときもそうでしたが、「価値判断」についても、何かAIにできない根本的な理由があるわけではありません。
「AIには価値判断ができない」のではなく、人間には「AIには価値判断ができない」と思い込む傾向があるだけなのです。

これは、人類の本能かもしれません。
人は他の人と協力して生きていく過程で、他人も自分と同じように喜びや痛みを感じている、と想像できるように進化してきたと言われます。
現実には他人の心はブラックボックスであるにも関わらず、無意識のうちに共通の価値感を共有していることを想像してしまいます。
その本能的な共感メカニズムは相手が人間のときのみ働き、 AI が相手だと自動的には働かない。
それだけのことなのではないでしょうか？

現実には、 AIはすでに多くの領域で、特定の基準に基づいた「価値」の評価を行い、判断を下すことができる段階にあると言えます。
もはや「AIができる・できない」という二項対立で思考を停止するのは得策ではありません。
これからは、「AIの特性とその社会への影響」を理解し、「いかにAIを設計し、より良い価値判断のシステムを構築していくか」という、建設的な問いにシフトしていく時期に来ていると考えます。