AIの実力 #2: AIは意味を理解しないって本当？ の補足

以前の記事「AIは意味を理解しないって本当？」で
誤解 (1) 「AI は意味を理解できない」
⇒ 実態「AIも意味を理解できる」
と断定しちゃいましたが、補足したいと思います。

仕組みの違い？

よく言われる主張の一つが、「現代の生成AIは大量のテキストデータから統計的パターンを学習し、次に来る単語やフレーズを予測して文章を生成しているだけ。意味を理解しているわけではない。」というものです。

一文目は確かに正しいです。だけど、それが二文目を証明することにはなりません。
人間はどうか、考えてみてください。
人間もニューロンが過去の刺激から学習し、現在の状況に反応しているだけです。もっと言えば化学反応の集まりにすぎません。
そこを突き詰めると、以下の問いに行きつくのだと思います。

定義の問題？

・生命とは何か？
　「化学反応の集まり」では説明できない何かがあるのではないか？
・「意味の理解」とは何か？
　「意味を理解しているかのように振る舞える」ことと
　「意味を理解していること」とは違うのか？  

定義の問題とも言えますが、そもそも観測して区別できないものを定義する意味はどこにあるのでしょうか？

問うべき問いは？

問うべきは定義ではありません。どっちが役に立つかです。つまり
・今後の世界を生きていく上で、より役に立つ世界認識は「AIは意味を理解できない」と「AIも意味を理解できる」のどちらか？
だと考えます。
後者の方が役に立つのは自明ではないでしょうか？
なぜならば、今、AIに意味が理解できるかどうかを問うのは、多くの場合、AI の存在する世界における、人間の役割を見極めたいからです。
「AIは意味を理解できない」という認識は現実逃避にすぎず、そんな認識で例えば若者の将来についてアドバイスするのは無責任です。

なぜ過小評価するのか？

さらに踏み込んで、
・人間がAIの能力を過小評価したがる理由は何か？
も考える必要があると思います。

過小評価の原因はいくつかあると思います。
(1) 自身で評価せず、観念的に納得感のある説明を信じてしまう。
(2) 自身で評価したが、その時期が早すぎた。
　(触ったのが2024年前半までだと、幻滅した方も結構いると思います。)
(3) 自身で評価したが、スキル不足で不十分な評価しかできていない。
(4) 自身で評価し、AIの能力が高いのは分かっているが、
　「統計的に学習しているだけ」という知識に邪魔されて、
　「意味は理解できてない」と信じてしまっている。

(1) の「観念的に納得感のある説明」を生み出す人々が根本原因だと思います。彼らも特に悪意があるわけではなく、(2)～(4) の理由で、たまたまその状態に陥ってしまっているだけ、というのが実情ではないかと想像します。

そもそもディープラーニングが出てきたころから、AIの能力は、人間が論理的に説明できる範囲を超えてしまっていると言われています。 (なぜ、AI の能力がこんなに高いのか、学者もよくわかっていない。)

だからこそ、観念的な説明でわかったつもりになるのは危険なのだと思います。

まとめ

• AIも人間も「過去の学習に基づく反応」であり、機構的な分析だけでは「意味の理解」の可否は判定できない。

• 「意味の定義」よりも、どちらの認識がこれからの実践で役立つかを考えるべき

• AIを過小評価する原因は (1) 自身で評価せずに、「それっぽい」説を鵜呑みにする、(2) 少し前のAIを評価する、(3) スキルが不足している、(4) 知識からの思い込み

• AIの能力は専門家でもその理屈を説明できないレベルにあり、観念的理解に頼るのは危険