「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典

最初に留意事項です。
「説明可能なAI」や「XAI」と言われて「あぁ、アレのことね」と分かる方は最後まで読む必要ありません。
「説明可能なAI」の英語表現であり、XAIの正式名称（？）が「eXplainable Artificial Intelligence」です。
「eXplainable Artificial Intelligence」を略したのが「XAI」ね。



※「eXplainable Artificial Intelligence」を何となく日本語にすると「説明できる人工的な知能」となります。[詳細]

以上が「説明可能なAI（XAI）」の意味を知っている人向けの説明です。

「説明可能なAI（XAI）って何？美味しいの？」な人は、このまま読み進めてください。
用語の中身について説明します。



それでは、いってみましょう。
まずは予備知識として「AI（人工知能）」について説明します。
「そんなの説明されなくても知ってるよ！」な人は適当に読み飛ばしてください。

AI（人工知能）は「人間様の脳みそをコンピュータとかで機械的に再現しようとする学問の分野」です。



あるいは、そんなこんなの研究やなんだで培われた知識や技術を使って機械的に再現した、人間様の脳みそっぽいやつを「AI」と呼んでいる場合も あります。
そんな用語は ないかもしれませんが「電子頭脳」みたいなイメージです。



あるいは、そんなこんなの研究やなんだで培われた知識や技術を使って機械的に再現した人間様の脳みそっぽいやつを組み込んだ、機械やプログラムを「AI」と呼んでいる場合も あります。
あたかも自分で考えたり判断しているように見える機械とかプログラムのことです。



「AI」という用語に明確な定義は存在しません。
その道の権威っぽい人たちが自分たちの言葉で定義付けしていたりはしますが、その言い回しやニュアンスが人によって違ったりします。
ただし、世間一般で流行語みたいになっている「AI」は「いかにも自分で考えて判断しているように見える機械とかプログラム」を意図していることが多いはずです。

ここまでの説明がよく分からなかった人は、専門家からは怒られそうな説明ですが

自分で考えるコンピュータ

がAIだと思ってください。



以上を踏まえて

AIさんが何を考えたか人間様が理解できるようにする技術だったり、やり方だったり、AIさんの特性だったり

が「eXplainable Artificial Intelligence」です。



上でも書きましたが、一般的には「説明可能なAI」や「XAI」と表現されます。
※本ページでも以降は「説明可能なAI」と表現します。

例えば、そうですね。

ピヨ太君がAIさんに「ピヨ子さんの好きな食べ物は？」と聞きました。



AIさんは「それはカメラです」と答えました。



いやいやいやいや！
それは違うでしょ！
確かにピヨ子さんは何でも食べそうですけどね。
さすがにカメラは食べないでしょう。



ピヨ太君は「AIさんは、なんでピヨ子さんの好きな食べ物がカメラだと思ったのかな？」と疑問に思いました。



気になったピヨ太君はAIさんの心を読んでみました。



ふむふむ、なるほど。
どうやらAIさんは、ピヨ子さんが「カメラが欲しいわね」と言っていたのを聞いたようです。



それを根拠にして「ピヨ子さんはカメラが欲しい」→「ピヨ子さんはカメラが好き」→「ピヨ子さんの好きな食べ物はカメラ」と考えたみたいです。



ピヨ太君はAIさんが勘違いしている原因が分かりました。
ピヨ太君はAIさんに「ピヨ子さんはカメラを欲しがっているけど、カメラが好きなわけじゃないし、そもそもカメラは食べ物じゃないよ。ピヨ子さんの好きな食べ物はケーキだよ」と教えてあげました。



この話においてピヨ太君がやったようなことをできるように頑張るのが説明可能なAIです。

AIさんが何を考えて、そのような結論を出したのか、人間様が理解できるようにする技術とか手法とか

です。

あるいは、そのような特徴を持っているAIさんの特性を指して「説明可能なAI」と表現している場合も あります。
AIさんが何を考えたのか人間様が理解できるようになっているAIさんのことを「こいつは『説明可能なAI』だね」と言ったりです。

何気にAIさんは信用ならないやつです。
間違ったことも平気で言います。



でも、言うことだけじゃなくて「なんで、そう言ったのか？」も分かれば、AIさんの言うことを、もう少し信用できそうな気がしませんか？
「こう考えたから、こう言ったのね。なるほど」と説得力が生まれますし、間違ったことを言われた場合でも「こう考えたから、こう間違ったのね」と把握できます。



間違ったことを言うかもしれないAIさんの言うことを少しでも信用できるようにするために、AIさんが何を考えてそう言ったのか「見える化」したいです。
そのために頑張るのが説明可能なAIです。