「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典

順番に見ていきましょう。
まずは予備知識として「AI（人工知能）」について説明します。
「そんなの説明されなくても知ってるよ！」な人は適当に読み飛ばしてください。

AI（人工知能）は「人間様の脳みそをコンピュータとかで機械的に再現しようとする学問の分野」です。



あるいは、そんなこんなの研究やなんだで培われた知識や技術を使って機械的に再現した、人間様の脳みそっぽいやつを「AI」と呼んでいる場合も あります。
そんな用語は ないかもしれませんが「電子頭脳」みたいなイメージです。



あるいは、そんなこんなの研究やなんだで培われた知識や技術を使って機械的に再現した人間様の脳みそっぽいやつを組み込んだ、機械やプログラムを「AI」と呼んでいる場合も あります。
あたかも自分で考えたり判断しているように見える機械とかプログラムのことです。



「AI」という用語に明確な定義は存在しません。
その道の権威っぽい人たちが自分たちの言葉で定義付けしていたりはしますが、その言い回しやニュアンスが人によって違ったりします。
ただし、世間一般で流行語みたいになっている「AI」は「いかにも自分で考えて判断しているように見える機械とかプログラム」を意図していることが多いはずです。

ここまでの説明がよく分からなかった人は、専門家からは怒られそうな説明ですが

自分で考えるコンピュータ

がAIだと思ってください。



以上を踏まえて

AIさんが何を考えたか人間様が理解できるようにする技術だったり、やり方だったり、AIさんの特性だったり

が「エクスプレイナブルAI」です。
「説明可能なAI」や「XAI」と表現されることも あります。



例えば、そうですね。

ピヨ太君がAIさんに「ピヨ子さんの好きな食べ物は？」と聞きました。



AIさんは「それはカメラです」と答えました。



いやいやいやいや！
それは違うでしょ！
確かにピヨ子さんは何でも食べそうですけどね。
さすがにカメラは食べないでしょう。



ピヨ太君は「AIさんは、なんでピヨ子さんの好きな食べ物がカメラだと思ったのかな？」と疑問に思いました。



気になったピヨ太君はAIさんの心を読んでみました。



ふむふむ、なるほど。
どうやらAIさんは、ピヨ子さんが「カメラが欲しいわね」と言っていたのを聞いたようです。



それを根拠にして「ピヨ子さんはカメラが欲しい」→「ピヨ子さんはカメラが好き」→「ピヨ子さんの好きな食べ物はカメラ」と考えたみたいです。



ピヨ太君はAIさんが勘違いしている原因が分かりました。
ピヨ太君はAIさんに「ピヨ子さんはカメラを欲しがっているけど、カメラが好きなわけじゃないし、そもそもカメラは食べ物じゃないよ。ピヨ子さんの好きな食べ物はケーキだよ」と教えてあげました。



この話においてピヨ太君がやったようなことをできるように頑張るのがエクスプレイナブルAIです。

AIさんが何を考えて、そのような結論を出したのか、人間様が理解できるようにする技術とか手法とか

です。

あるいは、そのような特徴を持っているAIさんの特性を指して「エクスプレイナブルAI」と表現している場合も あります。
AIさんが何を考えたのか人間様が理解できるようになっているAIさんのことを「こいつはエクスプレイナブルAIだね」と言ったりです。

何気にAIさんは信用ならないやつです。
間違ったことも平気で言います。



でも、言うことだけじゃなくて「なんで、そう言ったのか？」も分かれば、AIさんの言うことを、もう少し信用できそうな気がしませんか？
「こう考えたから、こう言ったのね。なるほど」と説得力が生まれますし、間違ったことを言われた場合でも「こう考えたから、こう間違ったのね」と把握できます。



間違ったことを言うかもしれないAIさんの言うことを少しでも信用できるようにするために、AIさんが何を考えてそう言ったのか「見える化」したいです。
そのために頑張るのがエクスプレイナブルAIです。