【AI基礎講座】#14 アルゴリズムバイアスって何？ AIの「偏見」が知らないうちにあなたの判断を歪めている話

こんむぎわ〜♪

むぎ屋のnoteに来てくださって、本当にありがとうございます(´∀｀)

最近、コメントや個別相談でも「AIをなんとなく触っているけど、どういったものかよくわかってない」というお話を聞くことが増えてきました。

せっかくなので、これから連載形式でAIの基礎とかG検定の知識とかをご紹介していこうかなと思っています♪🥰

「アルゴリズムバイアスって最近よく聞くけど、結局何なの？」 「AIって公平で正確だから安心...って思ってませんか？」 「バイアスって専門用語、難しすぎる...」

そんな風に思っていませんか？

実は私も1年前まで、まったく同じ状況でした。。。

今日は、「アルゴリズムバイアス」について超基礎から分かりやすく解説します！

専門用語はできるだけ使わず、身近な例えでお伝えしていくので、安心してくださいね♪

「AIは公平」だと信じて、大失敗した私の恥ずかしい話

まず、私の恥ずかしい失敗談からお話しします。

これ、本当に冷や汗が止まらなかった出来事なんです。。。

AIを盲信して、判断を誤った日

1年くらい前の話です。

当時、私は会社でAIを使った業務分析を任されていました。IT企業に転職してAIに触れる機会が増えて、「AIってすごい！完璧！」って浮かれてたんですよね。

ある日、部門の採用候補者の評価をサポートするために、AIツールを使うことになったんです。

過去の採用データを学習させて、「この候補者は活躍しそうか？」を予測するシステム。めちゃくちゃ便利そうじゃないですか？

私は何も疑わず、AIが出した結果をそのまま上司に報告しちゃったんです。

「このAIによると、候補者Aさんよりも候補者Bさんの方が適性が高いです！」って。

数日後、上司から呼び出されました。

「むぎさん、この評価、何か偏ってない？候補者の性別や出身大学で判断してるように見えるんだけど」

心臓が止まりそうになりました。

慌てて確認すると...本当にそうだったんです。

AIは過去のデータを学習していたんですが、その「過去のデータ」自体が偏っていたんですよね。私たちの会社、男性社員が多かったから、AIは「男性の方が活躍する」って学習しちゃってたんです。

さらに、特定の大学出身者が多かったから、「この大学出身じゃないと良くない」みたいな判断までしてました。

もう、顔から火が出るほど恥ずかしかった。。。

「AIは公平で客観的」って思い込んでいた自分が、めちゃくちゃ恥ずかしかったし、優秀な候補者を見逃すところだったんです。

この失敗から、私は「アルゴリズムバイアス」という言葉を知りました。

そして、AIを使う上で絶対に知っておかないといけない大切なことを学んだんです！