「AIが使えない」と愚痴る人が、実は一番AIをダメにしているかもしれない話

AIへの問いで、その人の知識量が露呈する

AIへの質問の仕方を見るだけで、その人の持っている知識量が如実に表れます。

最低限の基礎知識がない人は、AIに対して的を射ない頓珍漢な質問を投げてしまいがち。質問の質が悪いので、当然ながら期待するような回答は得られません。

そして、知識のない人ほど「このAIは使えないな」と愚痴をこぼし、恥ずかしげもなく自分の無知を曝け出すようにSNSへ投稿しています。周囲からは、「AIが使えないのではなく、その人自身がAIを使いこなせていないだけだ」と冷ややかに見られているものです。

AIが素晴らしい力を発揮するのは、人が正しい質問を投げかけたときです。これからの時代は、AIがなんと回答したかではなく、「AIにどんなプロンプトを書いたのか」「どんな問いを立てたのか」という人の質問力が問われるようになる気がしています。

これは人間同士の会話においても同じだと思うんです。本質を突いた良い質問ができる人は、自分の中にある知識や記憶の引き出しが多く、情報を包括的に処理できているからこそ、的確な問いを投げかけられるものです。

自社プロジェクトで起きた教訓

人が手当たり次第に投げかける質問ややり取りを、AIは日々収集し学習しています。愚問までも収集せざるを得ないため、AI自体のレベルが下がってしまうのではないかと危惧しています。

実は数年前、私は勤めていた会社でAIのプロジェクトに関わっていました。まだChatGPTやGeminiなどがなかった頃の話です。自社内で大プロジェクトとして、営業パーソンが得意先との会話内容を入力し、自前でAIを構築するという取り組みでした。

具体的には、Aのスライドを提示した時に得意先がどう反応したか、次にBを提示した時の反応はどうかをリアルタイムに記録していきます。

iPadでスライドを提示しながら、相手にはわからないように「赤・黄・青」のボタンを押して反応を入力するのです。 何時何分にどのような流れで説明したかというデータが全国から収集されることで、「個別の得意先ごとに、好感触を示す情報提供のシナリオをAIが提案する」という画期的な取り組みでした。

しかし、この取り組みで何が起きたか。

それは虚偽報告、つまり嘘の入力が横行したのです。営業パーソンは営業所長からは面会件数を厳しく追及されます。そのため、実際には得意先に会っていないのに、会ったフリをしてデータを入力する者が現れました。

本社はAIを使って「質」の向上を試みたのですが、現場の営業サイドは質より「量」を求められる世界だったからです。そのため、怒られるのを回避する虚偽報告が日常茶飯事になってしまったのです。

日々現場を駆け回り、所長からは厳しいノルマで詰められる状況。AIに正しいデータを入力する精神的な余裕などなく、ただ怒られるのを回避するためだけにiPadのボタンをポチポチ押すだけの行動に出ちゃった、、、って感じだと思います。

さて、そんな嘘のデータばかりを入力されたAIはどうなったでしょうか。

当然ながら、正しくないデータを元に判断・提案される内容は、まったく見当違いのものになってしまいました。

悪意のフェイクと無自覚な愚問

話を現代に戻します。当時の社内AIと同様に、現代のAIも世の中の情報を収集していますが、ネット上には愚問の数々やフェイクニュースが溢れかえっています。AIがそれらをすべて正しい情報として学習してしまったら、たまったものではありません。

さらに恐ろしいことに、AIを意図的に混乱させようと嘘の情報を流す悪意ある集団もいるようです。大量のフェイクニュースや偽造したPDFを意図的にAIに読み込ませたり、AI自身にフェイクニュースを作らせて、それをまた学習させたりする輩がいるとも聞きます。最近の悪意は巧妙で本当に怖いですね。

もちろん現在のAIは高性能なので、低品質なコンテンツは自動的に省くくらいの処理能力は備えていることでしょう。しかし、AIハルシネーションが起きる背景には、こうしたデータ汚染の問題が少なからず影響しているのかもしれませんね。

一部の悪意ある集団を除けば、ほとんどの人は意図的に虚偽の入力はしていないはずです。しかし、最低限の知識を持たない人たちが日々投げかける大量の的を射ない質問が、本人たちも気づかないうちにAIを混乱させる一因になっているのではないかと、ふと、そんなことを考えてしまいました。

AIが世界中の情報を飲み込んでいく時代だからこそ、私たち人間は『本質を突いた問い』を立てるための教養と、自分自身の頭で考える力を磨き続けなければならないと感じています。

関連記事↓