生成AIは平気で“もっともらしい嘘”をつく｜業務で使う人のための確認の習慣｜【生成AI部下と上司の仕事日誌】Day1

「部長、これAIに作らせた新レポートです！」

会議で自信満々に提出した資料——。
しかし数分後、「根拠は？」の一言で空気が凍った。
生成AIは便利。
でも、“それっぽい嘘”まで堂々と出してくる。
相手が取引先なら冷や汗ものです。

この連載では、
🤖 生成AI部下（アグボくん）がやらかす
❄ 空気が凍る
という“現場あるある”をもとに、

・なぜズレたのか
・どこが設計ミスだったのか

を、実務目線で整理していきます。

この連載は、実際に寄せられた相談の中から
「これは多い」と感じたテーマを取り上げています。
ひとりの失敗談ではなく、
現場のあるあるとして読んでもらえたら嬉しいです。

※このシリーズのまとめはこちら

1. 生成AIが作った完璧な資料、でも“根拠”がなかった😲

• 状況：企画担当が取引先向け資料のために、生成AIに「○○業界の最新動向と数値」を作らせる

• 問題：出典が曖昧で、数字が整いすぎた“もっともらしい統計”が出力される

• 結果：会議で「根拠は？」と突っ込まれ、資料を差し戻し。結局手作業で作り直し

「せっかくAIで作ったのに…」と嘆く担当者の姿、見覚えありませんか？

2. “もっともらしい数字”を信じた上司のミス😿

【ハルシネーション】

• AIは“もっともらしい数字”を生成しますが、正確とは限りません。

• 上司や担当者が前提情報や出典を与えないまま指示すると、信頼性の低い出力になる

• これは「AIが悪い」のではなく、「指示や条件設定が足りなかった」ことが原因

３．私が実際に遭遇した体験

現在、システム開発のPMOをしているのですが、業界動向を探ろうと思ってAIに聞いたときのこと・・・

出てきたのは、どうやら個人ブログをもとにしたらしきデータでした。
内容を見てみると、さすがにこれは業務で使えません（笑）。
個人ブログの情報を、まるで公式統計かのように提示してくるのには驚かされました💦

少し前にも、趣味であるNBAのルーキー選手についてスタッツを調べた際、似たことがありました🏀

今年のルーキー（たとえばクーパー・フラッグなど）のデータを出してきたのは良かったのですが、去年の選手のスタッツまで混じっていたんです。
「あれ、この選手は去年デビューだったよな…？」と違和感を覚えて確認し直すと、やはり年度がごちゃ混ぜ。

こうした体験から感じたのは、AIの数字やデータほど慎重に扱うべきということです。
一見正確そうに見える数字こそ、出典や時期を確認しないと簡単にミスリードされてしまう。

便利なツールだからこそ、最後に責任を持って見極めるのは人間側だと痛感しましたね

4. 生成AIに出す指示は「ざっくり」では通じない！

• その他の修正例：

  • 「出典付きで最新データを使うこと」

  • 「曖昧な情報は生成せず、分からない場合は未記入にする」

  • 「数字を提示する際は必ず一次情報のURLまたは書籍名を明記する」

5. まとめ

• AIに丸投げせず、前提や条件を明確に指示することが成功の鍵

• 「もっともらしい数字」に惑わされず、出典や根拠の確認は必須

• 次回以降も、日常業務で起こりがちなAI部下の失敗例を通して、使い方のコツを紹介します

次回予告：

「AIに任せた契約書要約、重要ポイントが抜けて大ピンチ！」

賢そうに見えるAI部下でも、文脈の“判断ミス”は日常茶飯事。
現場で起きがちな“AIの要約事故”をリアルに解き明かします。

この記事が
「なるほど」と思えたら、
スキをもらえると嬉しいです♪

関連記事はこちら！

#生成AI #ChatGPT #プロンプト #初心者向け #時短 #効率化 #仕事効率化 #勉強法 #AI活用 #プロンプト設計