【創作大賞2026お仕事小説部門応募作】かなめ、DXしちゃいます。- 第5話「AI、裏切る。」
黒川部長との面談から1週間。
DX推進課は、静かに戦闘態勢に入っていた。
早乙女くんは各部署へのハンズオン会の根回しを始めた。
営業部、経理部、総務部。
「お菓子あります、30分で終わります」という魔法の文句を武器に、アポを取りまくっていた。
コミュ力だけは誰にも負けない、は本当だったらしい。
松川さんは社内の顔が広い人を紹介してくれ始めた。「この人に話を通しておくと、部署全体が動くよ」という、3年間で培った社内地図を惜しみなく開示してくれた。松川さんなりの、本気の出し方だった。
毛利さんは……何かを調べていた。詳細は教えてくれなかったが、毎朝「調査中です」とTeamsで報告が来た。
毛利：今日も調査中です。
「何を調べてるんですか」
毛利：まだ言えません。固まったら報告します。
「毛利さんって、こういうキャラでしたっけ」
毛利：松尾さんが「考えがある」と言っていたので、私も同じスタンスで。
真似しなくていいんだけど。
そして、かなめはかなめで、新しい挑戦を始めていた。
特許調査のAI化だ。
きっかけは、高橋くんとの会話だった。
ハンズオン会のフォローで研究開発部を訪ねたとき、高橋くんがぼやいた。
「松尾さん、特許調査って、めちゃくちゃ時間かかるんですよ。競合他社の特許を調べて、自分たちの研究と被ってないか確認して、トレンドを把握して。週に1回、半日つぶれます」
「半日」
「多いときは1日。しかも、調べてもよくわからないことも多くて。弁理士さんに聞くほどでもないし、でも自分たちだけじゃ限界があるし」
かなめには、覚えがあった。研究開発部にいたころ、特許調査は自分もやっていた。膨大な文書を読んで、関係ありそうなものを拾って、整理して。確かに、時間がかかる。
これ、生成AIで効率化できるんじゃないか。
かなめはその日の夜から、動き始めた。
生成AIを使った特許調査は、最初、順調に見えた。
AIに特許の要約を作らせる。類似特許を探させる。技術トレンドを分析させる。やってみると、驚くほど速く、それらしい結果が出てきた。
「これ、いけるかも」
かなめは興奮した。半日かかっていた調査が、30分で終わる。しかも、整理された形で。
翌週、DX推進課の定例会議でかなめは提案した。
「生成AIを使った特許調査支援ツールを、研究開発部向けに展開したいです。来週の進捗報告会で、デモをやらせてください」
権藤課長が「よっしゃやろう！」と言った。
松川さんが「大丈夫？」と言った。
早乙女くんが「かっこいいっすね、AI活用」と言った。
毛利：特許調査の効率化は、研究開発部の課題として以前からヒアリングに挙がっていました。ニーズはあると思います。
全員の反応が悪くない。かなめは準備を進めた。
進捗報告会の前日、夜の9時。
かなめはデモ用の資料を仕上げながら、最終確認をしていた。
AIが出力した特許リストを、1件ずつ確認していく。念のため、本物の特許データベースと照合してみる。
最初の1件。問題なし。
2件目。問題なし。
3件目。
かなめの手が止まった。
AIが出力した特許番号を、データベースで検索した。
ヒットしない。
……存在しない？
もう1度打ち込んだ。ヒットしない。
かなめは冷や汗が出るのを感じながら、次の件を確認した。
4件目。存在しない。
5件目。存在しない。
6件目。存在した。でも、内容がAIの要約と全然違う。
かなめはリストを最初から全部確認した。20件のうち、完全に正確だったのは7件だけだった。残りの13件は、存在しない特許番号か、内容が全く違うものか、どちらかだった。
「……嘘じゃないか」
誰もいない会議室で、かなめは呟いた。
AIは嘘をついた。しかも、堂々と。自信満々に。整然とした形式で。一見、本物そのものに見える形で。
これは、ツールの不具合じゃない。AIが持つ、根本的な特性だ。
存在しないものを、さも存在するかのように出力する。しかも、間違っているときほど自信満々に。研究者の世界では「ハルシネーション」と呼ばれている現象だ。知識としては知っていた。でも、こんなに堂々と、こんなに自然に、こんなに大量に起きるとは思っていなかった。
明日、これをデモしていたら。
ぞっとした。
研究開発部の前で、存在しない特許を「こういう競合特許があります」と紹介していた。それが、現実になるところだった。
かなめはTeamsを開いた。夜の10時を過ぎていた。
毛利さん、起きてますか。
30秒後に返信が来た。
毛利：起きています。どうしましたか。
AIが、特許を20件出力したんですけど、13件が嘘でした。
毛利：嘘、というのは。
存在しない特許番号とか、内容が全然違うやつとか。明日デモがあります。
毛利：……それは大変ですね。
毛利：今から一緒に確認します。リストを共有してください。
「毛利さん、夜なのに」
毛利：解体されたくないので。
毛利：それと、これは私も気になっていた問題です。AIの出力を鵜呑みにすることへの危うさは、前から思っていました。
かなめはリストを共有した。
そこから先は、毛利さんとの深夜の作業だった。1件ずつ、データベースで確認する。正しいものだけを残す。間違っているものは削除する。
作業しながら、毛利さんとTeamsでやり取りした。
毛利：これ、AIが「それらしい」特許番号を作り出しているんですね。ハルシネーションというやつです。
「知ってはいたんですけど、こんなに堂々と嘘をつくとは思いませんでした」
毛利：自信満々なのが、一番怖いですよね。間違っているときほど、はっきり答える気がします。
「なんで間違ってるときほど自信満々なんですか、AI」
毛利：人間も同じかもしれませんが。
確かに。
毛利：ちなみに松尾さん、今日の調査の途中で気になることがあって。
「なんですか」
毛利：黒川部長がデジタルを使わない理由、少し調べていました。
かなめは手を止めた。
「どんな理由ですか」
毛利：管理本部の方から聞いた話なので、確認はとれていないんですが。
毛利：黒川部長は、デジタルが嫌いなわけじゃないらしいです。
「え、そうなんですか」
毛利：デジタルで処理されたものが、正しいかどうか、自分で検証できないことが嫌いなんだと思います。特に経費処理は、1円でも間違えたら大問題なので。自分の目で確認できないものは、信用しない、という考えらしいです。
かなめは少し黙った。
「……それ、正しい考え方ですよね」
毛利：私もそう思います。今日のハルシネーションの件を見ても、デジタルを盲目的に信用するのは危険だと改めて感じました。
かなめはメモ帳に書き留めた。
「黒川部長はデジタルが嫌いなのではなく、検証できないものを信用しない」
なるほど。それなら、話は変わってくる。
何かが、かなめの頭の中でつながりかけた。でもまだ、形にはなっていない。
毛利：松尾さん、今何かひらめきましたか。
「……まだ、仮説にもなってないです」
毛利：いつか教えてください。楽しみにしています。
毛利：資料の修正、手伝います。今夜中に仕上げましょう。
午前1時。全件の確認が終わった。
正確な特許は7件だった。デモで使える数字ではない。
かなめは深呼吸をした。
内容を変えることにした。AIで特許調査をやった結果、課題が見えました、という話にする。成功事例じゃなくて、失敗から学んだ話として。
毛利：それ、正直でいいと思います。
毛利：DX推進課が3年間やってきたことと、同じ姿勢ですね。失敗を隠さない。
かなめは少し笑った。
そうか、私も同じことをやりかけていたんだ。
ツールを過信して、確認をおろそかにして、使う人のことを後回しにする。AIを使えばなんでもできると思って、出力を鵜呑みにした。Salesforceを入れれば解決すると思っていた3年前の失敗と、構造が同じだった。
でも今日、もう1つ、大事なことを学んだ。
ハルシネーションは、なくならない。AIの根本的な特性だ。でも、ハルシネーションが起きないように設計することは、できるかもしれない。少なくとも、起きたときにすぐ検知できる仕組みは、作れるはずだ。
特に、数字が絡む処理では。計算が絡む処理では。
黒川部長が心配しているのは、まさにそこだ。
かなめはメモ帳に書き足した。
「ハルシネーションは防げないかもしれない。でも、検証できる設計にすることはできる。」
まだ、アイデアの欠片だ。でも、何かが動き始めた気がした。
翌日、進捗報告会。
かなめは修正した資料を前に、研究開発部のメンバーたちを見渡した。
「昨日まで、AIを使った特許調査の成功事例をお見せするつもりでした。でも、前日の確認で問題が見つかったので、内容を変えました」
会議室が静まり返った。
「AIは、存在しない特許番号を、自信満々に出力しました。20件中13件が、間違いでした」
高橋くんが「え」と声を上げた。
「これは、ハルシネーションと呼ばれるAIの特性です。AIは、知らないことを『知らない』と言わずに、それらしい答えを作り出します。しかも、間違っているときほど自信満々に」
かなめはスライドを1枚めくった。
「AIは、使い方を間違えると、自信満々に嘘をつく」
「ただ、このことで、AIとの正しい付き合い方がわかりました。AIは優秀なアシスタントですが、最終確認は必ず人間がやる必要があります。特に、数字が絡む処理や、事実の正確性が求められる処理では」
高橋くんが手を挙げた。
「松尾さん、前日に気づいたんですよね。それで、夜中に作り直したんですか」
「はい。毛利さんに手伝ってもらいました」
「……正直に言ってくれてよかったです。AIを信じ切って、間違った特許情報で研究を進めていたら、大変なことになってました」
かなめは頷いた。
「失敗を隠すより、失敗から学んだほうが、みなさんの役に立てると思ったので。今後、ハルシネーションが起きにくい設計と、検証できる仕組みを作ります。それが完成したら、また報告します」
会議室の空気が、少し柔らかくなった気がした。
報告会の帰り、権藤課長がかなめに言った。
「松尾さん、昨日気づいてよかったね。あのままデモしてたら、信頼ゼロになってたよ」
「毛利さんが手伝ってくれました。それと、課長」
「なに」
「毛利さんが、黒川部長のことを少し調べてくれていました」
権藤課長が立ち止まった。「どんなことを」
「デジタルが嫌いなんじゃなくて、検証できないものを信用しない、という人らしいです。特に経費処理で、数字が間違えることを極端に嫌う」
権藤課長がしばらく考えてから言った。「……それ、聞いてなかったな」
「私も知りませんでした」
「で、それが何かに繋がるの？」
かなめは少し間を置いた。
「まだ、仮説にもなってないです」
「また、そのパターンか」
「3ヶ月あるので」
権藤課長がため息をついた。でも、笑っていた。
Teamsから通知が来た。
毛利：報告会、うまくいったようで、よかったです。
毛利：ハルシネーションの件、私も今後の課題として引き続き調べます。検証できる設計、ヒントがあれば共有します。
「毛利さん、ありがとうございます」
毛利：お互い様です。あと、観葉植物、水やりましたか。
「朝にやりました」
毛利：ありがとうございます。
かなめはメモ帳を閉じた。
ハルシネーション。検証できない怖さ。数字の正確性。黒川部長の考え方。
まだバラバラな欠片だ。でも、何かが繋がろうとしている。
もう少し、考えよう。
私、DXしちゃいます。
嘘はつかずに。ちゃんと検証して。
第6話へつづく👇
第1話はこちらから👇
