RAGとは？生成AIが社内のことに使えない理由と"隠れた司書"
生成AIに社内のことを聞いたら、堂々とデタラメを返された——。 そんな経験、ありませんか。私はあります😅
ChatGPTもClaudeも、一般的な質問には驚くほど賢く答えます。なのに「うちの製品の過去データは？」と聞いた瞬間、急にポンコツになる。存在しない製品名で、それっぽい数値を並べて、自信たっぷりに嘘をつく。
これは、AIが頭が悪いからではありません。 そして、その理由を掘っていくと、「AIを導入したのに使えない」という職場あるあるの、本当の正体が見えてきます。鍵は RAG（検索拡張生成） と、"隠れた司書" という考え方です。
生成AIが社内の質問に答えられないのは、なぜか
図書館の司書は、本の中身を全部暗記しているわけではありません。目録という仕組みをたどれるから、何万冊から目的の本を案内できる。
生成AIが社内のことに弱いのは、この目録と蔵書を持っていないからです。AIが学習したのは、ネット上の一般知識まで。あなたの会社の実験データも、議事録も、先輩のノウハウも、一行も読んでいません。だから「知らないこと」を、知っているフリで埋める。これがハルシネーション（もっともらしい嘘）の正体です。
ここで登場するのが RAG です。やることはシンプル。AIに答えさせる前に、まず社内の記録を検索させ、関連文書を読ませてから答えさせる。**「答える前に、資料を調べさせる」**仕組みです。
つまりRAGは、生成AIに司書の役割を与える技術。私が「記憶と記録」シリーズの第四章で書いた「生成AIが司書になる日」とは、このことでした。
今まで"司書"をやっていたのは、ベテラン社員だった
ただ、今回引っかかったのはその先です。 「AIが司書になる」なら、今まで司書をやっていた誰かがいたはずです。
新人の頃、私はわからないことがあると、いつも同じ先輩に聞いていました。「あのデータどこですか」と尋ねると、命名もバラバラな共有フォルダから、数分で引き当ててくれる。ファイル名は「最終版_2」みたいな代物なのに、です。
なぜ先輩にできたのか。答えは単純で、先輩の頭の中に目録があったからです。「あれは田中さんが3年前に作ったやつだから、この奥にある」——記録に残っていない文脈を、先輩は記憶で補っていた。
つまり、私たちの職場が回ってきたのは、記録がちゃんとしていたからではありません。記録の欠陥を、ベテランという"隠れた司書"が、記憶でこっそり補正していたからです。
AIは、ベテランの"脳内補正"をしてくれない
これは、見方を変えると怖い話です。
記録が雑でも回るということは、その雑さが、ベテランの暗黙知で毎日タダで穴埋めされていた、ということ。先輩が「これはあの件のデータだね」と一言補うたび、文脈のないファイルが、意味のあるファイルに変換されていた。組織はそれを、無意識に先輩に背負わせ続けていました。
だから、記録の質の悪さは、コストとして見えなかった。優秀な司書が、見えないところで払い続けていたからです。
そして、ここが今日いちばんの要点です。 生成AIという司書は、この補正をしてくれません。
AIには、先輩の「あの件の」「3年前の」という暗黙知が、最初から無いからです。AIが読めるのは、目の前の記録だけ。文脈のないExcelを渡せば、文脈のないまま読み、文脈のないまま間違える。先輩なら勝手に補った行間を、AIは一文字も補いません。
「AIを入れたのに、社内のことになると使えない」の正体は、これです。AIが馬鹿なのではない。ベテランの"隠れた補正"が剥がれて、記録の素の質が、初めてむき出しになっただけなんです。
AIが行間を読まないのは、欠点ではなく要求だった
「じゃあAIにも行間を読めるようになってほしい」と思うかもしれません。でも私は、逆だと考えています。
人間相手のとき、私たちは平気で省略します。「いつものやつ」「例の条件で」。これが通じるのは、相手が暗黙知を共有するベテランだから。でもその省略こそが、知識を属人化させ、「あの人がいないと回らない」を生んできました。
AIという読み手は、省略を許しません。「いつものやつ」では検索できない。だから私たちは、「いつもの、とは何か」を書かざるを得なくなる。AIが行間を読まないせいで、行間を埋めることを強制される。
面倒です。でもこの面倒さは、今まで人の記憶に押し付けていた負担を、記録という正しい場所へ戻す作業です。AIは、できの悪い司書ではなく、記録のいい加減さを正直に映す鏡なんです。
司書をAIに任せたら、人間は"編集者"になる
少し寂しく感じるかもしれません。先輩の職人技が、AIに置き換わるのか、と。
でも、そうではありません。 探して案内する仕事をAIに渡したとき、人間の手元に残るのは、もっと上の仕事です。何を記録に残す価値があるか。なぜそう判断したのかを、未来に向けて言葉にすること。
これは、ベテランの記憶にあった知恵の核そのものです。AIは探せても、何が重要かは決められません。重要さは、現場の文脈からしか生まれないからです。司書の仕事をAIに明け渡すことで、人間はむしろ、蔵書を選び意味を与える**"編集者"**へと押し上げられる。
探すのはAI、何を残すかを決めるのは人間。この線引きに気づいて、私はやっと「AIに仕事を奪われる」という不安から、少し自由になれました。
もう一つの逆転──司書は入れ替わり、記録は残る
最後に、見落とされがちな逆転を一つ。
シリーズ第五章では「司書が変わっても、目録があれば図書館は続く」と書きました。AIの時代、これが反転します。司書（AI）のほうが、蔵書（記録）より先に、何度も入れ替わるんです。
AIモデルは1〜2年で世代交代します。今日のツールが3年後も同じ形である保証はない。一方、今日残す実験記録は、10年後も使われているかもしれません。
だとすれば、特定のAIツールに最適化した記録は賢くない。大事なのは、どんな司書が来ても読める、素直で文脈の通った記録です。司書は変わる前提で、蔵書を長生きさせる。流行のツールを追うより、ずっと地味で本質的な投資だと思います。
今日からできる、3つのこと
考察を行動に落とします。やることは3つです。
① 「ベテランの脳内補正」を疑う 今うまく回っている業務ほど危ない。記録が良いのではなく、誰かの記憶が埋めているだけかもしれません。「この人が抜けたら困る」場所こそ、記録を明示化すべき場所です。
② 未来の読み手を"AI"だと思って書く 「いつものやつ」を「○○条件で取った××データ」と書く。行間を埋める一手間が、属人性を剥がします。読み手をベテランからAIに切り替えるだけで、書き方は変わります。
③ 小さく、自分でRAGを触る これがいちばん効きます。自分のメモをAIに読ませて答えさせると、「記録の質が、そのままAIの賢さになる」ことが体でわかります。今は個人のPCだけで、無料で試せます。
こんなサービスもあります──"聞き出す"側のAI
ここまで「記録を、AIが読める形で残そう」という話をしてきました。でも、現場で必ずぶつかる壁があります。ベテランは、自分から記録を書いてくれないんです。忙しいし、何が貴重な知識なのか本人は気づいていないことも多い。書く文化のない現場で「明示化しましょう」と言っても、なかなか進みません。
この壁に、まったく逆のアプローチで挑んでいるサービスを見つけて、なるほどと思いました。製造業向けの生成AIに特化したスタートアップ、エムニの 「AIインタビュアー」 です。
発想がおもしろいんです。人間が頑張って書くのではなく、AIがベテランに"聞き出す"。熟練者はAIと雑談するように話すだけ。AIが背景や理由まで自動で深掘りして質問し、語られた内容を言語化・構造化して、組織の知識として蓄積していきます。溜まった知恵は、後からチャットボットで誰でも引き出せる。まさに、この記事で言ってきた「AIが司書になる」を、知識を集める入口から実装しているわけです。
特に唸ったのは、開発の中で得られたという気づきでした。「何もないところから暗黙知は出てこない。マニュアルがあって、その行間に暗黙知がある。そこを突くと、ベテランも自分だけの知識を話せる」。この記事で書いた「行間こそが暗黙知だ」という話と、現場の実感がぴたりと重なっていて、私はひとり画面の前で頷いてしまいました。
人が書くのを待つのではなく、AIが引き出しにいく。技能伝承や熟練者の退職に悩む現場には、特に効く考え方だと思います（これはアフィリエイトではなく、純粋に「いいな」と思った紹介です😊）。
▶ AIインタビュアー：
学びを深めたい人へ
実際に役立ったものを紹介します。
📖 思想を深める：『知識創造企業（新装版）』
野中郁次郎・竹内弘高 著（東洋経済新報社・2020年）。第五章で触れたSECIモデルの原典。ベテランの暗黙知が、なぜ記録に移しにくいのか。その理論的な背骨がここにあります。
こんな人におすすめ：知識継承を「思想」から考えたい方、マネジメント層の方。
📖 手を動かす：『LangChainとLangGraphによるRAG・AIエージェント[実践]入門』
西見公宏・吉田真吾・大嶋勇樹 著（技術評論社・2024年）
RAGとAIエージェントを、Pythonで書きながら作れる定番の実践書。「司書を自分で組む」感覚が、いちばん解像度高くわかります。
こんな人におすすめ：Pythonの基礎があり、実際にRAGを組みたい研究者・エンジニアの方。
🎥 動画で雰囲気を掴む：
Udemy「LangChain入門：PythonによるAIアプリ開発」
書籍はハードルが高いという方へ。基礎を手を動かして学べます（2025年9月にAzure OpenAI活用セクションを追加）。
🎥 自分の司書を作る：
Udemy「ローカルLLMでRAGチャットアプリを作ろう」
クラウドに頼らず、自分のPCだけでRAGチャットボットを作る初心者向け講座。社外にデータを出せない研究現場と相性がよく、上の「③小さく触る」にぴったりです。
こんな人におすすめ：機密データをクラウドに上げられない方、まず無料で試したい方。
まとめ
あの先輩も、いつか定年でいなくなります。そのとき、頭の中の目録も一緒に消える。これまでは別のベテランが引き継いでしのいできました。
でも、引き継ぐ相手がAIになる時代が来ています。AIは勘で補ってはくれません。だからこそ、補正に頼らない記録を、今のうちに残しておく必要がある。
それは未来のAIのためであり、同時に、先輩の知恵を、先輩がいなくなっても消さないための作業でもあります。
「いつものやつ」を、ちゃんと言葉にする。 今日のその一手間が、隠れた司書がいなくなった後の職場を、静かに支えてくれます。
最後まで読んでくださって、ありがとうございました😊 あなたの職場の"隠れた司書"は、誰でしょうか。
