RAGとは？社内文書検索AIを中小企業が導入する前に確認したい7項目【2026年版】
公開日：2026年7月19日／最終更新日：2026年7月19日
※製品の機能、料金、公開予定、生成AIの仕様は変わることがあります。本記事は執筆時点の公式発表を確認して作成しています。
結論：RAGは、社内文書を正しくする仕組みではない
RAGとは、質問に関係する社内文書などを検索し、その内容を生成AIへ渡して回答を作る仕組みです。
一般的な生成AIが知らない自社の規程、マニュアル、製品資料などを回答に使える点が期待されています。しかし、古い文書、矛盾した規程、誤った手順まで自動的に正してくれるわけではありません。
RAGは、正しい文書を見つけやすくする仕組みであり、文書の正しさを保証する仕組みではない。
この違いを理解せずに大量のファイルを登録すると、検索は速くなっても、社員が古い回答を信じる危険が残ります。
この記事では、2026年6月に発表された「GMO AI RAG」を入口に、RAGの基本、中小企業が導入前に確認すべき7項目、AIよろず室独自の「5つの門」、20問の精度テストを解説します。
この記事で分かること
RAGと通常の生成AI・ファイル検索の違い
自社にRAGが必要か判断する7項目
契約前に作れる20問テストと30日間の準備
2026年6月30日、「GMO AI RAG」Enterprise版が提供開始
GMOプライム・ストラテジーは2026年6月30日、法人向けRAGソフトウェア「GMO AI RAG」のEnterprise版を提供開始したと発表しました［1］。
公式発表では、次の特徴が案内されています。
社内のマニュアル、規程、議事録、提案資料などを回答に利用
クラウドに加え、オンプレミス・ローカル環境へ対応
SharePoint、Google Drive、Box、Windowsファイルサーバーなどとの連携
部門ごとの情報コレクション、アクセス権、使用LLM、トークン上限の管理
Microsoft Entra IDやGoogleログインとの統合
OpenAI、Anthropic、GoogleなどのLLMやローカルLLMを選択
MCPサーバー機能を通じたAIチャット・AIエージェントとの連携
一部の連携は有償オプションまたは開発中を含むと注記されています。Enterprise版にはクラウド・オンプレミスの参考料金が公開され、クラウドLLM利用料やハードウェアなどは別途です。OSS版は2026年秋頃の公開予定とされています。予定は変更される可能性があるため、導入時に最新情報を確認してください。
本記事は同製品を実際に検証したレビューではありません。発表内容の紹介と、製品を問わずRAGを検討するときの判断方法を分けて説明します。
RAGとは何か｜3つの工程で理解する
RAGは「Retrieval-Augmented Generation」の略で、日本語では検索拡張生成などと呼ばれます。2020年に発表された研究では、モデル内部の知識だけでなく、外部の情報を検索して生成に使う方法として示されました［2］。
社内文書検索へ使う場合、基本的な流れは次の三つです。
1. 探す
社員が「出張旅費の申請期限は？」と質問すると、システムが登録済み文書から関係しそうな箇所を探します。
2. 渡す
検索で見つけた規程やマニュアルの一部を、質問と一緒に生成AIへ渡します。
3. 答える
生成AIが、渡された文書を根拠に回答を作ります。製品によっては参照文書名やページも表示します。
通常のキーワード検索は、文書一覧を見つけた後に人が読みます。RAGは、関連箇所を探し、回答の形へ整理するところまで支援します。
ただし、「検索」と「生成」という二つの工程があるため、失敗も二種類あります。
正しい文書を検索できなかった
正しい文書を見つけたが、回答を誤って作った
回答が自然な日本語でも、正しい資料を使っているとは限りません。RAGの評価では、回答文だけでなく、どの資料を検索したかを確認する必要があります。
RAGでできること、できないこと
RAGが役立ちやすいこと
就業規則や社内手続きへの一次回答
製品マニュアルや仕様書の横断検索
過去の問い合わせ履歴から類似対応を探す
営業資料や提案事例の検索・要約
障害記録や保守手順から確認箇所を探す
新人が必要な文書へたどり着く補助
RAGだけでは解決しないこと
古い規程と新しい規程のどちらが正しいか決める
口頭でしか存在しない知識を自動で文書化する
閲覧権限の設計を会社に代わって決める
契約、法務、人事、安全に関する最終判断
元文書にない事実を正確に答える
誰が文書を更新するか決める
特に注意したいのは、文書の矛盾です。「旅費規程_最新版」「旅費規程_最新版2」「2024年改定案」が同じ場所にあれば、AI以前に人も迷います。
RAG導入の前には、ファイル数を増やすより、どれが正本か、誰が見てよいか、いつまで有効かを整理することが先です。
自社にRAGが必要か確認する7項目
次の質問へ「はい」が多いほど、RAGを検討する理由があります。
同じ質問が、総務・人事・情報システムなどへ繰り返し届く
答えは文書にあるが、保存場所やファイル名が分からない
マニュアル、規程、仕様書など、根拠となる文書が存在する
文書を探して読む時間を測れる
回答が正しいか確認できる業務責任者がいる
閲覧者によって見せる文書を分ける必要がある
文書と回答品質を継続的に見直す担当者を決められる
反対に、答えが担当者の頭の中にしかない、文書が更新されていない、最終確認者がいない場合は、RAG構築より先に業務の文書化が必要です。
また、文書が十数点で質問も月数回なら、既存ストレージの整理や通常検索で足りる可能性があります。RAGが高機能だから導入するのではなく、現在の問い合わせ件数、検索時間、誤案内、教育負担を測ってから判断します。
AIよろず室の「RAG導入前に通す5つの門」
AIよろず室では、社内文書検索AIを検討するとき、技術選定の前に次の五つを確認します。これは公的な規格ではなく、中小企業が運用の抜けを確認するための実務フレームです。
第1の門：正本
回答の根拠として使ってよい文書を決めます。
正式な文書名
所管部署と責任者
施行日・有効期限
現在の版番号
廃止済み文書
改定案と正式版の区別
同じテーマの文書が二つある場合、AIに選ばせるのではなく、業務責任者が優先順位を決めます。
第2の門：権限
「社内文書だから全社員が見てよい」とは限りません。
人事評価、給与、顧客契約、経営会議、障害記録などは、部署や役職によって閲覧範囲が異なります。検索結果だけでなく、生成された回答から機密情報が漏れない設計が必要です。
確認するのは、ログイン、部署・役割別の権限、退職・異動時の権限変更、共有リンク、ログ、管理者権限です。
第3の門：根拠
回答と一緒に、文書名、版、ページ、該当箇所を確認できるようにします。
「AIがそう答えた」ではなく、「2026年4月施行の旅費規程第8条を参照した」と人が確認できる状態です。重要な回答では、リンク先の原文を開いて照合します。
第4の門：不明
文書に答えがないとき、AIが推測せず「記載が見つからない」と答えられるかを試します。
正しい質問への正答率だけを測ると、もっともらしく間違える危険を見落とします。対象外の質問、曖昧な質問、矛盾する文書がある質問もテストに含めます。
第5の門：更新
RAGは導入日から古くなり始めます。
誰が新しい文書を登録するか
改定時に旧版をどう扱うか
いつテスト質問を再実行するか
誤回答を誰が受け付けるか
何をもって利用を止めるか
ツールの保守担当だけでなく、文書内容の責任者を決めます。情報システム担当者が、就業規則や製品仕様の正しさまで判断することはできません。
RAGの製品は比較できても、どの文書を正本にし、誰へ見せ、何を答えさせないかは自社で決める必要があります。AIよろず室の無料相談では、現在の文書と問い合わせ業務を伺い、RAGを検討する前に整理すべき対象を一つ確認します。
契約前に作る「20問テスト」
製品デモで用意された質問に正しく答えても、自社文書で使えるとは限りません。契約前に、自社の文書から質問と模範回答を作ります。
JUAS AI研究会のRAG×社内DX分科会では、架空企業の就業規則を題材に210問の質問と模範解答を用意し、単純な事実確認、情報統合・要約、判断・応用、曖昧・口語的な質問、文書にない質問などを含めて評価しました［3］。文書形式や検索方法によって結果が変わり、自動評価と人による評価の併用も重要だと報告しています。
中小企業の最初の比較では、210問まで用意する必要はありません。まず20問を、次の4種類で5問ずつ作ります。
A. 一つの文書で答えられる質問：5問
例として、経費精算の文書を対象にします。
申請期限はいつか
必要な証憑は何か
申請先は誰か
使用する申請書はどれか
原本の保存期間はどう定められているか
B. 複数箇所を確認する質問：5問
出張で交通費と宿泊費を同時に申請する手順は何か
法人カードを使った場合、通常申請と何が違うか
上限を超える場合、誰の事前承認が必要か
国内出張と海外出張で必要書類はどう違うか
申請者と承認者が同一になる場合はどうするか
C. 曖昧・口語的な質問：5問
領収書をなくした。どうすればいい
電車が止まってタクシーを使ったけど出る？
出張前に何か申請するの？
立て替えたお金はいつ戻る？
前の月の申請を忘れていた
社員は規程と同じ用語で質問するとは限りません。日常的な言い方でも、正しい根拠へたどり着けるかを確認します。
D. 文書に答えがない質問：5問
取引先の旅費規程ではいくら支給されるか
来年度、宿泊費の上限はいくらに変わるか
上司が口頭で認めた場合は必ず精算できるか
規程にない特別な事情なら、いくらでも申請できるか
他社ではどの申請方法が一般的か
これらに、もっともらしい答えを作らないことも品質です。「登録文書では確認できません。経理担当へ相談してください」と、適切な出口へ案内できるかを確認します。
各質問には、次を記録します。
模範回答
根拠文書名・版・ページ・条項
回答してよい対象者
AIが答えず人へ回す条件
実際の回答
検索された文書
人の判定と修正内容
精度は「正解した割合」だけで測らない
最初の検証では、次の五つを分けて記録します。
検索成功：必要な文書・箇所を見つけたか
回答一致：模範回答と重要な意味が一致したか
根拠一致：表示した出典が本当に回答を支えているか
回答不能：文書にない質問へ推測せず対応できたか
実務完了：利用者が次に何をすればよいか分かったか
検索は正しいのに回答が誤る場合と、検索自体が失敗する場合では、直す場所が違います。また、自動評価の点数が高くても、人が読むと使いにくい回答があります。
重要な業務では、AIによる自動採点だけで導入を決めず、業務責任者が原文と照合してください。
RAG導入前の30日間
1週目：一つの問い合わせ領域に絞る
全社文書ではなく、経費精算、ITアカウント申請、製品仕様など、一つを選びます。問い合わせ件数、回答時間、誤案内、担当者の負担を記録します。
2週目：正本と権限を整理する
対象文書を集め、最新版、旧版、改定案、重複を分けます。文書責任者、閲覧者、更新条件を決めます。
3週目：20問と模範回答を作る
実際によく聞かれる質問を中心に、単純、複数文書、曖昧、回答不能を5問ずつ作ります。模範回答はAI任せにせず、業務責任者が確定します。
4週目：同じ20問で比較する
候補製品や小規模な検証環境へ同じ文書と質問を使います。回答、根拠、権限、回答不能、操作時間を確認します。
30日後に決めるのは、いきなり全社導入するかではありません。
現在のストレージ整理で足りる
小規模なRAG検証へ進む
文書整備を先に続ける
対象業務を変更する
現時点では導入しない
「導入しない」も、測定に基づく正しい判断です。
製品・支援会社へ確認したい10の質問
登録した文書と質問は、どこに保存されますか
入力データはモデルの学習やサービス改善に使われますか
部署・役職・文書単位で閲覧権限を設定できますか
回答に文書名、版、ページ、該当箇所を表示できますか
文書に答えがない場合、推測を抑える設定がありますか
旧版の削除、差し替え、同期は誰がどの頻度で行いますか
SharePointやGoogle Driveなど、現在の保存先とどう連携しますか
利用ログ、誤回答、検索失敗を確認できますか
初期費用のほか、LLM、クラウド、保守、追加開発に何がかかりますか
契約終了時に、文書、設定、評価質問、ログをどう引き継げますか
GMO AI RAGに限らず、RAG製品の名称や料金だけで比較せず、自社の20問で試せるかを確認してください。
小さく始めやすい対象・慎重に扱う対象
小さく始めやすい対象
社内ITの申請方法
公開済み製品マニュアル
備品・会議室・社内設備の利用方法
一般的な経費精算手順
新人向けの社内用語・手続き案内
正本が明確で、回答を人が確認でき、間違えた場合の影響を限定しやすい領域から始めます。
慎重に扱う対象
人事評価、給与、懲戒、採用判断
個別契約の法的解釈
医療、安全、品質保証に関する判断
未公開の経営情報
顧客ごとの機密契約や個人情報
AIの回答から外部処理を自動実行する業務
検索結果を一次確認に使えても、最終判断や外部実行まで自動化してよいとは限りません。必要に応じて法務、セキュリティ、業界の専門家へ相談します。
よくある質問
Q. PDFやWordをChatGPTへ添付することと、RAGは同じですか？
似た体験になることはありますが、運用規模が違います。少数のファイルを一時的に質問するだけなら、法人向け生成AIのファイル機能で足りる場合があります。RAGは、多数の文書の継続的な登録、検索、権限、更新、利用ログなどを含む仕組みとして検討されます。
Q. RAGならハルシネーションはなくなりますか？
なくなるとは言えません。必要な文書を検索できない、文脈を取り違える、元文書にない内容を補う可能性があります。根拠表示、回答不能テスト、人の確認が必要です。
Q. 文書はPDFとWordのどちらがよいですか？
製品の解析方法や文書構造によって変わるため、一律には決められません。JUASの特定の就業規則を使った検証では文書形式による差が確認されましたが、単一領域の結果であり、一般化できないと報告されています。自社文書と同じ質問で比較してください。
Q. OSS版なら無料で導入できますか？
ソフトウェア利用料が無料でも、環境構築、サーバー、LLM、認証、保守、更新、問い合わせ対応の工数がかかります。ライセンス条件も確認が必要です。「無料」と「運用費ゼロ」は同じではありません。
Q. AIよろず室ではRAGを構築できますか？
文書・業務の診断、対象選定、20問テスト、利用ルール、小規模な検証設計、軽微な実装は内容に応じて支援できます。外部ストレージ連携、複数部門、大規模なRAG基盤、高度なセキュリティ要件は個別確認・見積りまたは専門事業者との連携が必要です。月額39,800円の伴走プランは入口であり、課題や希望に応じた他の支援もご案内しています。
まとめ
RAGは、質問に関係する社内文書を検索し、生成AIの回答へ使う仕組み
古い文書、矛盾、権限、更新責任まで自動で正しくなるわけではない
導入前に「正本・権限・根拠・不明・更新」の5つの門を確認する
契約前に自社文書から20問を作り、正答だけでなく、根拠と回答不能を試す
最初から全社文書を入れず、一つの問い合わせ領域で30日間準備する
「社内文書をAIで検索したいが、RAGが必要なのか、既存ツールで足りるのか分からない」という場合は、AIよろず室の30分の無料相談で、現在の文書、問い合わせ件数、利用環境を伺い、最初に整理する対象を一つ確認します。相談後に契約する必要はありません。
この記事を書いた人
AIよろず室。中小企業を対象に、業務診断、AI活用ロードマップ、軽微な実装、社内定着までを支援しています。
参考資料
［1］GMOインターネットグループ「“社内のことは答えてくれないAI”を解決――法人向けRAG『GMO AI RAG』提供開始」（2026年6月30日）
https://group.gmo/news/article/10081/
［2］Patrick Lewisほか「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」（NeurIPS 2020）
https://arxiv.org/abs/2005.11401
［3］一般社団法人 日本情報システム・ユーザー協会「2025年度Jフェス成果報告」RAG×社内DX分科会
https://juas.or.jp/cms/media/2026/04/K-7_ai_ver1.pdf
#RAG #生成AI #ChatGPT #社内検索 #社内文書 #ナレッジ管理 #AI活用 #AI導入 #中小企業 #中小企業経営 #DX #DX推進 #業務効率化 #業務改善 #社内FAQ #生成AI活用 #AI担当者 #情報システム #総務 #人事 #経営企画 #マニュアル #文書管理 #情報セキュリティ #AIガバナンス #ハルシネーション #MCP #ローカルLLM #GMOAIRAG #AIニュース
