もう嘘はつかない?! - チャットボットを賢くするRAGの仕組み

2025年4月23日 13:16

2023年、世界中で大きな話題になったChatGPT。
AIが「人間みたいに会話する！」と、連日メディアでも取り上げられて大ブームになりましたね。この年は「生成AI元年」とも呼ばれ、さまざまな企業やサービスに生成AIが取り入れられ始めました。

でもその一方で、「生成AIって、よく嘘をつくらしい・・・」とも言われました。そう、ChatGPTのような生成AIは、ときどき自信満々に間違った回答をすることがあります。これを「ハルシネーション（幻覚）」と呼びます。

そんな弱点を補うために登場したのが、「RAG（ラグ）」という技術です。

たとえば、ECサイトのチャットボットが、「商品の在庫はある？」とか「送料はいくら？」といったお客さんからの質問に、間違った答えを返すと困ってしまいますよね。そこで、チャットボットが生成AIで回答する際にはRAGを組み合わせることで、より正確で信頼できる答えを出せるようになります。

今回は、RAGを使ったチャットボットの仕組みを簡単に解説します！

RAGってなに？

RAGとは「Retrieval-Augmented Generation（検索拡張生成）」の略。と言われてもピンとこないですね。
ざっくり言うと、つぎの2つのステップを踏む仕組みです。

Step1 質問に関連する情報を探し出す（Retrieval：検索）
Step2 探し出した情報をもとに新しい文章を作り出す（Generation：生成）

もっと簡単に言い換えると、こうなります。

AIが回答する前に、ちゃんと調べてから答えてくれるしくみ

たとえば、図書館で関連する資料を調べてから、レポートを書くようなイメージですね。実際にどんな流れでRAGが動いているのか、図にしてみました。

ChatGPTのような言語生成AIは、たくさんの文章を読んで学習し、大量の知識がありますが、3つの大きな弱点があります。RAGはそんな弱点を補って、より信頼性の高いチャットボットを実現します。どんな弱点をどう補うのか、見てみましょう！

普通のChatGPTは、広く一般的な知識は得意ですが、専門性が高い分野の知識や、企業が一般に公開していない情報は持っていません。そこでRAGを使えば、指定したデータを検索して、適切な情報をベースに回答をすることができます。

たとえば、「A社の商品B」の細かい仕様やトラブル対処方法といった、特定の情報源から探さないと分からない質問にも対応できるようになります。企業が用意したマニュアルや専門資料を参照しながら答えることができるので、「その会社の方針に沿った答え」が返ってくる、というわけです。

通常のChatGPTは、学習した時点よりも後の新しい出来事については、残念ながら知識がありません。でも、RAGがあれば、質問されたタイミングで最新の情報をインターネットなどから探し出すことができるんです。
※実際には企業や開発者が指定した信頼できる情報源を参照

たとえば、「昨日の大谷君のホームラン、大きかったなあ！」「そうやなあ。うちのサトテルもすごかったで！」といった最新の話題をChatGPTは学習していませんが、RAGでネットニュースやSNSの投稿などを調べると、答えてくれるようになるんです。

※うちのサトテル = 阪神タイガースの佐藤輝明選手
この部分は、ご自分の応援球団・選手名に置き換えてイメージしてください。そしてどなたに置き換えたか教えていただけると嬉しいです（笑）

「ハルシネーション」というのは、AIが間違った情報を自信満々に答えてしまうこと。企業のサイトで、チャットボットがお客さんに誤った回答をしてしまったら困りますよね。

普通のChatGPTは、幅広いジャンルの膨大な量の情報を持っていて、その中から情報を選び出します。間違った情報を選んでしまうと嘘の回答を作ってしまうんです。

RAG機能があれば、AIが参照する情報を指定できます。質問のたびに根拠となる正確な情報を探してきて、その情報に基づいて答えを生成するので、チャットボットが嘘をついてしまうリスクをグッと減らすことができるんです。より信頼できるチャットボットになります。

ハルシネーションについてはこちらの記事をご参照ください。

RAGは、ChatGPTのような生成AIの弱点を補ってくれる機能です。企業のチャットボットなど、正確さが大事な場面で特に活用されています。AIは万能ではありませんが、RAGのような技術を組み合わせることで、より正確で安心して使えるチャットボットが実現していきます。

チャットボットが、「なんでも答えるスタッフ」ではなく、「ちゃんと調べて回答してくれるスタッフ」になると、ますます便利になりますね。

ネットショップだけでなく、銀行、市役所などなど、さまざまなサイトでチャットボットが活用されています。見掛けたらぜひ話しかけてみてください！