RAG 之 Prompt 动态选择的三种方式

“如果我有5个prompt模板，我想只选择一个每次都自动五选一能做到吗怎么做？”

完全可以做到。这在复杂的RAG或Agentic工作流中是一个非常普遍且关键的需求，通常被称为“条件路由（Conditional Routing）”或“动态调度（Dynamic Dispatching）”。其核心思想是系统需要根据输入的上下文（Query）或其他中间状态，智能地判断哪一个Prompt模板最适合用于生成最终答案。这远比硬编码一个通用模板要强大，能显著提升LLM在特定任务上的表现。

下面我将详细阐述三种由浅入深、复杂度递增的实现方法，并结合您的技术栈（FastAPI, Python）进行说明。

方法一：基于元数据/规则的路由 (Metadata/Rule-based Routing)

这是最简单、最直接、可解释性最强的方法。它依赖于对输入数据或用户交互的结构化理解。

• 工作原理：
  您首先需要为您的五个Prompt模板定义清晰的“适用场景”。这些场景可以被编码为一组规则或元数据。例如，假设您的五个模板分别用于：

  1. 产品功能咨询 (Product Feature Inquiry): 当用户问题明显关于某个具体产品的功能时。

  2. 价格与套餐对比 (Pricing & Plan Comparison): 当用户问题包含“价格”、“费用”、“订阅”、“套餐”等关键词时。

  3. 技术集成问题 (Technical Integration Issue): 当用户问题涉及API、SDK、代码、集成等技术术语时。

  4. 竞品分析 (Competitive Analysis): 当用户提到竞争对手的名字时。

  5. 通用/兜底模板 (General/Fallback Template): 当以上所有情况都不匹配时。

  您的FastAPI后端在接收到前端传来的请求（包含用户问卷回答和个人信息）后，会先通过一个“路由模块”来分析这个请求。这个模块会执行一系列if-elif-else逻辑判断。

• 在您的架构中如何实现：

  1. 定义请求模型： 在您的api/models.py中，使用Pydantic模型来结构化前端的请求。这不仅仅是为了数据验证，更是为了路由。

     Generated python  生成的 python

           # api/models.py
     from pydantic import BaseModel, Field
     from typing import List, Literal
     
     class UserProfile(BaseModel):
         industry: str = Field(..., description="用户所在行业")
         company_size: int = Field(..., description="公司规模")
     
     class QuestionnaireAnswers(BaseModel):
         # 假设问卷中有明确的问题类型
         query_type: Literal['feature', 'pricing', 'integration', 'comparison'] = Field(..., description="用户查询的核心类别")
         keywords: List[str] = Field(default_factory=list, description="从用户回答中提取的关键词")
         full_text: str
     
     class EnhanceRequest(BaseModel):
         user_profile: UserProfile
         answers: QuestionnaireAnswers
         

  2. 实现路由逻辑： 在您的rag_pipeline.py或一个专门的router.py中，创建一个函数来选择模板。

     Generated python  生成的 python

           # rag_pipeline/router.py
     PROMPT_TEMPLATES = {
         "feature": "这是产品功能模板: {context} \n\n 用户问题: {question}",
         "pricing": "这是价格对比模板: {context} \n\n 用户问题: {question}",
         "integration": "这是技术集成模板: {context} \n\n 用户问题: {question}",
         "comparison": "这是竞品分析模板: {context} \n\n 用户问题: {question}",
         "general": "这是通用模板: {context} \n\n 用户问题: {question}",
     }
     
     def select_prompt_template(request: EnhanceRequest) -> str:
         """根据请求内容选择最合适的Prompt模板"""
         query_type = request.answers.query_type
         
         if query_type == 'feature':
             return PROMPT_TEMPLATES['feature']
         elif query_type == 'pricing':
             # 还可以增加更复杂的逻辑
             if "enterprise" in request.answers.full_text.lower():
                 # 甚至可以有更细分的模板
                 pass 
             return PROMPT_TEMPLATES['pricing']
         elif query_type == 'integration':
             return PROMPT_TEMPLATES['integration']
         elif query_type == 'comparison':
             return PROMPT_TEMPLATES['comparison']
         else:
             # 如果前端无法提供明确的query_type，可以退化到关键词匹配
             text = request.answers.full_text.lower()
             if any(kw in text for kw in ['api', 'sdk', 'code']):
                 return PROMPT_TEMPL