.NET+AI | MEAI | 智能工具筛选（12）

目录

一句话简介

🎯 核心价值

📝 问题场景

💡 工作原理

💻 实现方式

1. 创建 Embedding Generator

2. 注册工具集合

3. 配置 Tool Reduction 策略

4. 对比测试效果

未使用 Tool Reduction

使用 Tool Reduction

📌 应用场景

🏢 最佳实践

1. 合理设置 toolLimit

2. 中间件顺序

3. 监控筛选效果

4. 手动验证筛选逻辑

📊 效果对比

🎯 总结

上一篇

一句话简介

Tool Reduction 是 Microsoft.Extensions.AI 提供的智能工具筛选中间件，通过语义相似度自动过滤无关工具，减少 Token 消耗、降低成本并提升模型工具调用准确率。

🎯 核心价值

• ✅ 节省 Token：自动过滤无关工具，减少上下文窗口占用

• ✅ 提升准确率：减少干扰项，让模型更精准地选择工具

• ✅ 降低成本：减少请求大小，降低 API 调用费用

• ✅ 加快响应：更少的工具描述，更快的推理速度

📝 问题场景

在企业级 AI Agent 应用中，我们可能为模型提供大量工具（如 50-100 个），但并非所有工具在每次对话中都有用。这会导致：

Tool Reduction 的解决方案： 在发送请求前，根据用户输入和对话上下文，自动筛选出最相关的工具子集。

💡 工作原理

Tool Reduction 采用中间件模式，在请求到达 AI 模型前进行智能筛选：

筛选流程：

1. 为每个工具的名称和描述生成 Embedding（缓存）

2. 为用户的对话消息生成 Embedding

3. 计算余弦相似度，选出相似度最高的前 N 个工具

4. 只将精选工具发送给模型

💻 实现方式

1. 创建 Embedding Generator

Tool Reduction 依赖 Embedding Generator 计算语义相似度：

var azureClient = AIClientHelper.GetAzureOpenAIClient();
var baseChatClient = azureClient.GetChatClient("gpt-4o").AsIChatClient();

// 创建 Embedding Generator
var embeddingsClient = azureClient.GetEmbeddingClient("text-embedding-3-small");
IEmbeddingGenerator<string, Embedding<float>> embeddingGenerator = 
    embeddingsClient.AsIEmbeddingGenerator();

2. 注册工具集合

定义一组不同领域的工具函数：

// 天气工具
[Description("获取指定城市的当前天气信息")]
string GetWeather([Description("城市名称")] string city)
    => $"{city}的天气：晴朗，温度 25°C";

// 股票工具
[Description("查询股票价格")]
string GetStockPrice([Description("股票代码")] string symbol)
    => $"{symbol} 当前价格：$150.00";

// 邮件工具
[Description("发送电子邮件")]
string SendEmail([Description("收件人")] string to, [Description("邮件主题")] string subject)
    => $"邮件已发送到 {to}，主题：{subject}";

// ... 更多工具

// 注册所有工具
var allTools = new List<AIFunction>
{
    AIFunctionFactory.Create(GetWeather),
    AIFunctionFactory.Create(GetStockPrice),
    AIFunctionFactory.Create(SendEmail),
    // ...
};

3. 配置 Tool Reduction 策略

使用内置的 EmbeddingToolReductionStrategy：

// 创建策略：最多保留 5 个最相关的工具
var strategy = new EmbeddingToolReductionStrategy(embeddingGenerator, toolLimit: 5);

// 构建启用 Tool Reduction 的客户端
var client = baseChatClient.AsBuilder()
    .UseToolReduction(strategy)  // 必须在 UseFunctionInvocation 之前
    .UseFunctionInvocation()
    .Build();

核心参数：

• embeddingGenerator: Embedding 生成器，用于计算相似度

• toolLimit: 最多保留的工具数量（不包括标记为必需的工具）

4. 对比测试效果

场景： 用户询问"北京今天天气怎么样？"

未使用 Tool Reduction

var normalClient = baseChatClient.AsBuilder()
    .UseFunctionInvocation()
    .Build();

var response = await normalClient.GetResponseAsync(
    "北京今天天气怎么样？",
    new ChatOptions { Tools = [..allTools], ToolMode = ChatToolMode.Auto }
);

结果：

• 发送了所有 10 个工具的描述

• 模型需要从 10 个工具中选择

• 9 个无关工具浪费了上下文窗口

使用 Tool Reduction

var response = await client.GetResponseAsync(
    "北京今天天气怎么样？",
    new ChatOptions { Tools = [..allTools], ToolMode = ChatToolMode.Auto }
);

结果：

• 自动筛选出 5 个最相关的工具（包含 GetWeather）

• 过滤掉股票、邮件、数据库等无关工具

• Token 消耗减少 50%+，准确率提升

📌 应用场景

🏢 最佳实践

1. 合理设置 toolLimit

// 根据场景调整工具数量限制
var strategy = new EmbeddingToolReductionStrategy(
    embeddingGenerator, 
    toolLimit: 5  // 建议 3-10 个
);

建议：

• ✅ 工具总数 < 20：不启用 Tool Reduction

• ✅ 工具总数 20-50：设置 toolLimit = 5-8

• ✅ 工具总数 > 50：设置 toolLimit = 8-15

2. 中间件顺序

var client = baseChatClient.AsBuilder()
    .UseToolReduction(strategy)  // ⚠️ 必须在 UseFunctionInvocation 之前
    .UseFunctionInvocation()
    .Build();

原因： Tool Reduction 需要在函数调用前筛选工具列表。

3. 监控筛选效果

创建监控中间件查看筛选结果：

public static ChatClientBuilder UseToolListLogging(this ChatClientBuilder builder)
{
    return builder.Use(
        async (messages, options, innerClient, cancellationToken) =>
        {
            Console.WriteLine($"发送 {options.Tools?.Count ?? 0} 个工具到模型");
            returnawait innerClient.GetResponseAsync(messages, options, cancellationToken);
        },
        null);
}

// 使用
var client = baseChatClient.AsBuilder()
    .UseToolReduction(strategy)
    .UseToolListLogging()  // 添加监控
    .UseFunctionInvocation()
    .Build();

4. 手动验证筛选逻辑

// 预先测试筛选结果
var testMessages = new[]
{
    new ChatMessage(ChatRole.User, "上海的天气如何？")
};

var testOptions = new ChatOptions { Tools = [..allTools] };

var selectedTools = await strategy.SelectToolsForRequestAsync(
    testMessages, 
    testOptions, 
    CancellationToken.None
);

Console.WriteLine($"原始: {allTools.Count} 个工具");
Console.WriteLine($"筛选后: {selectedTools.Count()} 个工具");

📊 效果对比

🎯 总结

• ✅ 核心价值：Tool Reduction 通过语义相似度自动筛选工具，节省 Token、降低成本、提升准确率

• ✅ 实现方式：使用 EmbeddingToolReductionStrategy 策略 + .UseToolReduction() 中间件

• ✅ 关键配置：合理设置 toolLimit 参数，控制保留的工具数量

• ✅ 最佳实践：在 UseFunctionInvocation() 之前调用，添加监控验证效果

• ✅ 适用场景：企业知识库、智能客服、开发助手等大量工具的 AI Agent 应用

下一步： 探索更多 Microsoft.Extensions.AI 高级功能，如自定义 Tool Reduction 策略、性能优化等。

引入地址