MCP语义检索

背景信息

当用户开发的智能体需要调用大量MCP工具时，可能面临管理困难、工具选择不合适、Tokens消耗增加以及检索效率降低等问题。为解决相关问题，AI网关推出MCP语义检索功能，通过以下方式优化MCP工具调用过程。

• 统一入口管理：通过AI网关构建统一的MCP服务接入点，所有Agent可通过单一端点访问网关实例中注册的全部MCP工具，实现集中化接入，降低多MCP Server分散部署带来的运维复杂度。

• 智能工具检索：集成x_higress_tool_search语义搜索功能，基于AD向量数据库与Qwen系列大模型，提供高精度的工具推荐能力。Agent可通过自然语言描述需求，系统自动匹配并返回最相关的工具，无需预先了解具体工具名称。

• 双阶段检索机制：采用“向量召回 + 重排序”两阶段检索架构。首先利用Qwen Embedding模型进行向量化相似度计算，获取初步候选工具集，然后可选择性地使用Qwen Rerank模型对候选结果进行精细化排序，提升最终工具推荐的准确性与相关性。

• 实时元数据同步：建立完整的MCP工具生命周期管理流程。当用户在控制台执行MCP Server的增、删、改操作时，系统自动触发工具元信息的采集、向量化处理及持久化存储，确保向量数据库与实际部署的服务实例保持一致。

• 控制台集成化配置：在控制台启用“语义搜索”功能后，系统将自动完成ADB集合初始化、模型参数配置、路由规则下发及数据同步等全部配置流程，实现语义搜索能力的一站式开通与管理，提供即开即用的服务体验。

性能表现

在Salesforce的原始数据集xlam-function-calling-60k上，使用以下18个维度进行对比：

• 纯向量检索：3种相似度算法（cosine、L2、IP）。

• RRF混合搜索双路召回：5个k值参数（10、30、60、100、200）。

  说明

  倒数排序融合(Reciprocal rank fusion)，有一个参数 k 控制融合效果，指定计算分数的算法的1/(k+rank_i)中的 k 常数，范围大于 1 的正整数。

• Weight混合搜索：5个α值参数（0.0、0.2、0.5、0.8、1.0）。

  说明

  比重排序，采用一个参数 alpha 控制向量和全文的分数比重，然后再排序，计算公式alpha * vector_score + (1-alpha) * text_score，参数 alpha 表示向量和全文的检索分数比重，范围为 0～1，其中 0 表示仅全文，1 表示仅向量。

• Cascaded混合搜索：无参数算法。

  说明

  先全文检索再在其基础上进行向量检索。

• 最优配置对比：4种最优配置的综合对比。

结果表明：

• Weight算法优势：Weight混合搜索在精确测量下表现出微幅优势，α=0.8时Top-1准确率最高（80.6873%），α=0.5时Top-10准确率最高（98.3119%）

• 纯向量算法等效性：cosine和L2算法完全一致（80.6471%），IP算法略低（80.6270%），推荐使用cosine（业界标准）

• 混合搜索价值验证：Weight算法相比纯向量提升0.04个百分点，虽然幅度微小但在大规模应用中具有统计学意义

• RRF算法局限：RRF算法在所有k值下Top-1准确率显著低于纯向量（57-59% vs 80.6%），存在系统性性能瓶颈

• 全文搜索局限性：Weight(α=0.2)准确率显著下降至76.19%，证明过度依赖全文搜索的风险

• Cascaded表现：Cascaded算法Top-10准确率97.6%，略低于其他算法但仍保持较高水准

• 性能一致性：所有算法搜索时间均在0.32-0.35秒范围内，性能差异微小

操作步骤