MCP语义检索

语义检索可基于用户请求,通过分析理解用户意图,智能选择合适的MCP工具,从而降低上下文Token,提升检索效率。本文介绍如何开启语义检索及相关配置。

背景信息

当用户开发的智能体需要调用大量MCP工具时,可能面临管理困难、工具选择不合适、Tokens消耗增加以及检索效率降低等问题。为解决相关问题,AI网关推出MCP语义检索功能,通过以下方式优化MCP工具调用过程。

  • 统一入口管理:通过AI网关构建统一的MCP服务接入点,所有Agent可通过单一端点访问网关实例中注册的全部MCP工具,实现集中化接入,降低多MCP Server分散部署带来的运维复杂度。

  • 智能工具检索:集成x_higress_tool_search语义搜索功能,基于AD向量数据库与Qwen系列大模型,提供高精度的工具推荐能力。Agent可通过自然语言描述需求,系统自动匹配并返回最相关的工具,无需预先了解具体工具名称。

  • 双阶段检索机制:采用“向量召回 + 重排序”两阶段检索架构。首先利用Qwen Embedding模型进行向量化相似度计算,获取初步候选工具集,然后可选择性地使用Qwen Rerank模型对候选结果进行精细化排序,提升最终工具推荐的准确性与相关性。

  • 实时元数据同步:建立完整的MCP工具生命周期管理流程。当用户在控制台执行MCP Server的增、删、改操作时,系统自动触发工具元信息的采集、向量化处理及持久化存储,确保向量数据库与实际部署的服务实例保持一致。

  • 控制台集成化配置:在控制台启用“语义搜索”功能后,系统将自动完成ADB集合初始化、模型参数配置、路由规则下发及数据同步等全部配置流程,实现语义搜索能力的一站式开通与管理,提供即开即用的服务体验。

操作步骤

启用语义检索

  1. AI 网关控制台的实例页面,在顶部菜单栏选择目标实例所在地域。

  2. 实例页面,单击目标网关实例ID。

  3. 在左侧导航栏选择MCP 管理,单击语义检索页签。

  4. 单击编辑,开启启用语义检索,选择检索工具接入点,单击确定发布语义检索。

配置消费者认证

语义检索支持配置认证鉴权,开启后仅授权的消费者可通过API Key访问,无认证或认证异常的请求将被拒绝。

  1. 在语义检索页签,选择消费者认证

  2. 单击配置信息功能编辑按钮,在MCP 服务消费者认证开启启用状态。认证方式默认选择API KEY。

  3. 单击授权,在添加消费者授权页面选择消费者。

    说明

    消费者认证方式需使用API Key,不支持JWT认证方式的消费者使用语义检索。

  4. 单击添加完成授权。