通过 OpenTelemetry 无侵入监控(OBI)接入 AI Agent 可观测

更新时间:
复制 MD 格式

OpenTelemetry 无侵入监控(OBI)基于 eBPF 技术,无需修改应用代码或接入 SDK,即可自动识别 LLM、Embedding、Rerank、RAG、MCP、Tool 等 AI 调用类型并生成可观测数据。通过云监控 2.0 接入中心,可快速完成 ACK 集群中 AI Agent 应用的 OBI 接入配置。

支持的 AI 能力

OBI 通过 eBPF 在网络层解析 HTTP 流量,无需接入 SDK 即可自动识别以下 AI 调用类型,并按 OpenTelemetry GenAI 语义规范生成链路。各能力覆盖的主流厂商/协议如下。

能力类型

说明

支持的厂商/协议

LLM 对话/补全

Chat、Completion、Responses 等生成类调用

OpenAI、Anthropic (Claude)、Google Gemini (Gemini API + Vertex AI)、AWS Bedrock、通义千问 Qwen (DashScope),以及 OpenAI 兼容接口

Embedding

文本向量化调用

OpenAI、Qwen (DashScope)、Voyage AI、Cohere、Jina AI

Rerank

检索结果重排序

Cohere、Jina、Voyage、Qwen (DashScope)

Retrieval/RAG

向量库检索调用

Pinecone、Qdrant、Milvus、Zilliz、Chroma、Weaviate

MCP

Model Context Protocol (JSON-RPC 2.0),含 tools/call、resources、prompts 等方法

通用 MCP 服务端

Tool 调用

LLM 发起的函数/工具调用,生成独立 execute_tool 链路

OpenAI、Anthropic、Gemini、Qwen

说明
  • LLM 类支持流式(SSE)响应解析。

  • Qwen 及其他 OpenAI 兼容服务复用 OpenAI 协议解析。

  • 以上能力均为客户端侧无侵入采集。

前提条件

  • 已开通云监控 2.0 服务并创建目标工作空间。登录云监控 2.0 控制台确认服务状态。

  • 已拥有 ACK 集群,且集群中运行了 AI Agent 应用。

ACK 集群接入

ACK 集群通过 CMS 2.0 接入中心接入

通过云监控 2.0 接入中心选择目标 ACK 集群和应用,完成 OBI 监控接入。

  1. 登录云监控 2.0 控制台,选择目标工作空间。

  2. 在左侧导航栏,单击接入中心

  3. 应用监控&链路追踪分类下,找到并单击 OpenTelemetry 无侵入监控卡片。

    页面右侧弹出接入面板,面板中显示接入步骤。

  4. 选择 acs.ack.cluster 步骤中,选择目标地域和 ACK 集群。

  5. 接入配置步骤中,选择需要监控的应用并填写应用名称。一次可以选择多个应用。

  6. 单击确定,等待接入配置完成。配置完成后,进入接入状态检查步骤查看接入结果。

  7. 接入完成后,在左侧导航栏单击 AI Agent 可观测,选择对应的应用查看可观测数据。

ACK 集群手动接入

  1. 登录容器服务管理控制台,在左侧导航栏选择集群列表,单击目标集群名称。

  2. 在左侧导航栏选择组件管理,找到 arms-obi 组件并安装。如需上报数据到非 default 工作空间,请在安装时在 workspace 处配置对应的工作空间名称。

    说明

    如需配置 OBI 组件的运行行为(如自建 LLM 网关支持、自定义 Attributes 等),可参考 OBI 组件配置说明,修改配置后在 obi-system 下选择守护进程重启 arms-obi 组件。安装时修改,无需重启。

  3. 配置监控目标。

    说明

    若监控 gRPC 协议的应用,需重启应用才能完成 gRPC 协议监控。

    在 ACK 集群的配置管理 > 配置项页面,将命名空间切换为 obi-system,找到 arms-obi-discovery-default 并单击编辑。增加需要监控的应用 Deployment、命名空间,以及在云监控 2.0 中显示的应用名称。配置示例如下:

    discovery:
      instrument:
        - k8s_deployment_name: "server"
          k8s_namespace: "arms-default"
          name: "server-test-obi"

ACS 集群接入

请参考通过 OpenTelemetry 无侵入监控(OBI)接入 ACS 应用可观测

相关文档