OpenTelemetry 无侵入监控(OBI)基于 eBPF 技术,无需修改应用代码或接入 SDK,即可自动识别 LLM、Embedding、Rerank、RAG、MCP、Tool 等 AI 调用类型并生成可观测数据。通过云监控 2.0 接入中心,可快速完成 ACK 集群中 AI Agent 应用的 OBI 接入配置。
支持的 AI 能力
OBI 通过 eBPF 在网络层解析 HTTP 流量,无需接入 SDK 即可自动识别以下 AI 调用类型,并按 OpenTelemetry GenAI 语义规范生成链路。各能力覆盖的主流厂商/协议如下。
能力类型 | 说明 | 支持的厂商/协议 |
LLM 对话/补全 | Chat、Completion、Responses 等生成类调用 | OpenAI、Anthropic (Claude)、Google Gemini (Gemini API + Vertex AI)、AWS Bedrock、通义千问 Qwen (DashScope),以及 OpenAI 兼容接口 |
Embedding | 文本向量化调用 | OpenAI、Qwen (DashScope)、Voyage AI、Cohere、Jina AI |
Rerank | 检索结果重排序 | Cohere、Jina、Voyage、Qwen (DashScope) |
Retrieval/RAG | 向量库检索调用 | Pinecone、Qdrant、Milvus、Zilliz、Chroma、Weaviate |
MCP | Model Context Protocol (JSON-RPC 2.0),含 tools/call、resources、prompts 等方法 | 通用 MCP 服务端 |
Tool 调用 | LLM 发起的函数/工具调用,生成独立 execute_tool 链路 | OpenAI、Anthropic、Gemini、Qwen |
LLM 类支持流式(SSE)响应解析。
Qwen 及其他 OpenAI 兼容服务复用 OpenAI 协议解析。
以上能力均为客户端侧无侵入采集。
前提条件
已开通云监控 2.0 服务并创建目标工作空间。登录云监控 2.0 控制台确认服务状态。
已拥有 ACK 集群,且集群中运行了 AI Agent 应用。
ACK 集群接入
ACK 集群通过 CMS 2.0 接入中心接入
通过云监控 2.0 接入中心选择目标 ACK 集群和应用,完成 OBI 监控接入。
登录云监控 2.0 控制台,选择目标工作空间。
在左侧导航栏,单击接入中心。
在应用监控&链路追踪分类下,找到并单击 OpenTelemetry 无侵入监控卡片。
页面右侧弹出接入面板,面板中显示接入步骤。
在选择 acs.ack.cluster 步骤中,选择目标地域和 ACK 集群。
在接入配置步骤中,选择需要监控的应用并填写应用名称。一次可以选择多个应用。
单击确定,等待接入配置完成。配置完成后,进入接入状态检查步骤查看接入结果。
接入完成后,在左侧导航栏单击 AI Agent 可观测,选择对应的应用查看可观测数据。
ACK 集群手动接入
登录容器服务管理控制台,在左侧导航栏选择集群列表,单击目标集群名称。
在左侧导航栏选择组件管理,找到 arms-obi 组件并安装。如需上报数据到非 default 工作空间,请在安装时在 workspace 处配置对应的工作空间名称。
说明如需配置 OBI 组件的运行行为(如自建 LLM 网关支持、自定义 Attributes 等),可参考 OBI 组件配置说明,修改配置后在
obi-system下选择守护进程重启 arms-obi 组件。安装时修改,无需重启。配置监控目标。
说明若监控 gRPC 协议的应用,需重启应用才能完成 gRPC 协议监控。
在 ACK 集群的页面,将命名空间切换为
obi-system,找到arms-obi-discovery-default并单击编辑。增加需要监控的应用 Deployment、命名空间,以及在云监控 2.0 中显示的应用名称。配置示例如下:discovery: instrument: - k8s_deployment_name: "server" k8s_namespace: "arms-default" name: "server-test-obi"
ACS 集群接入
相关文档
通用 Kubernetes 环境通过 OpenTelemetry OBI 接入可观测:适用于非 ACK 的外部 Kubernetes 集群环境。
ECS上通过OpenTelemetry eBPF(OBI)接入可观测:适用于 ECS 环境。
接入 AI 编程助手:通过本地 Agent 采集方式接入 AI 编程助手的可观测数据。