Dify应用可观测接入

Dify应用接入ARMS后,您即可查看LLM应用的调用链视图,更直观地分析不同操作类型的输入输出、Token消耗等信息。

说明

本文介绍如何通过Dify原生方式接入阿里云可观测,您还可以通过Python探针为Dify应用自动埋点。Python探针是阿里云可观测产品自研的Python语言的可观测采集探针,其基于OpenTelemetry标准实现了自动化埋点能力。更多信息,请参见LLM 大语言模型应用/推理服务接入 ARMS

前提条件

Dify版本≥1.6.0

步骤一:获取阿里云 Endpoint 和 License Key

  1. 登录ARMS控制台,在左侧导航栏单击接入中心

  2. 服务端应用区域单击OpenTelemetry卡片。

  3. 在弹出的OpenTelemetry面板中选择数据上报地域为河源,上报方式gRPC

    image

  4. 保存公网接入点(Endpoint)和鉴权Token(License Key)。

    说明

    Endpoint 不带端口号,如http://tracing-cn-heyuan.arms.aliyuncs.com。

步骤二:配置应用性能追踪

  1. 登录Dify控制台,并进入需要监控的Dify应用。

  2. 在左侧导航栏单击监测

  3. 单击追踪应用性能,然后在云监控区域单击配置

    image

  4. 在弹出的对话框中输入步骤一获取的License Key 和 Endpoint,并自定义App Name(ARMS控制台显示的应用名称),然后单击保存并启用

步骤三:查看Dify应用监控数据

  • 方式一:从Dify应用跳转ARMS控制台

    Dify控制台选择已开启应用追踪的应用,进入追踪配置,在云监控区域单击查看

    image

  • 方式二:直接在ARMS控制台查看

    ARMS控制台LLM应用监控 > 应用列表页面进入对应的Dify应用。

详细的监控数据说明,请参见LLM应用详情