将Dify应用接入ARMS后,您即可查看LLM应用的调用链视图,更直观地分析不同操作类型的输入输出、Token消耗等信息。
说明
本文介绍如何通过Dify原生方式接入阿里云可观测,您还可以通过Python探针为Dify应用自动埋点。Python探针是阿里云可观测产品自研的Python语言的可观测采集探针,其基于OpenTelemetry标准实现了自动化埋点能力。更多信息,请参见LLM 大语言模型应用/推理服务接入 ARMS。
前提条件
Dify版本≥1.6.0
步骤一:获取阿里云 Endpoint 和 License Key
登录ARMS控制台,在左侧导航栏单击接入中心。
在服务端应用区域单击OpenTelemetry卡片。
在弹出的OpenTelemetry面板中选择数据上报地域为河源,上报方式为gRPC。
保存公网接入点(Endpoint)和鉴权Token(License Key)。
说明Endpoint 不带端口号,如http://tracing-cn-heyuan.arms.aliyuncs.com。
步骤二:配置应用性能追踪
登录Dify控制台,并进入需要监控的Dify应用。
在左侧导航栏单击监测。
单击追踪应用性能,然后在云监控区域单击配置。
在弹出的对话框中输入步骤一获取的License Key 和 Endpoint,并自定义App Name(ARMS控制台显示的应用名称),然后单击保存并启用。
步骤三:查看Dify应用监控数据
方式一:从Dify应用跳转ARMS控制台
在Dify控制台选择已开启应用追踪的应用,进入追踪配置,在云监控区域单击查看。
方式二:直接在ARMS控制台查看
在ARMS控制台的 页面进入对应的Dify应用。
详细的监控数据说明,请参见LLM应用详情。
该文章对您有帮助吗?