Dify

Dify 是一个开源的大模型应用开发平台,您可以基于阿里云百炼提供的模型 API 来构建大模型应用。

前提条件

您需要获取API Key,并确保已开通阿里云百炼的模型服务。

1. 配置模型

1.1. 安装模型供应商

前往Dify 市场,在模型下找到通义千问并安装最新版插件。

image.png

说明
  • 通义千问插件非阿里云提供,由 Dify 官方维护。若安装最新版插件报错,可尝试安装较早版本。

  • 使用阿里云百炼提供的 DeepSeek 模型也请使用通义千问插件。

1.2. 配置 API Key

单击页面右上角的头像-设置,在模型供应商处找到通义千问卡片,在卡片的 API-KEY 设置界面填入您的阿里云百炼 API Key,并设置使用国际端点

若 API Key 配置过程报错:Invalid API-key provided,可尝试安装较早版本的通义千问插件。

1.3. 选择模型

单击通义千问卡片中的显示模型,打开您需要使用的模型开关。

若插件内暂未包含最新版通义千问模型,可尝试通过 OpenAI-API-compatible 插件配置,API endpoint URL 填入https://dashscope.aliyuncs.com/compatible-mode/v1

image.png

2. 开始使用

Dify 具有多种大模型应用类型,请选择您使用的类型进行参考。

聊天助手/Agent

  1. 创建一个聊天助手或Agent

    工作室单击创建空白应用,在新手适用中创建一个聊天助手或Agent并进入。

  2. 选择模型

    在应用页面右上角可以选择模型,以通义千问下的qwen-plus-latest(Qwen3)为例,打开思考模式并设置为True。

    image.png

  3. 对话测试

    输入“你是谁”,模型会在思考后进行回答。

    image.png

    您也可以使用 Qwen-VLQVQ 模型针对图片进行提问。在选择视觉模型后界面左侧会出现视觉开关,打开即可在右侧的对话框输入图片。

    image.png

Chatflow/工作流

  1. 创建一个Chatflow或者工作流

    工作室创建一个Chatflow或者工作流并进入。

  2. 添加LLM节点

    在画布中添加一个LLM节点,选中节点进入编辑界面,选择您需要使用的模型。此处选择qwen-plus-2025-04-28(Qwen3),打开思考模式并设置为True。

    image.png

    如果您使用 Qwen-VL 或 QVQ 模型,请打开LLM节点的视觉开关:

    image.png

  3. 运行LLM节点

    单击添加消息,在USER对应的消息下输入问题:“你是谁”,单击节点上方的运行按钮。

    image.png

    LLM节点返回的text字段包含思考与回复内容,您可以使用Dify的代码执行节点,通过正则表达式分别提取。

知识库

  1. 创建知识库

    创建一个知识库并进入。

  2. 选择数据源

    在此步骤上传您的知识库文件。

  3. 文本分段与清洗

    您可以在此步骤配置阿里云百炼提供的 Embedding 模型与 Rerank 模型,此处以 text-embedding-v3 与 gte-rerank-v2 为例。其余参数请您按需配置。

    image.png

    Embedding 模型暂时无法选择multimodal-embedding-v1模型,敬请关注后续动态。

常见问题

Q1:在通义千问插件内配置 API Key 报错?

A:有以下常见原因:

  • 最新版插件性能可能不稳定,请尝试安装较低版本插件。

  • 使用了子业务空间的 API Key。0.0.41版本的通义千问插件会校验qwen-turbo模型调用权限,请为qwen-turbo添加模型调用权限

    通义千问插件非阿里云官方维护,后续版本校验策略以实际情况为准。建议使用默认业务空间的 API Key。
  • 使用了国际端点,请将使用国际端点置为

Q2:如何使用 Qwen-Omni/Qwen-Audio/Qwen-OCR模型?

A:以上模型均不支持直接在 Dify 上配置,您可通过 Chatflow 或工作流的 HTTP 节点接入,接入细节请参见文档中的 Curl 命令。

为了降低HTTP节点的超时风险,建议您通过流式输出方式调用。

Q3:如何使用通义万相模型?

A:Dify 没有提供通义万相模型相关的插件,通过DifyChatflow/工作流的节点可达到文生图/视频的功能。请参考以下步骤:

  1. 下载并导入工作流模板

    下载我们写好的模板:通义万相-文生图Demo.yml通义万相-文生视频Demo.yml,在工作室单击导入DSL文件并选择下载的模板文件。

  2. 配置环境变量

    进入工作流界面,找到image.png,并将DASHSCOPE_API_KEY的值修改为您的API Key。

  3. 测试生图效果

    单击界面的运行按钮即可生成作品。以文生图工作流输入“小猫”为例,可以得到图片:

    image.png

    视频生成工作流会返回视频的URL。
    文生视频的时间一般在5分钟以上,请耐心等待。
  4. 发布为工具(可选)

    为了在其它大模型应用中使用通义万相的文生图/视频功能,您可以在界面右上方单击发布并选择发布为工具

模板使用的模型为wanx2.1-t2i-turbo(文生图)/wanx2.1-t2v-turbo(文生视频),您可以在STEP1-获取TASK-ID节点修改使用的通义万相模型。

Q4:如何私有化部署 Dify?

A:Dify 云服务存在多项限制,例如最多创建 5 个应用。私有化部署请参见阿里云 Dify 部署解决方案