集成百炼模型

更新时间:2025-02-13 08:28:32

魔笔平台提供了强大的百炼模型集成功能,允许用户通过简单的配置,实现对百炼模型的无缝连接和数据交互。本文档将指导您如何创建和使用百炼模型集成。

功能介绍

魔笔平台的数据库集成功能支持以下特点:

  • 流式传输支持:在配置面板中开启「SSE」后即可支持流式数据传输。

  • 自定义触发方式:集成操作可以设置为手动触发或自动运行,满足不同的业务场景需求。

  • 回调和数据转换:支持在查询成功或失败时执行特定的集成操作事件,以及对返回的数据进行自定义处理。

  • 高级设置:提供防抖和禁止执行条件的高级配置,以优化集成操作的执行。

事件相关内容可参考:集成操作事件

使用百炼模型集成

1. 创建百炼模型集成

  1. 登录魔笔平台,进入管控台。

  2. 导航至“资源”->“集成”,点击“创建集成”。

  3. 选择“百炼大模型”,并填写集成名称及描述。

  4. 配置不同环境的百炼模型连接信息,包括API-KEY工作空间等。

  5. 点击“确定”以创建百炼模型集成。

2. 在应用内部创建集成操作

  1. 打开“代码”面板,点击对应作用域的“+”后选中“集成操作”。

    image

  2. 选择之前创建的百炼大模型集成作为资源,选择合适的操作模型并输入用户输入后,根据需求,选择集成操作的触发方式和更加细节的配置内容。

image

  1. 点击“运行”预览查询效果。

说明

关于百炼模型的具体参数,可以参考 通义千问大语言模型

配置面板详解

通用配置

根据不同的操作类型,需要配置不同的参数,操作类型包括:

  • 调用通义千问大语言模型:通过少数的参数和简洁的配置快速调用通义千问大语言模型。包含以下参数:

    • 模型:通义千问大语言模型,包括qwen-maxqwen-max-0403qwen-max-0107qwen-max-1201qwen-turboqwen-plus

    • 用户输入:用户的提问输入字符串。

    • 提示词:大模型提示词。

    • 对话输入:由历史对话组成的消息列表数组。消息体包括角色(role)和内容(content),如:image

    • temperature:采样温度,控制模型生成文本的多样性。

    • enableSearch:模型在生成文本时是否使用互联网搜索结果进行参考。

    • sse:是否启用流式响应。

  • 调用通义千问大语言模型(高级):通过详细的参数和复杂的配置定制化调用通义千问大语言模型。包含以下参数:

    • 模型:通义千问大语言模型,包括qwen-maxqwen-max-0403qwen-max-0107qwen-max-1201qwen-turboqwen-plus

    • 对话上下文:由消息体组成的数组。消息体包括角色(role)和内容(content)。

    • sse:是否启用流式响应。

    • parameters:额外的配置参数,详细的参数配置和含义可以参考文本生成-通义千问

  • 调用通义千问大语言模型-开源:通过少数的参数和简洁的配置快速调用开源通义千问大语言模型。包含以下参数:

    • 模型:开源通义千问大语言模型,包括qwen1.5-72b-chatqwen1.5-14b-chatqwen1.5-7b-chatqwen-72b-chatqwen-14b-chatqwen-7b-chat

    • 用户输入:用户的提问输入字符串。

    • 提示词:大模型提示词。

    • 对话输入:由历史对话组成的消息列表数组。消息体包括角色(role)和内容(content)。

    • temperature:采样温度,控制模型生成文本的多样性。

    • enableSearch:模型在生成文本时是否使用互联网搜索结果进行参考。

    • sse:是否启用流式响应。

  • 调用通义千问大语言模型(高级):通过详细的参数和复杂的配置定制化调用开源通义千问大语言模型。包含以下参数:

    • 模型:开源通义千问大语言模型,包括qwen1.5-72b-chatqwen1.5-14b-chatqwen1.5-7b-chatqwen-72b-chatqwen-14b-chatqwen-7b-chat

    • 对话上下文:由消息体组成的数组。消息体包括角色(role)和内容(content)。

    • sse:是否启用流式响应。

    • parameters:额外的配置参数,详细的参数配置和含义可以参考文本生成-通义千问

  • 调用 DeepSeek 系列模型:通过少数的参数和简洁的配置快速调用百炼 DeepSeek 模型。包含以下参数:

    • 模型:百炼 DeepSeek 系列模型,包括deepseek-r1deepseek-r1-distill-qwen-1.5bdeepseek-r1-distill-qwen-7bdeepseek-r1-distill-qwen-14bdeepseek-r1-distill-qwen-32bdeepseek-r1-distill-llama-8bdeepseek-r1-distill-llama-70b

    • 用户输入:用户的提问输入字符串。

    • 提示词:大模型提示词。

    • 对话输入:由历史对话组成的消息列表数组。消息体包括角色(role)和内容(content)。

    • sse:是否启用流式响应。

      说明

      调用 DeepSeek 系列模型的响应中会先返回由 <think></think> 包裹的思考过程,</think>之后为大模型回复内容。如果您使用了聊天组件来承载渲染内容,请开启「开启魔笔增强渲染」选项来渲染对应 html 内容。

回调配置

  • 数据转化:对接口返回的数据进行处理,默认为return data,即不进行处理。

  • 成功回调:配置接口调用成功时触发的事件。

  • 失败回调:配置接口调用失败时触发的事件。

高级配置

  • 防抖:设置防抖表达式,避免接口的频繁调用。

  • 禁止执行条件:根据条件表达式确定是否执行此集成操作。

手动触发集成

事件触发

  1. 在需要触发集成操作的组件中,配置事件处理器。

  2. 将动作类型设置为集成操作,并选择相应的集成。

  3. 以对象形式填写已配置的参数。

API 触发

若此集成操作的名称为action1,则在任何可以执行脚本的地方,可以使用action1.trigger()方法触发集成操作,若集成操作配置了参数,则需要以对象形式填写已配置的参数。

  • 本页导读
  • 功能介绍
  • 使用百炼模型集成
  • 1. 创建百炼模型集成
  • 2. 在应用内部创建集成操作
  • 配置面板详解
  • 通用配置
  • 回调配置
  • 高级配置
  • 手动触发集成
  • 事件触发
  • API 触发