魔笔平台提供了强大的百炼模型集成功能,允许用户通过简单的配置,实现对百炼模型的无缝连接和数据交互。本文档将指导您如何创建和使用百炼模型集成。
功能介绍
魔笔平台的数据库集成功能支持以下特点:
流式传输支持:在配置面板中开启「SSE」后即可支持流式数据传输。
自定义触发方式:集成操作可以设置为手动触发或自动运行,满足不同的业务场景需求。
回调和数据转换:支持在查询成功或失败时执行特定的集成操作事件,以及对返回的数据进行自定义处理。
高级设置:提供防抖和禁止执行条件的高级配置,以优化集成操作的执行。
事件相关内容可参考:集成操作事件
使用百炼模型集成
1. 创建百炼模型集成
登录魔笔平台,进入管控台。
导航至“资源”->“集成”,点击“创建集成”。
选择“百炼大模型”,并填写集成名称及描述。
配置不同环境的百炼模型连接信息,包括
API-KEY
、工作空间
等。点击“确定”以创建百炼模型集成。
2. 在应用内部创建集成操作
打开“代码”面板,点击对应作用域的“+”后选中“集成操作”。
选择之前创建的百炼大模型集成作为资源,选择合适的操作模型并输入用户输入后,根据需求,选择集成操作的触发方式和更加细节的配置内容。
点击“运行”预览查询效果。
关于百炼模型的具体参数,可以参考 通义千问大语言模型。
配置面板详解
通用配置
根据不同的操作类型,需要配置不同的参数,操作类型包括:
调用通义千问大语言模型:通过少数的参数和简洁的配置快速调用通义千问大语言模型。包含以下参数:
模型:通义千问大语言模型,包括
qwen-max
、qwen-max-0403
、qwen-max-0107
、qwen-max-1201
、qwen-turbo
和qwen-plus
。用户输入:用户的提问输入字符串。
提示词:大模型提示词。
对话输入:由历史对话组成的消息列表数组。消息体包括角色(role)和内容(content),如:
temperature:采样温度,控制模型生成文本的多样性。
enableSearch:模型在生成文本时是否使用互联网搜索结果进行参考。
sse:是否启用流式响应。
调用通义千问大语言模型(高级):通过详细的参数和复杂的配置定制化调用通义千问大语言模型。包含以下参数:
模型:通义千问大语言模型,包括
qwen-max
、qwen-max-0403
、qwen-max-0107
、qwen-max-1201
、qwen-turbo
和qwen-plus
。对话上下文:由消息体组成的数组。消息体包括角色(role)和内容(content)。
sse:是否启用流式响应。
parameters:额外的配置参数,详细的参数配置和含义可以参考文本生成-通义千问。
调用通义千问大语言模型-开源:通过少数的参数和简洁的配置快速调用开源通义千问大语言模型。包含以下参数:
模型:开源通义千问大语言模型,包括
qwen1.5-72b-chat
、qwen1.5-14b-chat
、qwen1.5-7b-chat
、qwen-72b-chat
、qwen-14b-chat
和qwen-7b-chat
。用户输入:用户的提问输入字符串。
提示词:大模型提示词。
对话输入:由历史对话组成的消息列表数组。消息体包括角色(role)和内容(content)。
temperature:采样温度,控制模型生成文本的多样性。
enableSearch:模型在生成文本时是否使用互联网搜索结果进行参考。
sse:是否启用流式响应。
调用通义千问大语言模型(高级):通过详细的参数和复杂的配置定制化调用开源通义千问大语言模型。包含以下参数:
模型:开源通义千问大语言模型,包括
qwen1.5-72b-chat
、qwen1.5-14b-chat
、qwen1.5-7b-chat
、qwen-72b-chat
、qwen-14b-chat
和qwen-7b-chat
。对话上下文:由消息体组成的数组。消息体包括角色(role)和内容(content)。
sse:是否启用流式响应。
parameters:额外的配置参数,详细的参数配置和含义可以参考文本生成-通义千问。
调用 DeepSeek 系列模型:通过少数的参数和简洁的配置快速调用百炼 DeepSeek 模型。包含以下参数:
模型:百炼 DeepSeek 系列模型,包括
deepseek-r1
、deepseek-r1-distill-qwen-1.5b
、deepseek-r1-distill-qwen-7b
、deepseek-r1-distill-qwen-14b
、deepseek-r1-distill-qwen-32b
、deepseek-r1-distill-llama-8b
和deepseek-r1-distill-llama-70b
。用户输入:用户的提问输入字符串。
提示词:大模型提示词。
对话输入:由历史对话组成的消息列表数组。消息体包括角色(role)和内容(content)。
sse:是否启用流式响应。
调用 DeepSeek 系列模型的响应中会先返回由 <think></think> 包裹的思考过程,</think>之后为大模型回复内容。如果您使用了聊天组件来承载渲染内容,请开启「开启魔笔增强渲染」选项来渲染对应 html 内容。
回调配置
数据转化:对接口返回的数据进行处理,默认为
return data
,即不进行处理。成功回调:配置接口调用成功时触发的事件。
失败回调:配置接口调用失败时触发的事件。
高级配置
防抖:设置防抖表达式,避免接口的频繁调用。
禁止执行条件:根据条件表达式确定是否执行此集成操作。
手动触发集成
事件触发
在需要触发集成操作的组件中,配置事件处理器。
将动作类型设置为集成操作,并选择相应的集成。
以对象形式填写已配置的参数。
API 触发
若此集成操作的名称为action1
,则在任何可以执行脚本的地方,可以使用action1.trigger()
方法触发集成操作,若集成操作配置了参数,则需要以对象形式填写已配置的参数。
- 本页导读
- 功能介绍
- 使用百炼模型集成
- 1. 创建百炼模型集成
- 2. 在应用内部创建集成操作
- 配置面板详解
- 通用配置
- 回调配置
- 高级配置
- 手动触发集成
- 事件触发
- API 触发