尽管大模型在处理复杂任务时展现出了卓越的性能,但它仍然存在一些局限性,例如无法获取最新信息、容易出现幻觉、难以精确计算等。为了解决这些问题,您可以将插件集成到大模型应用中进一步拓展大模型能力,执行更复杂的任务。
插件介绍
插件是一个工具的集合。一个插件下可以包含多个工具(API),每个工具实现特定的功能。百炼支持官方插件、三方插件及自定义插件。
官方插件
插件广场中预置了百炼的官方插件,您无需配置其输入和输出参数,即可直接调用。关于官方插件的使用,请参见官方插件说明。
官方插件名称 | 工具ID | 说明 | 计费方案 |
官方插件名称 | 工具ID | 说明 | 计费方案 |
code_interpreter | 使大模型可以执行Python代码片段,例如数学计算、数据分析与可视化、数据处理。 | 免费 | |
calculator | 使大模型可以进行复杂的数学计算,例如计算“12313x13232”。 | 免费 | |
text_to_image | 使大模型可以基于文本生成图片,例如“请画一只在笑的小狗”。 | 限时免费,需申请开通 | |
quark_search | 使大模型可以搜索实时信息,查找公开的网络知识和信息,例如“杭州今天天气如何”。 夸克搜索插件目前支持检索出网页标题、关键词和摘要,但不支持直接访问网页详情。 | 限时免费,需申请开通 | |
generate_qrcode | 使大模型可以根据网站链接地址生成二维码,例如“请给百炼简介文档生成二维码:https://help.aliyun.com/zh/model-studio/getting-started/what-is-model-studio”。 | 免费 | |
github_search | 使大模型可以在GitHub中搜索相关项目列表,例如“GitHub搜索:通义千问”。 | 免费 |
三方插件
除官方插件外,第三方插件涵盖了商业服务、图像视频、学习教育等多个领域,并且经过了效果测试。您可以在开通后直接调用,无需进行额外配置。关于三方插件的使用,请参见三方插件说明。
自定义插件
您可以创建自定义插件,并将其集成到您的大模型应用中,以实现灵活、个性化的功能拓展。
插件效果示例
示例输入 | 无插件时输出 | 有插件时输出 |
示例输入 | 无插件时输出 | 有插件时输出 |
12313×13232等于多少 | 大模型应用无法准确计算复杂数学问题,会出现计算错误的情况。正确结果应为162,925,616。 | 大模型应用具备了良好的计算能力,能够生成准确的计算结果。 |
支持的模型
模型 | 模型标识符 |
模型 | 模型标识符 |
通义千问-Turbo | qwen-turbo |
通义千问-Plus | qwen-plus |
通义千问-Max | qwen-max |
通义千问VL-Max | qwen-vl-max |
通义千问VL-Plus | qwen-vl-plus |
通义千问2-开源版-57B | qwen2-57b-a14b-instruct |
通义千问2-开源版-72B | qwen2-72b-instruct |
通义千问2开源版暂不兼容图片生成插件。最新的兼容性状态,请以控制台实际执行结果为准。
模型详情请参见模型列表。
插件调用机制
调用插件的本质是调用插件下的工具。百炼支持通过智能体应用、工作流应用以及Assistant API调用插件。
通过智能体应用或Assistant API调用插件后,大模型将根据用户输入的内容、工具名称以及工具描述来判断是否调用插件下的工具。
如果需要调用工具,大模型会选择合适的工具,应用内部完成工具调用后,会将工具返回结果和用户内容合并后再次输入到大模型,由大模型生成最终结果并输出。
如果无需调用工具,大模型将直接生成结果并输出。
在工作流应用中调用插件,是将插件作为工作流应用的一个节点,按照用户编排的方式执行特定任务,而非由大模型主动进行规划和调用。
- 本页导读 (1)
- 插件介绍
- 官方插件
- 三方插件
- 自定义插件
- 插件效果示例
- 支持的模型
- 插件调用机制