尽管大模型在处理复杂任务时展现出了卓越的性能,但它仍然存在一些局限性,例如无法获取最新信息、容易出现幻觉、难以精确计算等。为了解决这些问题,您可以将插件集成到大模型应用中来拓展大模型能力,执行更复杂的任务。
插件介绍
插件是一个工具的集合。一个插件下可以包含多个工具(API),每个工具实现特定的功能。百炼支持官方插件及自定义插件。
官方插件
插件广场中预置了百炼的官方插件,您无需配置其输入和输出参数,即可直接调用。
关于官方插件的使用,请参见插件广场文档。
官方插件名称 | 工具ID | 说明 | 计费方案 |
code_interpreter | 使大模型可以执行Python代码片段,例如数学计算、数据分析与可视化、数据处理。 | 免费 | |
calculator | 使大模型可以进行复杂的数学计算,例如计算“12313x13232”。 | 免费 | |
text_to_image | 使大模型可以基于文本生成图片,例如“请画一只在笑的小狗”。 | 限时免费,需申请开通 | |
quark_search | 使大模型可以搜索实时信息,查找公开的网络知识和信息,例如“杭州今天天气如何”。 | 限时免费,需申请开通 | |
generate_qrcode | 使大模型可以根据网站链接地址生成二维码,例如“请给百炼简介文档生成二维码:https://help.aliyun.com/zh/model-studio/getting-started/what-is-model-studio”。 | 免费 | |
github_search | 使大模型可以在GitHub中搜索相关项目列表,例如“GitHub搜索:通义千问”。 | 免费 |
自定义插件
目前,百炼仅支持上述官方插件,如果您需要获取更多的插件,请根据业务需求创建自定义插件。自定义插件包括从云市场导入到百炼的插件、自定义开发的插件以及第三方平台的API。
插件调用机制
调用插件的本质是调用插件下的工具。百炼支持通过智能体应用、工作流应用以及Assistant API调用插件。
通过智能体应用或Assistant API调用插件后,大模型将根据用户输入的内容、工具名称以及工具描述来判断是否调用插件下的工具。
如果需要调用工具,大模型会选择合适的工具,应用内部完成工具调用后,会将工具返回结果和用户内容合并后再次输入到大模型,由大模型生成最终结果并输出。
如果无需调用工具,大模型将直接生成结果并输出。
在工作流应用中调用插件,是将插件作为工作流应用的一个节点,按照用户编排的方式执行特定任务,而非由大模型主动进行规划和调用。
插件效果示例
示例输入 | 无插件时输出 | 有插件时输出 |
12313x13232等于多少 | 大模型应用无法准确计算复杂数学问题,会出现计算错误的情况。正确结果应为162,925,616。 | 大模型应用具备了良好的计算能力,能够生成准确的计算结果。 |
支持的模型
模型 | 模型标识符 |
通义千问-Turbo | qwen-turbo |
通义千问-Plus | qwen-plus |
通义千问-Max | qwen-max |
通义千问VL-Max | qwen-vl-max |
通义千问VL-Plus | qwen-vl-plus |
通义千问2-开源版-57B | qwen2-57b-a14b-instruct |
通义千问2-开源版-72B | qwen2-72b-instruct |
通义千问2开源版暂不兼容图片生成插件。最新的兼容性状态,请以控制台实际执行结果为准。
模型详情请参见模型列表。