文档

智能体应用

更新时间:

您可以在百炼控制台以零代码的方式快速创建智能体应用,并将RAG(Retrieval-Augmented Generation,检索增强生成)以及插件能力集成进来。应用创建完成后,您可以通过控制台或API的方式来使用。

以下均以大模型应用指代智能体应用

为什么使用大模型应用

大模型具有强大的语言理解和生成能力,然而大模型有一定局限性,如:

  • 无法回答私有领域问题,如公司制度、人员信息等;

  • 无法及时获取最新消息,如实时天气、比赛结果等;

  • 无法准确回答专业问题,如数学计算、图像生成等。

您可以使用大模型应用来解决这些问题。大模型应用是以大模型为基础,根据业务场景集成特定外部能力的应用。

此处外部能力含义为:大模型本身不具备的能力。如获取实时信息、回答私有领域问题等。

您可以在百炼控制台通过零代码的方式创建大模型应用,并将外部能力集成到应用中,解决您的业务问题。

大模型应用有许多使用场景,如:

  • 私有领域知识问答

    您只需准备好知识库文件,便可以在百炼控制台快速创建一个私有领域知识问答应用,将其应用到如公司制度、人员信息等问答场景。

  • 个性化聊天机器人

    百炼提供了长期记忆功能,可以保存关键的历史对话信息,为您提供个性化的聊天体验。此外,百炼集成了夸克搜索和图像生成等插件,可以扩展聊天机器人的功能。

  • 智能助手

    通过引入RAG能力、长期记忆以及自定义插件等能力,您可以构建一个智能助手,帮助您提升工作效率,如处理邮件、撰写周报等。

步骤一:创建大模型应用

1. 进入应用创建页面

访问我的应用,单击创建应用-创建智能体应用

如果您之前已创建过应用,则单击右上角的创建应用

2. 选择大模型

进入大模型应用管理界面后,您需要进行大模型的选择与参数配置。您可以参考右图,单击设置,并在模型选择的下拉菜单中选择模型,此处选择通义千问-Max。您可以根据需求进行模型参数的配置,参数详情请将鼠标移动到image进行查看,若无特定需求保持默认即可。

image

3. 测试大模型应用

选择大模型之后,您就在百炼创建完成了一个大模型应用。您可以输入问题进行测试。

image

步骤二:拓展大模型应用的能力

您可以在百炼应用管理界面,通过设置Prompt、添加RAG与插件等方法拓展大模型应用的能力。

通过设置Prompt指引内容生成方向

您可以在百炼应用管理界面中输入Prompt来指引应用生成内容的方向。例如设置Prompt为:

请你模仿李白的语气。

输入“你好”,大模型应用的输出如右图。

image

通过RAG提升私域知识问答能力

RAG可以显著提高大模型应用在处理私域知识或垂直领域问答时的效果。此处向您展示通过百炼控制台操作将RAG的能力集成到大模型应用中的过程。

1. 上传数据

访问数据管理,单击导入数据。此处选择百炼系列手机产品介绍.docx作为知识库文件。在导入数据界面,将文件通过本地上传方式导入。

image

2. 创建知识库

  1. 访问知识库索引,单击创建知识库。在创建知识库界面填入知识库名称知识库描述,此处设置知识库名称为:百炼手机产品介绍,知识库描述为:本知识库包含有百炼手机产品的详细介绍。其它保持默认选项即可,单击下一步

  2. 单击选择文件,类目位置单击默认类目文件名称选择百炼系列手机产品介绍。单击导入完成

  3. 当状态为解析完成时,表示知识库创建完毕。

image

image

image

3. 在应用中集成RAG

  1. 访问我的应用,单击已创建应用卡片的管理按钮,进入百炼应用管理界面。单击知识检索增强按钮,Prompt中会自动填入让大模型参考知识库的指令。在选择知识库下拉列表中选择百炼手机产品介绍,其它选项保持默认即可。

  2. 向输入框输入问题:

    我喜欢打游戏,推荐哪款手机?

    从右图可以看到,在集成了RAG能力后,大模型应用可以根据上传的知识库文件来回答问题。

image

image

通过插件扩展大模型应用能力

插件可以使大模型应用更高效、更专业地应用到业务场景中。百炼提供了多种官方插件。您可以在大模型应用管理界面单击选择插件,便可以在官方插件栏中选择一个或多个插件。

同时您也可以添加自定义插件,详情请查看插件概述

1. 添加插件

此处以图片生成插件为例,在勾选对应插件后,单击添加

image

2. 测试插件效果

添加插件后,向输入框输入:

画一只猫

大模型应用的回复如右图,可以看到大模型应用调用了图像生成插件(即text_to_image)。

image

3. 使用更多插件

您可以在同一个大模型应用中选择最多10个插件。大模型应用会根据输入选择使用一个或多个插件。比如提问:

查一下杭州明天的天气,并将这个天气的西湖画出来。

大模型应用会输出如右图的内容。

image

步骤三:发布大模型应用

发布后的应用可以被API调用,也可以通过Web页面分享给同一主账号下的RAM子账号使用。您可以单击百炼应用管理界面右上角的发布按钮。如果您的应用非首次发布,弹窗会向您展示当前大模型应用相比于上一次发布时的修改项。在您确认修改项后单击确认发布

image

如果您的应用为首次发布,则不会有弹窗信息。

通过API调用

您可以单击大模型应用管理界面右上角的调用渠道,切换到API调用页签,查看通过API调用大模型应用的方法。其中大模型应用的唯一标识app_id已自动填在代码中,您只需将您的API Key对YOUR_API_KEY进行替换即可发起调用。

image

通过Web页面访问

您可以单击大模型应用管理界面右上角的调用渠道,切换到Web(PC/H5)页签。单击官方分享渠道右侧的创建按钮,即可获得生产链接。您可以将该链接分享给同一主账号下的RAM子账号使用。

image

打开链接后可以看到如下图所示内容:

image

下一步

  • 百炼提供了丰富的实践教程文档,如果您想快速将百炼集成到您的业务中,请参考实践教程