如何创建应用调用大模型能力

创建应用操作说明

1. 新增应用

路径1：您可以在这里新建应用，并将应用接入您的场景中。单击创建应用按钮。

路径2：您也可以在应用广场中选择系统默认应用模板进行创建。

2.选择应用模型配置

①单击设置按钮，选择模型，本次示例按照通义千问-Max为例。参数配置可以调整，本次展示为默认数值。

②点击左上角编辑按钮，可以修改应用名称。

3、应用内容配置说明

prompt：可以用来为模型授予角色和技能。

prompt优化：针对输入的prompt进行专业优化，使模型更容易理解指令。

知识检索增强：开启后可通过指定知识库检索对应文档内容。

长期记忆：长期记忆功能是针对终端用户提供的一项个性化功能，系统将根据对话历史自动生成终端用户画像，并根据用户画像回答最新问题，从而实现个性化回复。当您打开长期记忆功能后，系统自动将相应的system prompt添加到上方的Prompt编辑框中。

选择插件：官方提供4款预置插件，结合增强大语言模型的规划调度能力和生成能力，更好地在您的业务场景中落地。本次以插件能力为例，选择计算器、python代码解释器能力。

4. 测试

以上内容配置完成后，点击保存并发布按钮，在页面右侧可以先简单地进行测试验证模型效果。在输入框中输入【测试内容】，验证模型回复的答案内容。

5. 更新应用设置

点击设置可以设置干预输入话术，设置触发关键词，将会回复已经设定好的回复内容；点击添加新增完成。 默认是未启用状态，点击启用后生效。支持禁用、编辑、删除操作。

创建干预话术规则

• 规则名称：支持中英文、数字，最多支持20字符；

• 规则条件：默认为空，点击“新增条件”按钮，选择所需的条件类型。

  • 注意：干预输入话术支持关键词、正则表达式、语义意图三种类型；

  • 干预生成结果仅支持关键词一种类型；

  • 关键词：新建条件后，默认为“包含”，最多支持输入50个关键词；

  • 正则表达式：新建条件后，默认为“包含”，最多支持输入10个表达式；配置方法参考正则表达式配置。

  • 语义意图：新建条件后，默认为“包含”，最多支持输入10个相似语句。

• 回复话术：支持干预回复内容，并调整为回复话术，支持中英文、数字，最多支持500字符。

• 规则新建完成默认为“已禁用”状态，需要用户手动开启该规则。

6. 调用

阿里云百炼支持API接口调用，点击调用即可获取到API详细信息。