大模型场景下API插件使用案例

智能外呼机器人的大模型场景下如何使用API插件介绍。

使用前提

  1. 该主账号需要开通函数计算服务

  2. 在智能外呼机器人的实例下,进入系统管理->服务授权配置。需要通过主账号RAM访问控制中授权函数计算服务的权限。image

配置API插件

功能入口

控制台左侧的功能列表中选择大模型场景管理下的场景管理,进入场景管理后,选择进入API插件image

新增API插件

  1. 点击新建API插件按钮,左侧弹出配置窗口。image

  2. 自定义填写插件名称、插件描述。注意:最好根据实际用途填写,增强模型识别效果。

    • 我这里配置查询手机号码归属地能力。image

  3. 函数选择

    • 点击函数管理按钮,会跳转到函数计算服务中。imageimage

      • 进入函数计算服务中,点击创建函数按钮,选择事件函数。image

      • 这里我新建一个事件函数,函数名称为Get_phoneLocation,运行环境我在这里选择内置运行/Python/Python3.10,使用处理HTTP请求示例代码。点击创建按钮,完成函数创建。image

      • 在内置编辑器中我配置了一个获取号码归属地的代码请求示例:image

      • 配置好自己的代码后选择部署代码按钮,完成部署。image

      • 可以进行测试函数来对代码进行测试检查是否可以执行。

        • 选择测试函数按钮的下拉钮,根据实际需要进行选择测试方式,我这里选择配置测试参数。image

        • 编辑配置测试参数。image

        • 配置完成后,点击测试函数按钮,可以查看是否执行成功和结果。当代码执行成功,并且成功返回对应结果,表示该函数已配置完成。image

    • 在函数计算中配置完成后,回到新建API插件页面,继续进行函数选择的填写。

      • Region参数:这里选择创建函数计算服务时页面上选择的地域。请根据实际选择,我这里选择的华东2(上海)。image

      • 函数名称:需与你使用的函数计算服务中的函数名称对应,我这里是Get_phoneLocation。

      • 备用Region:自定义选择是否选择对应的备用Region。默认为空。

  4. 可以配置API调用前播报话术,在API结果返回前会先播报该话术,减少用户等待时间。我这里使用默认的。

  5. 输入参数:image

    • 填写函数计算中代码内需要参数一致,我这里填写的是phone,类型选择String,根据自己的业务需求选择取值来源、是否必填、参数解释,取值来源可以选择变量或者模型识别。我这里选择的取值来源为模型识别。

    • 若多个参数可以选择新增参数按钮,配置如上。

    • 同时可以配置一个调试模拟值,来进行查询结果,判断是否成功调用函数计算服务。imageimage

  6. 输出参数为系统内置,无法修改。

  7. 同时可以配置调用超时时间,API结果返回超时,将停止调用,我这里选择默认5秒。

  8. 配置完成后,点击确认即可完成创建。image

如何编辑API插件

点击编辑按钮,左侧弹出编辑API插件修改页。image

草稿版本

可以在草稿版本中对API插件进行编辑,根据实际的业务需要进行修改,如果修改后想要撤回,可以点击重置为正式版按钮进行撤销修改。image

正式版

在正式版中无法对内容修改,仅可进行调试模拟值。image

如何发布API插件

新建或者编辑API插件完成后,当前API插件还处于草稿状态或者已发布(已编辑)状态,无法在大模型场景中实际使用最新修改结果,点击发布按钮,即可完成发布。image

如何在大模型场景中使用API插件

功能入口

在控制台中选择大模型场景管理下的场景管理,点击大模型场景列表,选择某个大模型场景,我这里选择进入大模型接口测试。image

如何绑定API插件

进入某个大模型场景后,点击选择API插件按钮,选择需要的API插件进行添加。

image

添加成功后,查看已绑定的API插件。image

绑定成功后,可以在提示词中选择位置插入API插件。imageimage

插入完成后,点击保存,即可完成机器人配置

测试效果

image