API插件配置

大模型外呼机器人中进行配置函数计算服务。

前提条件

在大模型场景中调用API能力,需要提前开通函数计算服务并且在函数计算服务中创建对应的服务,若业务需求需要使用自有API也必须使用阿里云的函数计算,在函数计算中再调用自有的API。

功能入口

进入智能外呼机器人实例后,选择大模型场景管理,点击选择API插件。image

功能说明

新建API插件

进入API插件页面后,选择左上角新建API插件按钮,并且进行配置。

image

新建AP插件I的具体参数如下:

  • 插件名称:自定义插件名称,最多可填入50个字。

  • 插件描述:描写API插件的用途,提升模型识别效果。

  • 函数选择:进入函数计算服务找到需要配置到大模型场景中的函数服务,将其对应参数填入。

    • Region:选择对应函数计算的地域。

    • 函数名称:填入函数计算中对应的函数名称。

    • 备用Region:选择对应的备用Region。

  • API调用前播报话术:在API结果返回前,会先播报该话术,减少用户等待时间。

  • 输入参数:填写调用API插件所需参数,参数可通过变量上传或模型对话产生。

说明

注意:API插件中所用的参数与类型需与函数计算中参数与类型保持一致。

  • 输出参数:直接返回API结果,并且作为提示词输入给模型。

  • API调用超时时间:自定义API结果返回超时,将停止调用。

参数填写完成后,即可输入一个调试模拟值再点击调试查看结果是否正确,我这里配置的获取手机号归属地址API接口,在使用时。image

调试没有问题的话即可点击确认创建完成后,即可在API插件列表中查看API插件的信息。

image

发布API插件

在刚刚新建API插件或者刚刚修改API插件后,此时API插件状态未草稿或者已编辑状态,此时无法在场景中使用最新的API插件,需要点击发布按钮,即可完成发布,并可以在Prompt中调用。image

编辑API插件

若需要对已存在的插件进行修改,可以通过点击操作菜单中的编辑按钮对API插件进行编辑。

  • 若当前插件为草稿状态可直接编辑当前插件。

    imageimage

  • 若当前状态是已发布状态,点击编辑按钮,可查看草稿版与正式版,若在草稿中修改完成后,在点击确认,再点击发布即可覆盖到正式版本,若在草稿中修改完后,想要返回到正式版内容,可点击重置为正式版,将正式版本内容覆盖到草稿版本。再点击发布即可。image

调试API插件

在新建API插件或者编辑API后,可以点击调试按钮,并且配置对应的调试模拟值进行测试,输出返回值。

image

删除API插件

在实际业务中,若不需要某个API插件时,可以点击删除按钮,即可删除对应的API插件。image

说明

创建完成后,即可在机器人配置中进行插入需要的API插件,详细可参考机器人配置