大模型外呼机器人中进行配置函数计算服务。
前提条件
在大模型场景中调用API能力,需要提前开通函数计算服务并且在函数计算服务中创建对应的服务,若业务需求需要使用自有API也必须使用阿里云的函数计算,在函数计算中再调用自有的API。
功能入口
进入智能外呼机器人实例后,选择大模型场景管理,点击选择API插件。
功能说明
新建API插件
进入API插件页面后,选择左上角新建API插件按钮,并且进行配置。
新建AP插件I的具体参数如下:
插件名称:自定义插件名称,最多可填入50个字。
插件描述:描写API插件的用途,提升模型识别效果。
函数选择:进入函数计算服务找到需要配置到大模型场景中的函数服务,将其对应参数填入。
Region:选择对应函数计算的地域。
函数名称:填入函数计算中对应的函数名称。
备用Region:选择对应的备用Region。
API调用前播报话术:在API结果返回前,会先播报该话术,减少用户等待时间。
输入参数:填写调用API插件所需参数,参数可通过变量上传或模型对话产生。
注意:API插件中所用的参数与类型需与函数计算中参数与类型保持一致。
输出参数:直接返回API结果,并且作为提示词输入给模型。
API调用超时时间:自定义API结果返回超时,将停止调用。
参数填写完成后,即可输入一个调试模拟值再点击调试查看结果是否正确,我这里配置的获取手机号归属地址API接口,在使用时。
调试没有问题的话即可点击确认创建完成后,即可在API插件列表中查看API插件的信息。
发布API插件
在刚刚新建API插件或者刚刚修改API插件后,此时API插件状态未草稿或者已编辑状态,此时无法在场景中使用最新的API插件,需要点击发布按钮,即可完成发布,并可以在Prompt中调用。
编辑API插件
若需要对已存在的插件进行修改,可以通过点击操作菜单中的编辑按钮对API插件进行编辑。
若当前插件为草稿状态可直接编辑当前插件。
若当前状态是已发布状态,点击编辑按钮,可查看草稿版与正式版,若在草稿中修改完成后,在点击确认,再点击发布即可覆盖到正式版本,若在草稿中修改完后,想要返回到正式版内容,可点击重置为正式版,将正式版本内容覆盖到草稿版本。再点击发布即可。
调试API插件
在新建API插件或者编辑API后,可以点击调试按钮,并且配置对应的调试模拟值进行测试,输出返回值。
删除API插件
在实际业务中,若不需要某个API插件时,可以点击删除按钮,即可删除对应的API插件。
创建完成后,即可在机器人配置中进行插入需要的API插件,详细可参考机器人配置。