本文介绍如何创建并配置大模型应用,以实现大模型应用的呼叫或呼入功能。其中包含关联大模型网关、配置话术、开场白、呼叫音色、呼入配置、对话属性配置等。
步骤一:创建大模型应用
在页签,单击创建大模型应用,在弹出的对话框中配置基本信息,单击提交完成创建。
配置项说明
配置项 | 描述 | 示例 |
应用名称 | 请输入自定义名称。 | 测试应用 |
模型名称 | 选择已上线的大模型网关。 | - |
基模板本 | 选择基模板本。 | - |
最大并发 | 默认为100,如需调整请联系商务经理。 | - |
资质 | 选择已审核通过的资质,在语音服务资质管理页面中进行查看。 | - |
话术 | 选择已审核通过的话术,话术管理在语音服务中进行操作。 | - |
开场白 |
| 文本:您好,请问您是${param}吗? |
Prompt | 请自定义Prompt内容,支持使用变量格式为${param}。 说明 Prompt是给大模型的输入指令,用来告诉大模型你希望它做什么。 | 你是专业的阿里云客服小美,负责处理客户售前咨询,需严格遵循以下规则: 1. 客户咨询${problem},请引导客户在${document}查看详情。2.客户咨询${other},请引导客户在${answer}查看详情。 |
呼叫音色 | 在弹窗中选择呼叫时使用的声音风格,可在线试听不同的音色。 | - |
呼叫音色配置
可根据业务需求选择呼叫时使用的音色类型、声音风格,自定义语速、音量,并支持在线试听。
在呼叫音色弹窗中,音色类型支持选择阿里云Cosyvoice系统预置音色等,可通过音色名称、建议用途、性别筛选音色,表格展示音色特质、细分场景、语言等信息,每条音色可单击试听。语速取值范围为-200~200,音量取值范围为0~100,还可配置是否开启混音和是否开启背景音。在内容试听区域输入试听文本(最多100字符),选择是否合成开场白进行试听,单击试听音频进行试听,确认后单击确定。
步骤二:呼入配置(可选)
在创建大模型应用后,可以根据业务需求为大模型应用进行呼入配置,从而实现呼入场景的使用。
单击进入呼入配置界面。
选择使用阿里云号码或者客户自带线路号码。单击添加号码。一个呼入号码只能配置到一个应用。
回调配置:在用户呼入时,支持通过主叫、被叫来获取开场白变量。
打开回调配置右侧的开关,完成各项参数配置后单击确定开启。
HTTP请求地址:必填,以http或https开头,不超过200个字符。
AICCS 向已配置的 HTTP 请求地址发起回调时,请求头中会携带以下鉴权参数,大模型网关服务端可据此验证请求来源的合法性:
参数名
说明
timestamp
当前时间戳,单位为毫秒。
auth
MD5 签名值,计算公式为
MD5(caller + uid + timestamp),结果转为小写十六进制字符串。uid为阿里云账号UID。在大模型网关服务端,可从 HTTP 请求头中读取
timestamp和auth字段,按照相同公式重新计算签名并与auth值对比,以验证请求来源是否可信。以下为完整的调用示例,供大模型网关服务端对接参考。
调用示例(入参)
curl -X POST "${URL}" \ -H "Content-Type: application/json" \ -H "Accept: application/json" \ -H "timestamp: ${TIMESTAMP}" \ -H "auth: ${AUTH}" \ -d '{ "caller": "主叫号码", "callee": "被叫号码", "callId": "callId", "applicationCode": "应用code" }'其中:
${TIMESTAMP}:当前时间戳,单位为毫秒。${AUTH}:MD5 签名值,计算公式为 MD5(caller + uid + timestamp),结果转为小写十六进制字符串。可基于auth校验请求是否合规,timestamp用于防重放攻击。uid为阿里云账号UID。
响应格式(出参)
根据开场白是否包含变量,响应内容有以下三种情况:
无变量场景:开场白不含变量时,直接返回:
{"code":"OK"}有变量场景:开场白包含变量(例如变量名为
name、city)时,返回对应变量值:{"name":"张先生","city":"上海"}需传值到模型场景:需将业务参数透传到大模型时,在变量值基础上额外返回
bizParam字段,值为 JSON 字符串:{"name":"张先生","city":"上海","bizParam":"{\"bizId\": \"1234qwer876\"}"}
响应变量配置:变量自动读取,读取来源为应用的“文本”开场白中的变量。可点击重新识别拉取最新的变量。
说明允许无任何变量场景,主要为了传递进线号码等信息。
在创建大模型应用表单中,开场白类型支持文本和录音两种选项。选择文本后,在文本内容输入框下方提示:开场白支持变量,变量格式为
${param},例如:您好,请问您是${param}吗?Prompt 输入框同样支持该变量格式。表单底部可通过选择呼叫音色按钮配置音色。示例:按照输入示例填写,点击测试按钮,在弹出框输入主叫号码和被叫号码。
超时设置:必填,配置读取变量的超时时间,超时情况下会读取变量默认值。
步骤三:转人工坐席配置(可选)
在配置转人工坐席前需要先完成人工坐席线路对接申请并审核通过。可以点击人工坐席线路查看详情。
在创建大模型应用后,可以根据业务需求为大模型应用进行转人工坐席配置,从而实现呼叫转人工坐席场景的使用。
单击打开转人工坐席配置弹窗。
单击打开转人工坐席功能。
配置项说明
配置项
说明
坐席线路名称
选择已审核通过的人工坐席线路名称
转接被叫号码
用于接收转接呼叫请求,该号码需要您与坐席平台确认。
转接类型
当通信引擎收到大模型输出的转人工坐席标签后,将通话转接到技能组或者坐席。
转接类型ID
需要转接的人工坐席类型ID,如队列ID或坐席ID等。
转人工坐席提示语
在收到转接指令后播放该提示语,放音完成后转接坐席平台。如果坐席平台有放音提示,建议不要配置避免冲突。
转人工坐席失败提示
转坐席平台失败后播放该提示语,放音完成后结束通话。
单击确认。
步骤四:对话属性配置
单击,在弹出的对话框中配置对话属性,单击确定完成配置。
配置项说明
配置项 | 描述 | 最佳实践配置 |
静音时长 | 当通话双方都不说话时,通过配置等待时长,触发静音模型,配置范围为3~15s。 | 5 |
静默触发模型 | 当客户没有说话,主动触发调用模型的动作时,模型应用会在内容里面输入一个固定的话术=>用户没有说话。如果需要定制内容可以联系技术支持进行个性化配置。 取值:
| 是 |
静音挂断配置 | 通过配置静音事件发生次数,触发主动挂断来结束通话,配置范围1~5次。 | 3 |
智能接听识别 | 默认为开启状态,开启后自动识别语音助手/信箱,并通过LlmSmartCallReport-呼叫记录消息返回智能状态码。 | - |
是否立即挂断 | 当智能接听识别到语音助手/信箱时,选择是否需要中断通话,默认为否,可根据自身业务需求选择开启立即挂断。 | - |
最大通话时长 | 时长限制为300~3600秒,到期后自动挂断。 | - |
摩斯码放音配置 | 开启后,会在对话结束后播放该音频由AI生成的摩斯码声明。 | - |
开场白不打断 | 开启后,大模型将在开场指定时间内屏蔽任何打断。适用于必须完整播报身份或重要通知的场景,防止因客户抢话或环境噪音导致开场白中断。有两个选项:
| - |
防止连续抢话 | 当抢话次数超过阈值时,大模型将在配置时间内忽略打断,强制把话说完,确保对话流畅。 可配置当连续打断超过X次时,X秒内不允许打断。 | - |
打断垫词 | 开启后,当客户打断大模型时,一定条件下会先回应“您说”、“嗯”等真人语气助词,将话语权让给客户。能降低机器感,提升交互自然度。 | - |
步骤五:关联小记智能体配置(可选)
前提条件:已创建小记智能体,请参见小记智能体。
-
请访问智能联络中心控制台,在导航栏中选择。
-
找到对应的应用,点击操作栏小记智能体配置。
-
是否关联小记智能体选择是,选择对应的小记智能体。
关联小记智能体会产生额外费用,计费规则请参考资费说明。如果没有需要的小记智能体,可单击创建小记智能体进行创建。
步骤六:查看大模型应用详情
在完成对话框属性配置后,可以查看大模型的应用详情。在大模型应用管理页签,单击已创建大模型应用的详情,在弹出的对话框中查看详情内容。
详情页面包含两部分:基本信息(应用名称、应用编码、模型名称、模型编码、资质、话术、用途、场景、开场白、Prompt、呼叫音色、呼叫音量、呼叫语速、基模版本、最大并发、热词库)和对话属性(静音触发模型、静音时长、静音挂断配置、智能接听识别、最大通话时长)。
打断事件说明
当在使用大模型应用进行对话时,将有可能触发对话打断事件。若触发对话打断事件,大模型应用会对打断的点位进行预测,将触发打断事件后的内容传给大模型。
若机器人在说这是一个测试开场白这句话时,在说到这是一个的时候您说了你是谁,那么就会触发打断事件,进行打断点位的预测,那么传给大模型的就不是:
[
{
"role": "assistant",
"content": "这是一个测试开场白"
},
{
"role": "user",
"content": "你是谁?"
}
]而是 :
[
{
"role": "assistant",
"content": "这是一个"
},
{
"role": "user",
"content": "你是谁?"
}
]