大模型应用管理

更新时间:
复制为 MD 格式

本文介绍如何创建并配置大模型应用,以实现大模型应用的呼叫或呼入功能。其中包含关联大模型网关、配置话术、开场白、呼叫音色、呼入配置、对话属性配置等。

步骤一:创建大模型应用

智能联络中心控制台 > 大模型通信 > 通信智能引擎 > 大模型应用管理页签,单击创建大模型应用,在弹出的对话框中配置基本信息,单击提交完成创建。

image

配置项说明

配置项

描述

示例

应用名称

请输入自定义名称。

测试应用

模型名称

选择已上线的大模型网关。

-

基模板本

选择基模板本。

-

最大并发

默认为100,如需调整请联系商务经理。

-

资质

选择已审核通过的资质,在语音服务资质管理页面中进行查看。

-

话术

选择已审核通过的话术,话术管理在语音服务中进行操作。

-

开场白

  • 文本:自定义开场白内容,支持使用变量格式为${param}。

  • 录音:支持WAV、MP3、M4A格式,文件不大于2M,长度不超过60秒。

    说明

    为了保障音色拟人度,开场白若使用录音文件,则音色选择时建议选择相同音色录音复刻后的音色。

文本:您好,请问您是${param}吗?

Prompt

请自定义Prompt内容,支持使用变量格式为${param}。

说明

Prompt是给大模型的输入指令,用来告诉大模型你希望它做什么。

你是专业的阿里云客服小美,负责处理客户售前咨询,需严格遵循以下规则: 1. 客户咨询${problem},请引导客户在${document}查看详情。2.客户咨询${other},请引导客户在${answer}查看详情。

呼叫音色

在弹窗中选择呼叫时使用的声音风格,可在线试听不同的音色。

-

呼叫音色配置

可根据业务需求选择呼叫时使用的音色类型、声音风格,自定义语速、音量,并支持在线试听。

image

步骤二:呼入配置(可选)

在创建大模型应用后,可以根据业务需求为大模型应用进行呼入配置,从而实现呼入场景的使用。

  1. 单击大模型应用管理 > 呼入配置进入呼入配置界面。

    image

  2. 选择使用阿里云号码或者客户自带线路号码。单击添加号码

    • 阿里云号码:即在语音服务中申请的号码。

      重要

      号码类型分为呼入呼出呼入+呼出三种类型。需选择支持呼入功能的号码,如呼入呼入+呼出这两种类型的号码。若没有支持呼入功能的号码,可在语音服务控制台 > 真实号申请界面申请支持呼入功能的号码,具体操作请参见真实号申请

      image

    • 客户自带线路号码:使用客户自带线路的号码。

      说明

      客户自带线路目前属于内部邀约功能,在使用之前请联系商务经理进行加白。具体内容请参见客户自带线路

      image

  3. 回调配置:在用户呼入时,支持通过主叫、被叫来获取开场白变量。

    image

    1. HTTP请求地址:必填,以httphttps开头,不超过200个字符。

    2. 响应变量配置:变量自动读取,读取来源为应用的“文本”开场白中的变量。可点击重新识别拉取最新的变量。

      说明

      允许无任何变量场景,主要为了传递进线号码等信息。

      image

    3. 示例:按照输入示例填写,点击测试按钮,在弹出框输入主叫号码被叫号码

      image

    4. 超时设置:必填,配置读取变量的超时时间,超时情况下会读取变量默认值。

步骤三:转人工坐席配置(可选)

说明

在配置转人工坐席前需要先完成人工坐席线路对接申请并审核通过。可以点击人工坐席线路查看详情。

在创建大模型应用后,可以根据业务需求为大模型应用进行转人工坐席配置,从而实现呼叫转人工坐席场景的使用。

  1. 单击大模型应用管理 > 转人工坐席配置打开转人工坐席配置弹窗。

image.png

  1. 单机打开转人工坐席功能。

image.png

配置项说明

配置项

说明

坐席线路名称

选择已审核通过的人工坐席线路名称

转接被叫号码

用于接收转接呼叫请求,该号码需要您与坐席平台确认。

转接类型

当通信引擎收到大模型输出的转人工坐席标签后,将通话转接到技能组或者坐席。

转接类型ID

需要转接的人工坐席类型ID,如队列ID或坐席ID等。

转人工坐席提示语

在收到转接指令后播放该提示语,放音完成后转接坐席平台。如果坐席平台有放音提示,建议不要配置避免冲突。

转人工坐席失败提示

转坐席平台失败后播放该提示语,放音完成后结束通话。

  1. 单击确认

步骤四:对话属性配置

单击大模型应用管理 > 对话属性配置,在弹出的对话框中配置对话属性,单击确定完成配置。

image

image

配置项说明

配置项

描述

最佳实践配置

静音时长

当通话双方都不说话时,通过配置等待时长,触发静音模型,配置范围为3~15s。

5

静默触发模型

当客户没有说话,主动触发调用模型的动作时,模型应用会在内容里面输入一个固定的话术=>用户没有说话。如果需要定制内容可以联系技术支持进行个性化配置。

取值:

  • 是:开启静默触发模型,当通话双方都没有说话的时候会主动触发模型生成内容,并把静默事件推送给客户大模型。

  • 否:不开启静默触发模型。

静音挂断配置

通过配置静音事件发生次数,触发主动挂断来结束通话,配置范围1~5次。

3

智能接听识别

默认为开启状态,开启后自动识别语音助手/信箱,并通过LlmSmartCallReport-呼叫记录消息返回智能状态码

-

是否立即挂断

当智能接听识别到语音助手/信箱时,选择是否需要中断通话,默认为否,可根据自身业务需求选择开启立即挂断。

-

最大通话时长

时长限制为300~3600秒,到期后自动挂断。

-

摩斯码放音配置

开启后,会在对话结束后播放该音频由AI生成的摩斯码声明。

-

开场白不打断

开启后,大模型将在开场指定时间内屏蔽任何打断。适用于必须完整播报身份或重要通知的场景,防止因客户抢话或环境噪音导致开场白中断。有两个选项:

  • 全程不允许打断

  • 开场指定时间内不允许打断

-

防止连续抢话

当抢话次数超过阈值时,大模型将在配置时间内忽略打断,强制把话说完,确保对话流畅。

可配置当连续打断超过X次时,X秒内不允许打断。

-

打断垫词

开启后,当客户打断大模型时,一定条件下会先回应“您说”、“嗯”等真人语气助词,将话语权让给客户。能降低机器感,提升交互自然度。

-

步骤五:查看大模型应用详情

在完成对话框属性配置后,可以查看大模型的应用详情。在大模型应用管理页签,单击已创建大模型应用的详情,在弹出的对话框中查看详情内容。

image

image

打断事件说明

当在使用大模型应用进行对话时,将有可能触发对话打断事件。若触发对话打断事件,大模型应用会对打断的点位进行预测,将触发打断事件后的内容传给大模型。

若机器人在说这是一个测试开场白这句话时,在说到这是一个的时候您说了你是谁,那么就会触发打断事件,进行打断点位的预测,那么传给大模型的就不是:

[
  {
    "role": "assistant",
    "content": "这是一个测试开场白"
  },
  {
    "role": "user",
    "content": "你是谁?"
  }
]

而是 :

[
  {
    "role": "assistant",
    "content": "这是一个"
  },
  {
    "role": "user",
    "content": "你是谁?"
  }
]