本文介绍决策模型的 SQL 调用方式、问题定义,以及决策函数的使用方法和错误处理。
使用限制
仅实时计算引擎 VVR 11.10.preview1 及以上版本支持。
使用前需开通 Flink AI服务(内置模型)。
调用方式
您可以在模型中配置问题后使用 ML_PREDICT 调用,也可以在决策函数中指定问题。
调用方式 | 问题配置位置 | 使用方式 |
| 模型 | 在 |
决策函数 | 函数的 | 在 |
调用级配置的设置方式,请参见通用调用。使用决策模型时,需注意以下要求。
仅支持异步调用。
使用
ML_PREDICT时,不得启用调用级或全局 Bundle 配置。决策函数不支持调用级 Bundle 配置,不受全局 Bundle 配置影响。
extra-body不得包含model、state、questions。
问题定义
questions 使用 JSON 对象定义一个或多个问题。对象的键为自定义问题 ID,值为问题定义。AI_DECIDE 的 QUESTION 参数使用相同格式。
字段 | 是否必填 | 说明 |
type | 是 | 问题类型,支持 |
instructions | 否 | 问题描述或判断标准。支持字符串、JSON 对象或数组。 |
criteria | 条件必填 | 候选类别或评分等级,格式取决于问题类型。 |
问题类型 | 用途 | criteria 格式 | 主要答案 |
| 判断条件成立的概率。 | 可选对象,通过 |
|
| 从候选类别中选择一个类别。 | 必填对象,键为类别标签,值为类别描述。 |
|
| 按有序等级评分。 | 必填数组,按等级从低到高排列。 |
|
问题定义及相关限制,请参见百炼决策模型 API“请求参数”中的 questions 部分。
以下示例定义两个问题:是否需要客服跟进,以及应由哪个团队处理。
{
"need_help": {
"type": "noul",
"instructions": "用户是否仍有需要客服处理的诉求?"
},
"category": {
"type": "choice",
"instructions": "应由哪个团队处理?",
"criteria": {
"售后": "退换货和商品质量问题",
"物流": "配送、揽收和取件问题",
"其他": "其他客服诉求"
}
}
}
使用 ML_PREDICT
模型配置和输出类型
模型配置要求如下。
输入列:仅支持一个
STRING或VARIANT类型的列。VARIANT值支持 JSON 字符串、对象和数组。问题定义:通过
questions参数配置。输出列:仅支持一个输出列,根据需要选择下表中的类型。
输出列类型 | 适用情况 | 说明 |
| 返回单个问题的主要答案。 |
|
| 返回一个或多个问题的主要答案。 | 字段名称及顺序必须与 |
| 返回完整答案。 | 保留各问题的完整答案及相关详细信息。 |
完整调用示例
以下示例创建测试数据和决策模型,并返回 VARIANT 类型的完整答案。后续决策函数示例复用此处的视图和模型。
CREATE TEMPORARY VIEW tickets(id, content) AS VALUES
(1, '商品无法开机,申请退货。'),
(2, '退款已经到账了,现在的问题是退件一直没人来取。'),
(3, '刚才的问题已经解决了,谢谢。');
CREATE TEMPORARY MODEL jev_model
INPUT (state STRING)
OUTPUT (answer VARIANT)
WITH (
'provider' = 'dashscope',
'task' = 'decision',
'model' = 'decision-model-preview',
'questions' = '{
"need_help": {
"type": "noul",
"instructions": "用户是否仍有需要客服处理的诉求?"
},
"category": {
"type": "choice",
"instructions": "应由哪个团队处理?",
"criteria": {
"售后": "退换货和商品质量问题",
"物流": "配送、揽收和取件问题",
"其他": "其他客服诉求"
}
}
}'
);
SELECT
id,
answer
FROM ML_PREDICT(
TABLE tickets,
MODEL jev_model,
DESCRIPTOR(content)
);
完整答案可包含判定结果、置信度和概率分布等内容,具体结构及字段含义请参见百炼决策模型 API“返回参数”中的 answers 部分。ML_PREDICT 的通用语法,请参见通用调用。
使用决策函数
决策函数要求模型仅有一个 VARIANT 类型的输出列。调用时使用函数参数指定的问题定义,模型的 questions 参数可以省略。
函数 | 作用 |
判断给定条件成立的概率。 | |
从候选类别中选择一个类别。 | |
按自定义的有序等级评分。 | |
使用 JSON 定义一个或多个问题,返回各问题的答案。 |
以下示例复用前文的 tickets 视图。各函数的参数和返回结果,请参见对应文档。
CREATE TEMPORARY MODEL jev_model
INPUT (state STRING)
OUTPUT (answer VARIANT)
WITH (
'provider' = 'dashscope',
'task' = 'decision',
'model' = 'decision-model-preview'
);
SELECT
id,
AI_PROB(
MODEL => MODEL jev_model,
STATE => content,
QUESTION => '用户是否仍有需要客服处理的诉求?'
) AS need_help,
AI_CHOICE(
MODEL => MODEL jev_model,
STATE => content,
QUESTION => '应由哪个团队处理?',
CRITERIA => MAP['售后', '退换货和商品质量问题', '物流', '配送、揽收和取件问题', '其他', '其他客服诉求']
) AS category,
AI_SCORE(
MODEL => MODEL jev_model,
STATE => content,
QUESTION => '问题对用户使用的影响有多大?',
CRITERIA => ARRAY['不影响使用', '部分功能受影响', '无法继续使用']
) AS impact,
AI_DECIDE(
MODEL => MODEL jev_model,
STATE => content,
QUESTION => '{
"need_help": {"type": "noul", "instructions": "是否仍需客服跟进?"},
"impact": {"type": "score", "instructions": "问题对用户使用的影响有多大?", "criteria": ["不影响使用", "部分功能受影响", "无法继续使用"]}
}'
) AS decisions
FROM tickets;
错误处理
错误处理的开启条件、重试配置和错误分类,请参见通用调用。以下说明四个决策函数的返回结构。
设置 FAIL_ON_ERROR => FALSE 后,函数结果会增加错误信息字段,返回类型如下。
调用形式 | FAIL_ON_ERROR 为 FALSE 时的返回类型 |
单个主要答案,类型为 T |
|
| 在原有问题字段后追加 |
|
|
调用成功:
err_msg为NULL。预测最终失败:答案字段为
NULL,err_msg包含错误信息。字段重名:问题 ID 与
err_msg重名时,错误字段会追加数字后缀,例如err_msg0。语法或参数校验错误仍会使 SQL 校验失败。
以下示例返回概率及错误原因。
CREATE TEMPORARY VIEW followup_results AS
SELECT
id,
AI_PROB(
MODEL => MODEL jev_model,
STATE => content,
QUESTION => '用户是否仍有需要客服处理的诉求?',
FAIL_ON_ERROR => FALSE
) AS decision_result
FROM tickets;
SELECT
id,
decision_result.answer AS probability,
TRY_CAST(decision_result.err_msg['message'] AS STRING) AS error_message
FROM followup_results;
请通过错误字段是否为 NULL 判断预测是否失败,不能仅根据答案是否为 NULL 判断。