决策函数使用概述

更新时间:
复制 MD 格式

本文介绍决策模型的 SQL 调用方式、问题定义,以及决策函数的使用方法和错误处理。

使用限制

调用方式

您可以在模型中配置问题后使用 ML_PREDICT 调用,也可以在决策函数中指定问题。

调用方式

问题配置位置

使用方式

ML_PREDICT

模型 WITH 参数中的 questions。

在 FROM 子句中调用,返回输入列和预测结果列。

决策函数

函数的 QUESTION、CRITERIA 参数。

在 SELECT、WHERE 等 SQL 表达式中调用。

调用级配置的设置方式,请参见通用调用。使用决策模型时,需注意以下要求。

  • 仅支持异步调用。

  • 使用 ML_PREDICT 时,不得启用调用级或全局 Bundle 配置。

  • 决策函数不支持调用级 Bundle 配置,不受全局 Bundle 配置影响。

  • extra-body 不得包含 model、state、questions。

问题定义

questions 使用 JSON 对象定义一个或多个问题。对象的键为自定义问题 ID,值为问题定义。AI_DECIDE 的 QUESTION 参数使用相同格式。

字段

是否必填

说明

type

是

问题类型,支持 noul、choice、score。

instructions

否

问题描述或判断标准。支持字符串、JSON 对象或数组。

criteria

条件必填

候选类别或评分等级,格式取决于问题类型。

问题类型

用途

criteria 格式

主要答案

noul

判断条件成立的概率。

可选对象,通过 false、true 分别描述条件不成立和成立的情况。

DOUBLE,范围为 0~1。

choice

从候选类别中选择一个类别。

必填对象,键为类别标签,值为类别描述。

STRING,模型选择的类别标签。

score

按有序等级评分。

必填数组,按等级从低到高排列。

DOUBLE,N 个等级对应 0~N−1 的评分范围,可以为小数。

问题定义及相关限制,请参见百炼决策模型 API“请求参数”中的 questions 部分。

以下示例定义两个问题:是否需要客服跟进,以及应由哪个团队处理。

{
  "need_help": {
    "type": "noul",
    "instructions": "用户是否仍有需要客服处理的诉求?"
  },
  "category": {
    "type": "choice",
    "instructions": "应由哪个团队处理?",
    "criteria": {
      "售后": "退换货和商品质量问题",
      "物流": "配送、揽收和取件问题",
      "其他": "其他客服诉求"
    }
  }
}

使用 ML_PREDICT

模型配置和输出类型

模型配置要求如下。

  • 输入列:仅支持一个 STRING 或 VARIANT 类型的列。VARIANT 值支持 JSON 字符串、对象和数组。

  • 问题定义:通过 questions 参数配置。

  • 输出列:仅支持一个输出列,根据需要选择下表中的类型。

输出列类型

适用情况

说明

DOUBLE 或 STRING

返回单个问题的主要答案。

questions 只能包含一个问题。noul、score 使用 DOUBLE,choice 使用 STRING。

ROW

返回一个或多个问题的主要答案。

字段名称及顺序必须与 questions 中的问题 ID 一致,字段类型须与对应问题类型匹配。

VARIANT

返回完整答案。

保留各问题的完整答案及相关详细信息。

完整调用示例

以下示例创建测试数据和决策模型,并返回 VARIANT 类型的完整答案。后续决策函数示例复用此处的视图和模型。

CREATE TEMPORARY VIEW tickets(id, content) AS VALUES
    (1, '商品无法开机,申请退货。'),
    (2, '退款已经到账了,现在的问题是退件一直没人来取。'),
    (3, '刚才的问题已经解决了,谢谢。');

CREATE TEMPORARY MODEL jev_model
INPUT (state STRING)
OUTPUT (answer VARIANT)
WITH (
    'provider' = 'dashscope',
    'task' = 'decision',
    'model' = 'decision-model-preview',
    'questions' = '{
      "need_help": {
        "type": "noul",
        "instructions": "用户是否仍有需要客服处理的诉求?"
      },
      "category": {
        "type": "choice",
        "instructions": "应由哪个团队处理?",
        "criteria": {
          "售后": "退换货和商品质量问题",
          "物流": "配送、揽收和取件问题",
          "其他": "其他客服诉求"
        }
      }
    }'
);

SELECT
    id,
    answer
FROM ML_PREDICT(
    TABLE tickets,
    MODEL jev_model,
    DESCRIPTOR(content)
);

完整答案可包含判定结果、置信度和概率分布等内容,具体结构及字段含义请参见百炼决策模型 API“返回参数”中的 answers 部分。ML_PREDICT 的通用语法,请参见通用调用。

使用决策函数

决策函数要求模型仅有一个 VARIANT 类型的输出列。调用时使用函数参数指定的问题定义,模型的 questions 参数可以省略。

函数

作用

概率判断(AI_PROB)

判断给定条件成立的概率。

类别选择(AI_CHOICE)

从候选类别中选择一个类别。

业务评分(AI_SCORE)

按自定义的有序等级评分。

综合决策(AI_DECIDE)

使用 JSON 定义一个或多个问题,返回各问题的答案。

以下示例复用前文的 tickets 视图。各函数的参数和返回结果,请参见对应文档。

CREATE TEMPORARY MODEL jev_model
INPUT (state STRING)
OUTPUT (answer VARIANT)
WITH (
    'provider' = 'dashscope',
    'task' = 'decision',
    'model' = 'decision-model-preview'
);

SELECT
    id,
    AI_PROB(
        MODEL => MODEL jev_model,
        STATE => content,
        QUESTION => '用户是否仍有需要客服处理的诉求?'
    ) AS need_help,
    AI_CHOICE(
        MODEL => MODEL jev_model,
        STATE => content,
        QUESTION => '应由哪个团队处理?',
        CRITERIA => MAP['售后', '退换货和商品质量问题', '物流', '配送、揽收和取件问题', '其他', '其他客服诉求']
    ) AS category,
    AI_SCORE(
        MODEL => MODEL jev_model,
        STATE => content,
        QUESTION => '问题对用户使用的影响有多大?',
        CRITERIA => ARRAY['不影响使用', '部分功能受影响', '无法继续使用']
    ) AS impact,
    AI_DECIDE(
        MODEL => MODEL jev_model,
        STATE => content,
        QUESTION => '{
          "need_help": {"type": "noul", "instructions": "是否仍需客服跟进?"},
          "impact": {"type": "score", "instructions": "问题对用户使用的影响有多大?", "criteria": ["不影响使用", "部分功能受影响", "无法继续使用"]}
        }'
    ) AS decisions
FROM tickets;

错误处理

错误处理的开启条件、重试配置和错误分类,请参见通用调用。以下说明四个决策函数的返回结构。

设置 FAIL_ON_ERROR => FALSE 后,函数结果会增加错误信息字段,返回类型如下。

调用形式

FAIL_ON_ERROR 为 FALSE 时的返回类型

单个主要答案,类型为 T

ROW<answer T, err_msg VARIANT>

AI_DECIDE 多问题主要答案

在原有问题字段后追加 err_msg VARIANT。

DETAILS 为 TRUE

ROW<answer VARIANT, err_msg VARIANT>

  • 调用成功:err_msg 为 NULL。

  • 预测最终失败:答案字段为 NULL,err_msg 包含错误信息。

  • 字段重名:问题 ID 与 err_msg 重名时,错误字段会追加数字后缀,例如 err_msg0。

  • 语法或参数校验错误仍会使 SQL 校验失败。

以下示例返回概率及错误原因。

CREATE TEMPORARY VIEW followup_results AS
SELECT
    id,
    AI_PROB(
        MODEL => MODEL jev_model,
        STATE => content,
        QUESTION => '用户是否仍有需要客服处理的诉求?',
        FAIL_ON_ERROR => FALSE
    ) AS decision_result
FROM tickets;

SELECT
    id,
    decision_result.answer AS probability,
    TRY_CAST(decision_result.err_msg['message'] AS STRING) AS error_message
FROM followup_results;

请通过错误字段是否为 NULL 判断预测是否失败,不能仅根据答案是否为 NULL 判断。

相关文档