GetModelOutputContentDetectResult - 获取模型输出内容检测结果

通过任务标识获取模型输出内容异步检测结果

调试

您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。

授权信息

下表是API对应的授权信息,可以在RAM权限策略语句的Action元素中使用,用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下:

  • 操作:是指具体的权限点。
  • 访问级别:是指每个操作的访问级别,取值为写入(Write)、读取(Read)或列出(List)。
  • 资源类型:是指操作中支持授权的资源类型。具体说明如下:
    • 对于必选的资源类型,用前面加 * 表示。
    • 对于不支持资源级授权的操作,用全部资源表示。
  • 条件关键字:是指云产品自身定义的条件关键字。
  • 关联操作:是指成功执行操作所需要的其他权限。操作者必须同时具备关联操作的权限,操作才能成功。
操作访问级别资源类型条件关键字关联操作
rai:GetModelOutputContentDetectResultget
*全部资源
*

请求参数

名称类型必填描述示例值
RegionIdstring

地域 ID。

cn-shanghai
TaskIdstring

任务 ID。

5d85cd38-03b2-49fd-86b2-be85c4b13215

返回参数

名称类型描述示例值
object

响应

Codestring

状态码,00000 代表成功;其它代表失败。

00000
DetectResultListarray<object>

检测结果对象列表

DetectResultobject

检测结果对象

RiskResultinteger

0: 无风险 1:存在风险

0
Statusinteger

0:排队中 1: 处理中 2:处理完成 3:处理失败

2
TraceInfoobject

检查结果

BlockWordobject

检测关键词

RiskResultinteger

0: 无风险 1:存在风险

0
BlockWordGroupInfoListarray<object>

关键词检测结果对象列表

blockWordGroupInfoListobject

关键词检测结果对象

GroupNamestring

关键词组名称

测试分组
BlockWordListarray<object>

关键词检测结果列表

blockWordListobject

关键词检测结果

Wordstring

关键词

测试关键词
WordLabelstring

标签

测试标签
HarmfulCategoriesobject

有害分类结果对象列表

RiskResultinteger

0: 无风险 1:存在风险

0
ConfidenceScoredouble

置信度

0.85
HarmfulCategoryInfoListarray<object>

有害分类对象列表

harmfulCategoryInfoListobject

有害分类对象

CategoryTypeinteger

0:文本 1:图像

0
CategoryLabelstring

分类名称

伦理道德
SecurityLevelinteger

安全等级 0:低 1:中 2:高

1
RiskResultinteger

0: 无风险 1:存在风险

0
PromptAttackobject

提示词攻击信息

RiskResultinteger

0: 无风险 1:存在风险

0
PromptAttackInfostring

提示词攻击检测结果对象

角色扮演
SecurityLevelinteger

安全等级 0:低 1:中 2:高

1
ProcessedCountinteger

任务已处理条数。

1
TaskIdstring

任务 ID。

5d85cd38-03b2-49fd-86b2-be85c4b13215
TaskStatusinteger

任务处理状态: 0:排队中 1: 处理中 2:处理完成 3:处理失败

2
TotalCountinteger

总数量

1
HttpStatusCodeinteger

HTTP 状态码

200
Messagestring

错误信息。

""
RequestIdstring

请求 ID

AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****
Successboolean

操作是否成功。true 表示成功,false 表示失败。

True

示例

正常返回示例

JSON格式

{
  "Code": "00000",
  "DetectResultList": [
    {
      "RiskResult": 0,
      "Status": 2,
      "TraceInfo": {
        "BlockWord": {
          "RiskResult": 0,
          "BlockWordGroupInfoList": [
            {
              "GroupName": "测试分组",
              "BlockWordList": [
                {
                  "Word": "测试关键词",
                  "WordLabel": "测试标签"
                }
              ]
            }
          ]
        },
        "HarmfulCategories": {
          "RiskResult": 0,
          "ConfidenceScore": 0.85,
          "HarmfulCategoryInfoList": [
            {
              "CategoryType": 0,
              "CategoryLabel": "伦理道德",
              "SubCategoryLabel": "",
              "SecurityLevel": 1,
              "RiskResult": 0
            }
          ]
        },
        "PromptAttack": {
          "RiskResult": 0,
          "PromptAttackInfo": "角色扮演",
          "SecurityLevel": 1,
          "ConfidenceScore": 0,
          "PromptAttackInfoList": [
            {
              "CategoryType": 0,
              "CategoryLabel": "",
              "SecurityLevel": 0,
              "RiskResult": 0
            }
          ]
        },
        "DenyTopics": {
          "RiskResult": 0,
          "ConfidenceScore": 0,
          "TopicInfoList": [
            {
              "CategoryType": 0,
              "TopicName": "",
              "SecurityLevel": 0,
              "RiskResult": 0
            }
          ]
        }
      }
    }
  ],
  "ProcessedCount": 1,
  "TaskId": "5d85cd38-03b2-49fd-86b2-be85c4b13215",
  "TaskStatus": 2,
  "TotalCount": 1,
  "HttpStatusCode": 200,
  "Message": "",
  "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****",
  "Success": true
}

错误码

访问错误中心查看更多错误码。