ModelInputContentSyncDetect - 模型输入内容同步检测

对模型的输入内容进行同步检测,同步获取检测结果

调试

您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。

授权信息

下表是API对应的授权信息,可以在RAM权限策略语句的Action元素中使用,用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下:

  • 操作:是指具体的权限点。
  • 访问级别:是指每个操作的访问级别,取值为写入(Write)、读取(Read)或列出(List)。
  • 资源类型:是指操作中支持授权的资源类型。具体说明如下:
    • 对于必选的资源类型,用前面加 * 表示。
    • 对于不支持资源级授权的操作,用全部资源表示。
  • 条件关键字:是指云产品自身定义的条件关键字。
  • 关联操作:是指成功执行操作所需要的其他权限。操作者必须同时具备关联操作的权限,操作才能成功。
操作访问级别资源类型条件关键字关联操作
rai:ModelInputContentSyncDetectget
*全部资源
*

请求参数

名称类型必填描述示例值
RegionIdstring

地域 ID。

cn-shanghai
SceneNamestring

场景名称。

""
ServiceNamestring

服务名称

textDetection imageDetection
PolicyIdentifierstring

策略 ID

x1bc5xgs4uhx
BodyDataobject

请求对象

Contentstring
  1. 要审核的文本内容,最大限制 10000 个字符。(包括英文和中文)
  2. 或者要审核的图片 URL 地址
要检测的内容

返回参数

名称类型描述示例值
object

响应

Codestring

结果码,00000 代表成功;其它代表失败。

00000
RiskResultinteger

0: 无风险 1:存在风险

0
TraceInfoobject

检查结果

BlockWordobject

检测关键词

RiskResultinteger

0: 无风险 1:存在风险

0
BlockWordGroupInfoListarray<object>

关键词检测结果对象列表

blockWordGroupInfoListobject

关键词检测结果对象

GroupNamestring

关键词组名称

测试分组
BlockWordListarray<object>

关键词检测结果列表

blockWordListobject

关键词检测结果

Wordstring

关键词

测试关键词
WordLabelstring

标签

测试标签
HarmfulCategoriesobject

有害分类结果对象列表

RiskResultinteger

0: 无风险 1:存在风险

0
ConfidenceScoredouble

置信度

0.0
HarmfulCategoryInfoListarray<object>

有害分类对象列表

harmfulCategoryInfoListobject

有害分类检测结果对象

CategoryTypeinteger

0:文本 1:图像

0
CategoryLabelstring

分类名称

伦理道德
SubCategoryLabelstring

二级分类标签

不良行为
SecurityLevelinteger

安全等级 0:低 1:中 2:高

1
RiskResultinteger

0: 无风险 1:存在风险

0
PromptAttackobject

提示词攻击信息

RiskResultinteger

0: 无风险 1:存在风险

0
PromptAttackInfostring

提示词攻击检测结果对象

角色扮演
SecurityLevelinteger

安全等级 0:低 1:中 2:高

1
ConfidenceScoredouble

置信度

0.0
PromptAttackInfoListarray<object>

提示词攻击列表

promptAttackInfoListobject

提示词攻击对象

CategoryTypeinteger

0:文本 1:图像

0
CategoryLabelstring

分类名称

角色扮演
SecurityLevelinteger

安全等级 0:低 1:中 2:高

1
RiskResultinteger

0: 无风险 1:存在风险

0
DenyTopicsobject

敏感主题对象列表

RiskResultinteger

0: 无风险 1:存在风险

1
ConfidenceScoredouble

置信度

0.0
TopicInfoListarray<object>

敏感主题列表

topicInfoListobject

敏感主题列表

CategoryTypeinteger

0:文本 1:图像

0
TopicNamestring

主题名称

业务敏感
SecurityLevelinteger

安全等级 0:低 1:中 2:高

0
RiskResultinteger

0: 无风险 1:存在风险

0
HttpStatusCodeinteger

Http 状态码

200
Messagestring

错误信息。

""
RequestIdstring

请求 ID

AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****
Successboolean

操作是否成功。true 表示成功,false 表示失败。

True

示例

正常返回示例

JSON格式

{
  "Code": "00000",
  "RiskResult": 0,
  "TraceInfo": {
    "BlockWord": {
      "RiskResult": 0,
      "BlockWordGroupInfoList": [
        {
          "GroupName": "测试分组",
          "BlockWordList": [
            {
              "Word": "测试关键词",
              "WordLabel": "测试标签"
            }
          ]
        }
      ]
    },
    "HarmfulCategories": {
      "RiskResult": 0,
      "ConfidenceScore": 0,
      "HarmfulCategoryInfoList": [
        {
          "CategoryType": 0,
          "CategoryLabel": "伦理道德",
          "SubCategoryLabel": "不良行为",
          "SecurityLevel": 1,
          "RiskResult": 0
        }
      ]
    },
    "PromptAttack": {
      "RiskResult": 0,
      "PromptAttackInfo": "角色扮演",
      "SecurityLevel": 1,
      "ConfidenceScore": 0,
      "PromptAttackInfoList": [
        {
          "CategoryType": 0,
          "CategoryLabel": "角色扮演",
          "SecurityLevel": 1,
          "RiskResult": 0
        }
      ]
    },
    "DenyTopics": {
      "RiskResult": 1,
      "ConfidenceScore": 0,
      "TopicInfoList": [
        {
          "CategoryType": 0,
          "TopicName": "业务敏感",
          "SecurityLevel": 0,
          "RiskResult": 0
        }
      ]
    }
  },
  "HttpStatusCode": 200,
  "Message": "",
  "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****",
  "Success": true
}

错误码

访问错误中心查看更多错误码。