调用TextModeration接口实现文本审核-内容安全-阿里云

采用动态策略和模型强化变异对抗性，提供多种业务场景的审核服务，识别出多种违规风险。

接口说明

请确保在使用该接口前，已充分了解文本审核增强版产品的收费方式和价格。

调试

您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。

调试

授权信息

下表是API对应的授权信息，可以在RAM权限策略语句的Action元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：

操作：是指具体的权限点。
访问级别：是指每个操作的访问级别，取值为写入（Write）、读取（Read）或列出（List）。
资源类型：是指操作中支持授权的资源类型。具体说明如下：
- 对于必选的资源类型，用前面加 * 表示。
- 对于不支持资源级授权的操作，用全部资源表示。
条件关键字：是指云产品自身定义的条件关键字。
关联操作：是指成功执行操作所需要的其他权限。操作者必须同时具备关联操作的权限，操作才能成功。

操作

访问级别

资源类型

条件关键字

关联操作

yundun-greenweb:TextModeration

get

*全部资源

*

无

请求参数

名称	类型	必填	描述	示例值
Service	string	是	审核服务类型，包括： nickname_detection：用户昵称 chat_detection：聊天互动 comment_detection：动态评论 pgc_detection：教学物料 PGC 枚举值： pgc_detection : PGC 通用物料检测 nickname_detection : 用户昵称检测 comment_multilingual_pro : 国际业务多语言检测 chat_detection : 私聊互动内容检测 ad_compliance_detection : 广告法合规检测 comment_detection : 公聊评论内容检测 ai_art_detection : AIGC 类文字检测	nickname_detection
ServiceParameters	string	否	审核服务需要的参数集。JSON 字符串格式，关于每个字符串的描述	{"content":"地图还是黑的"}

返回参数

名称	类型	描述	示例值
	object	响应体
RequestId	string	请求 ID。	AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****
Code	integer	错误码。	200
Message	string	请求消息的响应消息。	OK
Data	object	审核结果数据。
labels	string	标签，多个用英文逗号分隔。包括： ad：广告 profanity：辱骂 contraband：违禁品 sexual_content：色情 violence：暴恐 nonsense：灌水 spam：垃圾信息 negative_content：不良场景 cyberbullying：网络暴力 C_customized：用户库命中	porn
reason	string	原因定位的 JSON 字符串，包含以下字段： riskTips：细分标签 riskWords：命中风险词 adNums：命中广告号 customizedWords：命中用户词 customizedLibs：命中用户词库名 riskLevel：风险等级，根据系统推荐的风险等级返回，返回值包括： high：高风险 medium：中风险 low：低风险	{\"riskLevel\":\"high\",\"riskTips\":\"色情_低俗词\",\"riskWords\":\"色情服务\"}
accountId	string	客户入参传入的 accountId	123456
deviceId	string	客户入参传入的 deviceId	xxxxxx
dataId	string	检测对象对应的数据 ID。说明如果在检测请求参数中传入了 dataId，则此处返回对应的 dataId。	text1234
descriptions	string	标签描述。	疑似广告内容
manualTaskId	string	人审任务 ID	xxxxx-xxxxx
ext	object	文本辅助参考信息。
llmContent	object	大模型输出内容。
outputText	string	输出内容。	正常。文本中无风险内容。

示例

正常返回示例

JSON格式

{
  "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****",
  "Code": 200,
  "Message": "OK",
  "Data": {
    "labels": "porn",
    "reason": "{\\\"riskLevel\\\":\\\"high\\\",\\\"riskTips\\\":\\\"色情_低俗词\\\",\\\"riskWords\\\":\\\"色情服务\\\"}",
    "accountId": "123456",
    "deviceId": "xxxxxx",
    "dataId": "text1234",
    "descriptions": "疑似广告内容",
    "manualTaskId": "xxxxx-xxxxx",
    "ext": {
      "llmContent": {
        "outputText": "正常。文本中无风险内容。"
      }
    }
  }
}

错误码

访问错误中心查看更多错误码。

变更历史

更多信息，参考变更详情。