MultiModalGuard - AI安全护栏多模态同步检测接口-阿里云帮助中心

AI安全护栏多模态同步检测接口，包括内容合规检测、敏感内容检测、提示词攻击检测、恶意文件检测、恶意URL检测等全方位检测能力。

调试

您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。

调试

授权信息

下表是API对应的授权信息，可以在RAM权限策略语句的Action元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：

操作：是指具体的权限点。
访问级别：是指每个操作的访问级别，取值为写入（Write）、读取（Read）或列出（List）。
资源类型：是指操作中支持授权的资源类型。具体说明如下：
- 对于必选的资源类型，用前面加 * 表示。
- 对于不支持资源级授权的操作，用全部资源表示。
条件关键字：是指云产品自身定义的条件关键字。
关联操作：是指成功执行操作所需要的其他权限。操作者必须同时具备关联操作的权限，操作才能成功。

操作

访问级别

资源类型

条件关键字

关联操作

yundun-greenweb:MultiModalGuard

get

*全部资源

*

无

请求语法

POST  HTTP/1.1

请求参数

名称	类型	必填	描述	示例值
Service	string	否	审核服务分类，包括： query_security_check_pro：AI 输入内容安全检测_pro 版 response_security_check_pro：AI 生成内容安全检测_pro 版 img_query_security_check：AIGC 输入图片安全检测 img_response_security_check：AIGC 输出图片安全检测 text_img_mix_guard：多模态（文本+图片）混合安全检测 file_security_sync_check：AIGC 输入或输出文件安全检测 text_file_sec_sync_check：多模态（文本+文件）实时安全检测	query_security_check_pro
ServiceParameters	string	否	审核服务需要的参数集，JSON 字符串格式。文本内容入参是 content(String)，图片内容入参是 imageUrls(JSONArray)，文件内容入参是 fileUrls(JSONArray)，	- 文本： { "content": "test" } - 图片： { "imageUrls": ["https://example.com/image.png"] } - 文件： { "fileUrls": ["https://example.com/file.pdf"] }

返回参数

名称	类型	描述	示例值
	object	Schema of Response
RequestId	string	请求 ID。	AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****
Code	integer	错误码。	200
Message	string	错误信息。	OK
Data	object	返回的数据内容。
Detail	array<object>	检测详情。
	array<object>	检测详情。
Result	array<object>	检测结果。
	object	检测结果。
Label	string	标签。	contraband_act
Description	string	标签描述。	疑似违禁行为
Confidence	number	置信分值，0 到 100 分，保留到小数点后 2 位。	100
Level	string	风险等级。包含： high：高风险（若命中自定义词库，风险等级默认为高风险） medium：中风险 low：低风险 none：未检测到风险	none
Ext	any	检测结果扩展信息。	{}
Type	string	检测类型。包含： contentModeration 内容合规检测 promptAttack 提示词攻击检测 sensitiveData 敏感内容检测 modelHallucination 模型幻觉 maliciousFile 恶意文件检测 maliciousUrl 恶意 URL 检测 waterMark 数字水印标识 customLabel 自定义检测 Agent	contentModeration
Level	string	风险等级。包含： high：高风险（若命中自定义词库，风险等级默认为高风险） medium：中风险 low：低风险 none：未检测到风险	none
Suggestion	string	审核建议 block：建议阻断 pass：建议通过 watch：建议观察 mask：建议脱敏	pass
Suggestion	string	审核建议 block：建议阻断 pass：建议通过 watch：建议观察 mask：建议脱敏	pass
DataId	string	检测对象对应的数据 ID。	data1234

示例

正常返回示例

JSON格式

{
  "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****",
  "Code": 200,
  "Message": "OK",
  "Data": {
    "Detail": [
      {
        "Result": [
          {
            "Label": "contraband_act",
            "Description": "疑似违禁行为",
            "Confidence": 100,
            "Level": "none",
            "Ext": "{}"
          }
        ],
        "Type": "contentModeration",
        "Level": "none",
        "Suggestion": "pass"
      }
    ],
    "Suggestion": "pass",
    "DataId": "data1234"
  }
}

错误码

HTTP status code	错误码	错误信息	描述
403	NoPermission	You don't have permission.	当前操作未被授权，请联系主账号在RAM控制台进行授权后再执行操作。

访问错误中心查看更多错误码。

变更历史

更多信息，参考变更详情。