内容安全检测在媒体内容管理中扮演着至关重要的角色，涵盖了文本、图片和视频等多种形式。文本违规检测旨在识别和标记不符合标准的文字信息，而图片和视频违规检测则着重于视觉内容，以确保图像和多媒体材料的合规性。这些工具极大地提升了内容审核的效率，有助于降低不良信息传播所带来的安全风险。
应用场景
图片违规检测
图片违规检测通常用于社区帖子、社交应用和用户头像等场景的内容审核。关于图片违规检测支持的检测内容，请参见图片违规检测。
社区帖子图片审核
对社区、论坛等平台中的图片进行审核，过滤色情、违禁、恶意推广等内容，降低平台违规风险、提升内容质量。
社交应用图片审核
在社交应用中存在大量的色情、广告图片，让应用面临监管风险，对实时聊天中的敏感图像进行高效过滤审核，降低业务违规风险。
用户头像审核
针对用户头像进行审核，检测图像是否含有色情、违禁、微商广告联系方式等内容，保障用户使用体验。
文本违规检测
社交媒体监控
在社交媒体平台上，文本内容检测技术可以自动识别和过滤包含欺凌、仇恨言论、不当内容或其他违反平台规则的信息，有助于保护用户免受有害信息的侵扰，还能维护线上交流环境的健康和安全，确保内容的合规性和积极性，从而提高用户体验与满意度。
视频违规检测
视频违规信息检测通常用于视频智能鉴黄、视频涉政暴恐、视频不良场景、视频Logo识别、视频图文违规等基本场景。关于视频违规检测支持的检测内容，请参见视频违规检测。
使用限制
图片违规检测
限制项 | 限制 |
图片格式 | 支持检测的图片格式如下：
|
图片大小 | 支持检测的图片大小限制如下：
|
视频违规检测
限制项 | 支持检测的视频格式 |
视频格式 | AVI、MPEG、MPG、DAT、DIVX、XVID、RM、RMVB、MOV、QT、ASF、WMV、VOB、3GP、MP4、FLV、AVS、MKV、TS、OGM、NSV、SWF |
前提条件
已创建并获取AccessKey。具体操作，请参见创建AccessKey。
已开通OSS服务、创建存储空间并上传文件到存储空间。具体操作，请参见控制台上传文件。
已开通智能媒体管理服务。具体操作，请参见开通产品。
已通过智能媒体管理控制台创建项目。具体操作，请参见创建项目。
说明您也可以调用API接口创建项目。具体操作，请参见CreateProject - 创建项目。
您可以调用ListProjects - 列出所有项目信息的列表接口列出指定地域下已创建的所有项目信息。
使用说明
该功能目前处于公测中，限时免费，在可用region全量开放。我们的团队将为您提供专业的支持和帮助，确保您能顺利体验本功能。