内容安全是一款基于AI算法和云计算技术,对多媒体内容的不宜或违规内容提供识别和标注的产品。该产品,支持对各行业及业务场景下的图片、视频、文本、语音等对象进行检测,可以帮助您提高内容审核效率、提高平台内容质量和用户体验。

产品功能

阿里云内容安全是内容安全领域的先行者,源自阿里巴巴多年安全技术积累,涵盖电商、社区、支付等多领域的平台内容治理经验以及AI算法和云计算基础设施,为企业用户提供稳定、即接即用、成熟的内容安全解决方案,帮助企业和开发者在复杂多变的互联网环境下快速发现文本、图片、视频、语音的各类风险,提高平台内容质量和用户体验。

内容检测的算法模型已经过海量的样本训练和多样的评测,同时保持日常迭代和升级,即接即用的模式可以满足企业与开发者快速具备自动化的内容审核能力。此外,我们也提供系统化的方式与流程,支持自定义需求的算法模型调整、特定检测目标优化、检测阈值优化等需求。

目前,内容安全的核心功能包括三部分:内容检测API、云存储-OSS违规检测、控制台。
  • 内容检测API

    内容检测API通过调用阿里云提供的接口来进行内容检测,主要对文本、图片、视频、语音进行检测和识别是否包含色情、涉政、暴力、惊悚、不宜广告、垃圾信息、不良内容等。适用于:视频网站、直播平台、社交平台、媒体平台、垂直社区、论坛、电商网站、存储服务、CDN平台等含有面向在线网络或公众开放内容的业务场景。

  • OSS违规检测

    面向使用阿里云OSS存储产品的用户,我们提供对保存在OSS中的图片、视频等内容进行鉴黄、涉政暴恐等风险检测,并且支持删除和冻结文件的配置化功能。该功能无需API集成开发,只需要少许页面配置即可启动使用。

  • 控制台

    针对以上两种检测使用方式,内容安全产品均提供阿里云控制台功能,以满足实现数据统计、内容审核分析、个性化管控配置、风险库管理等分析与管控的功能。该功能适用于有分析需求、多场景差异化检测需求、个性化管控管理的需求的用户。