AI安全态势管理

AI安全态势管理是一种维护人工智能(AI)和机器学习(ML)系统安全性和完整性的综合方法。云安全中心针对AI应用提供应用漏洞检测、资产暴露分析、配置检查、镜像风险扫描等安全检测能力,您可以使用这些工具确保AI应用的合规性和安全性。本文从AI资产梳理和AI应用风险管理两方面介绍云安全中心支持的安全能力。

视频指导

前提条件

如果您是在服务器上创建的AI应用,您需要在服务器上安装云安全中心客户端。具体操作,请参见安装客户端

AI资产梳理

云安全中心可以自动并持续发现阿里云以下服务中部署的AI应用:

  • 云服务器ECS。

  • 人工智能平台PAI:通过PAI平台创建的镜像及部分实例,例如交互式建模的DSW实例、模型在线服务实例等。

查看服务器中的AI组件

云安全中心资产指纹调查功能支持采集服务器上的AI组件信息。更多信息,请参见资产指纹调查

云安全中心控制台资产中心 > 主机资产页面的AI组件页签,您可以查看服务器资产中存在的AI组件列表。

image

查看人工智能平台PAI资产

在云产品页面查看PAI资产

云安全中心支持实时同步阿里云人工智能平台PAI的云产品数据。

云安全中心控制台资产中心 > 云产品页面,在搜索框中将标签选择为AI应用,即可查看PAI平台的资产列表及其风险状态。更多信息,请参见查看云产品信息

image

在仓库镜像页面查看容器镜像资产

开通镜像安全扫描功能后,云安全中心会自动同步阿里云容器镜像服务的镜像仓库,并自动识别通过PAI平台创建的容器镜像资产。

云安全中心控制台资产中心 > 容器资产页面的仓库镜像页签,通过在搜索条件组件中选择标签 > PAI,可查看人工智能平台PAI相关的镜像仓库列表及其风险状态。更多信息,请参见查看镜像信息image

AI应用风险管理

查看待处理AI风险

云安全中心支持在控制台总览页,提供待处理的AI安全风险的统计数据,帮助您获取不同维度的AI应用风险。在AI安全风险面板,您可以单击立即处理前往对应模块,以便及时治理风险收敛暴露面。image

AI应用漏洞

云安全中心支持检测并集中展示ollama、lm-studio等多种AI组件中存在的漏洞。AI应用相关漏洞可能会导致数据泄露或未经授权访问AI模型和资源,建议您及时关注并手动处理此类漏洞。

云安全中心控制台风险治理 > 漏洞管理页面的应用漏洞页签,选中仅显示AI相关漏洞,即可查看AI应用中存在的漏洞。更多信息,请参见查看和处理漏洞image

公网暴露AI组件

云安全中心支持识别在服务器中部署的AI应用是否存在公网暴露风险,可以帮助您识别AI资产在公网的暴露面,以便您及时采取措施避免AI应用遭受攻击。更多信息,请参见资产暴露分析

云安全中心控制台风险治理 > 资产暴露分析页面,单击AI应用组件区域下的数字,可在AI应用组件面板查看在互联网暴露的AI应用列表。

image

云安全中心将自动为包含AI组件的资产标记AI应用标签。在有AI应用标签的资产操作列单击暴露详情,可查看资产暴露的详细信息。云安全中心将以蓝色下划线标记AI组件。

image

AI配置风险

云安全中心提供针对AI资产的安全配置风险自动化检测能力。云产品配置风险检查功能依托阿里云AI安全实践,覆盖人工智能平台PAIAI应用组件的关键安全配置项检测,包括以下方面:

  • 权限管理:执行最小权限原则审计。

  • 访问控制:检测公网暴露风险及白名单配置。

  • 服务配置:验证敏感操作保护机制。

云安全中心控制台风险治理 > 云安全态势管理页面的云产品配置风险页签,单击全部检查项区域的AI配置管理(AI-SPM),可查看AI配置管理相关检查项及检查结果。未通过检查项治理的具体操作,请参见查看并处理未通过检查项

image

镜像安全扫描

云安全中心支持扫描通过人工智能平台PAI创建的容器镜像风险,包括镜像漏洞风险、镜像基线检查、镜像恶意样本、镜像敏感文件等。除了基础的镜像安全扫描能力外,云安全中心支持识别镜像中存在的AI服务API调用密钥的明文存储风险,例如OpenAI相关密钥、阿里云PAI-EAS服务Token等。

image

云安全中心控制台防护配置 > 容器防护 > 镜像安全扫描页面,可查看镜像中存在的安全风险。在对应风险的详情页面,云安全中心将自动为通过PAI创建的镜像标记PAI标签。更多信息,请参见查看扫描出的镜像风险及修复说明

image

无代理检测扫描风险

云安全中心提供无代理检测功能,可全面扫描安装AI组件的云服务器ECS中存在的安全风险,包括漏洞风险、基线检查、恶意样本、敏感文件。除了基础的安全风险扫描能力外,云安全中心支持对服务器中存在AI API调用相关敏感信息明文存储的识别,例如OpenAI相关密钥、阿里云PAI-EAS服务Token等。更多信息,请参见无代理检测

image

云安全中心控制台防护配置 > 主机防护 > 无代理检测页面,可查看ECS中存在的风险检测结果。image