AI安全态势管理

更新时间:
复制为 MD 格式

随着AI技术在业务中的广泛应用,AI应用自身的安全风险,如核心组件漏洞、敏感密钥泄露、服务配置不当等,已成为新的攻击入口。云安全中心提供AI资产安全管理能力,帮助您自动发现并盘点云上AI资产,并集中治理其在开发、部署、运行等全生命周期中面临的漏洞、公网暴露、配置缺陷及敏感信息泄露等安全风险。

功能概述

支持的AI资产清单

  • 服务器内AI组件识别

    • 训练与推理引擎: Ollama, vLLM, Lm Studio, Xinference, LLaMA Factory 等。

    • AI服务应用:AI界面(open-webui)、对话服务(NextChat等)、AI工作流(如Dify)、图像生成(如ComfyUI、stable-diffusion-webui)等。

    • 基础设施: 向量数据库 (Milvus, Qdrant) 等。

  • 多云环境AI产品识别:快照/镜像、 Serverless类、AI云产品(灵骏、视觉智能平台等),覆盖阿里云、腾讯云、AWS、Azure等跨云环境下的AI产品。

支持的AI资产风险检测

  • 检测能力与规则库

    • AI组件漏洞: 多种漏洞检测规则。

    • AI配置合规: 多种配置检查项,覆盖AI产品最佳安全实践。

    • AI密钥存储: 检测是否明文存储

    • AI组件暴露分析:从多维角度进行暴露面分析

  • 核心风险检测维度

    • 漏洞风险: 关键组件的未授权访问漏洞(如 Stable Diffusion WebUI、Ollama、ComfyUI 等)。

    • 密钥明文存储: AI服务密钥(如 OpenAI API Key)和用户凭证(如 HuggingFace Token)的明文存储检测。

    • 身份与权限风险: 访问控制白名单配置、成员权限配置等安全检查。

    • 配置风险 云产品网络访问策略(如专有网络访问)、服务操作保护、 自定义服务配置VPC内访问等检查。

    • 暴露风险:识别在服务器中在互联网上暴露的AI资产。

版本支持说明

说明

包年包月

服务/版本

AI能力说明

企业版旗舰版服务

  • 资产中心 > 主机资产 > AI组件:识别并查看服务器中的AI组件资产。

  • 风险治理 > 漏洞管理 > 应用漏洞:识别AI组件中相关漏洞。

  • 风险治理 > 资产暴露分析:识别暴露在互联网上的AI应用组件以及对应的资产列表。

容器镜像安全扫描增值服务

防护配置 > 容器防护 > 镜像安全扫描

  • 基础安全扫描: 检测镜像中的AI漏洞、恶意样本、敏感文件,并进行安全基线检查。

  • AI特定风险扫描:识别镜像中存在的AI密钥明文存储的风险,包括但不限于OpenAI密钥、阿里云PAI-EAS服务Token等。

云安全态势管理增值服务

风险治理 > 云安全态势管理:整合阿里云、Azure、AWS、腾讯云、华为云等主流云厂商的AI安全最佳实践,提供AI资产配置风险的自动化检测。

按量付费

服务

AI能力说明

主机及容器安全

重要

服务器绑定的防护等级需为主机全面防护主机及容器全面防护

  • 资产中心 > 主机资产 > AI组件:识别并查看服务器中的AI组件资产。

  • 风险治理 > 漏洞管理 > 应用漏洞:识别AI组件中相关漏洞。

  • 风险治理 > 资产暴露分析:识别暴露在互联网上的AI应用组件以及对应的资产列表。

无代理检测

防护配置 > 主机防护 > 无代理检测提供无代理主机检测能力,无需安装客户端即可全面扫描部署AI组件的云服务器(ECS)。检测范围如下:

  • 常规风险:漏洞风险基线检查恶意样本

  • AI特定风险敏感文件检测AI服务凭证(如OpenAI密钥、阿里云PAI-EAS服务Token等)。

云安全态势管理付费服务

风险治理 > 云安全态势管理:整合阿里云、Azure、AWS、腾讯云、华为云等主流云厂商的AI安全最佳实践,提供AI资产配置风险的自动化检测,全面覆盖人工智能平台(PAI)、各类AI服务及机器学习组件的关键安全配置项。

步骤一:安装客户端

资产中心 > 主机资产AI组件发现、风险治理 > 漏洞管理AI应用漏洞扫描、风险治理 > 资产暴露分析中识别AI资产暴露风险,防护配置 > 容器防护 > 镜像安全扫描需要安装云安全中心客户端,才能实现。安装方法如下:

说明

无代理检测无需安全客户端,即可获取到部分AI组件和应用检测能力,具体可见无代理检测扫描风险

  • 通用安装方法:具体操作,请参见安装客户端

  • ECS购买安装:在购买阿里云云服务器ECS时,默认勾选免费安全加固即可自动安装。image

步骤二:AI资产梳理

查看AI资产总览

  1. 在左侧导航栏,选择资产中心 > 资产总览

  2. AI资产区域,查看AI资产总数以及存在风险的AI资产数。

image

查看AI云产品

云安全中心支持实时同步AI云产品数据。

  1. 在左侧导航栏,选择资产中心 > 云产品

  2. 在搜索框中将标签选择为AI应用,即可查看PAI平台的资产列表及其风险状态。更多信息,请参见查看云产品信息

image

查看服务器中的AI组件

云安全中心资产指纹调查功能支持采集服务器上的AI组件信息。更多信息,请参见资产指纹调查

  1. 在左侧导航栏,选择资产中心 > 主机资产

  2. AI组件页签,可以查看服务器资产中存在的AI组件列表,包括AI应用、AI工具和AI服务。

image

查看容器镜像中的AI资产

开通镜像安全扫描功能后,云安全中心会自动同步阿里云容器镜像服务的镜像仓库,并自动识别通过PAI平台创建的容器镜像资产。

  1. 在左侧导航栏,选择资产中心 > 容器资产

  2. 仓库镜像页签,在搜索条件组件中选择标签 > PAI,可查看人工智能平台PAI相关的镜像仓库列表及其风险状态。更多信息,请参见查看镜像信息image

步骤三:AI应用风险治理与修复

梳理清楚AI的资产清单后,可使用AI-SPM提供覆盖AI全生命周期的云上安全态势管理方案,涉及对AI基础设施的安全状态的持续监控、评估和改进。包括识别和解决与AI采用相关的漏洞、错误配置、公网暴露风险和敏感文件明文存储等风险,以及确保遵守相关的隐私和安全法规。

AI风险总览

云安全中心支持在控制台总览页,提供待处理的AI安全风险的统计数据,可获取不同维度的AI应用风险。

AI安全风险面板,单击立即处理前往对应模块,以便及时治理风险、收敛暴露面。

image

AI应用漏洞

安全中心能够检测AI框架和组件中的已知漏洞,避免其被利用从而导致数据泄露或模型被非法访问。

  1. 定位AI相关漏洞

    1. 在左侧导航栏,选择风险治理 > 漏洞管理,进入漏洞管理应用漏洞页签。

    2. 勾选仅显示AI相关漏洞,列表将筛选出所有与AI组件相关的漏洞。

    image

  2. 处理漏洞

    • 单击目标漏洞名称,查看漏洞详情和受影响的资产列表。

    • 根据漏洞详情页面提供的修复建议,登录到受影响的服务器或更新容器镜像,将存在漏洞的AI组件升级到安全版本。

      警告
      • 应用漏洞需要手动修复,不支持修复

      • 修复操作可能影响业务,建议在操作前创建服务器快照或镜像备份。更多信息,请参见查看和处理漏洞

AI资产暴露分析

云安全中心支持识别在服务器中部署的AI应用是否存在公网暴露风险,可以帮助识别AI资产在公网的暴露面,以便及时采取措施避免AI应用遭受攻击。更多信息,请参见资产暴露分析

  1. 发现公网暴露的AI组件

    1. 在左侧导航栏,选择 风险治理 > 资产暴露分析

    2. 单击AI应用组件区域下的数字,可在AI应用组件面板查看在互联网暴露的AI应用列表。

      说明

      资产暴露分析结果会自动更新,频率为一天一次。

      image

    3. 云安全中心将自动为包含AI组件的资产标记AI应用标签。在有AI应用标签的资产操作列单击暴露详情,可查看资产暴露的详细信息。云安全中心将以蓝色下划线标记AI组件。

      image

  2. 收敛暴露面:评估暴露的AI应用是否确实需要对公网提供服务,对于无需对公网服务的应用,请修改该资产的安全组规则。

    重要

    建议同时评估及处理,攻击链路中与当前ECS关联的其他安全风险(如漏洞、基线风险等)。

AI云产品配置风险扫描

整合阿里云、Azure、AWS、腾讯云、华为云等主流云厂商的AI安全最佳实践,提供AI资产配置风险的自动化检测。更多内容,请参见云产品配置风险检查

  1. 在左侧导航栏,选择 风险治理 > 云安全态势管理,进入云产品配置风险页签。

  2. 全部检查项区域,单击AI安全态势管理(AI-SPM),系统将列出所有针对人工智能平台PAIAI云产品的专用安全检查项。

  3. 对于未通过的检查项,请根据修复建议进行加固。 具体操作,请参见查看并处理未通过检查项

image

容器镜像风险扫描

容器镜像风险支持以下检测项:

  • 基础安全扫描: 检测镜像中的AI漏洞、恶意样本、敏感文件,并进行安全基线检查。

  • AI特定风险扫描:识别镜像中存在的AI密钥明文存储的风险,包括但不限于OpenAI密钥、阿里云PAI-EAS服务Token等。

  1. 进入页面:在左侧导航栏,选择防护配置 > 容器防护 > 镜像安全扫描

  2. 配置检测范围:单击右上角的扫描配置,开启漏洞风险、镜像基线检查、镜像恶意样本、镜像敏感文件相关配置。其中敏感文件扫描配置勾选AI相关内容OpenAI相关密钥、阿里云PAI-EAS服务Token。更多内容,请参见配置和执行镜像安全扫描

    image

  3. 查看和处理风险:

    1. 若当前镜像与PAI相关,系统将会为其打上PAI标签,并能检测其中明文存储的OpenAI密钥、PAI-EAS服务Token等。image

    2. 检测完毕后,可在镜像安全扫描页查看和修复风险,更多信息,请参见查看扫描出的镜像风险及修复说明

无代理检测扫描风险

云安全中心提供无代理检测功能,可全面扫描安装AI组件的云服务器ECS中存在的安全风险。更多内容,请参见无代理检测

  1. 进入页面:在左侧导航栏,选择防护配置 > 主机防护 > 无代理检测

  2. 配置检测范围:单击右上角的扫描配置,支持漏洞风险基线检查恶意样本敏感文件。其中敏感文件勾选AI相关内容OpenAI相关密钥、阿里云PAI-EAS服务Token等。image

  3. 查看和处理风险:检测任务成功完成后,可以在无代理检测页面上查看和处理所发现的AI安全风险。如何处理风险,请参见分析与处理风险

计费说明

  • AI资产发现:云安全中心自动发现并标记AI资产,此过程不产生额外费用。

  • 风险检测计费:相关风险的检测与治理费用,归属于其依赖的云安全中心功能模块,遵循相应模块的计费规则。计费详情,请参见计费说明

    • 应用漏洞:计入主机安全防护的授权数。

    • AI配置风险检查:根据云安全态势管理(CSPM)的授权数计费。

    • 镜像安全扫描:根据镜像扫描的授权数或次数计费。

    • 无代理检测:根据无代理检测的扫描的容量(GB)计费。

常见问题

AI安全态势管理(AI-SPM)云安全态势管理的区别?

对比项

云安全态势管理 (CSPM)

AI安全态势管理 (AI-SPM)

核心定义

对云上资产的配置进行持续性的安全评估与管理,确保其符合安全基线与合规要求。

专门针对AI云产品及其开发、训练、部署环境的配置进行安全评估与管理。

检测范围

广泛:覆盖各类通用云产品,如云服务器(ECS)、对象存储(OSS)、数据库(RDS)、网络资源等。

聚焦:专注于AI特定云产品,如机器学习平台PAI(Platform for AI)及其内部的工作空间、模型、数据集等资产。

能力对比

CSPM包含以下模块:

  • 云产品配置检查 扫描云上资产的配置,及时发现并修复因配置不当而导致的安全漏洞与合规缺陷。

  • 系统基线风险:深入入主机(服务器)操作系统层面,依据行业标准和安全规范,发现并修复系统是否存在弱口令、不安全的配置或缺失重要补丁等问题。

  • 攻击路径 分析云产品间的访问关系与权限,可视化呈现潜在的攻击链路。

更多内容,请参见云安全态势管理概述

  • AI组件漏洞: 多种漏洞检测规则。

  • AI配置合规: 多种配置检查项,覆盖AI产品最佳安全实践。

  • AI密钥存储: 检测是否明文存储

  • AI组件暴露分析:从多维角度进行暴露面分析

解决的问题

解决因云资源基础设施层面配置不当导致的安全漏洞和数据泄露风险。

解决AI业务全生命周期中的特有安全风险,保护核心算法、模型和数据资产。