Agent风险检测预防能力概述
Agent 安全中心围绕智能体(Agent)全生命周期安全需求,提供覆盖模型交互、知识与记忆、运行环境与工具、配置与组件、身份与凭证五大安全域的检测与防护能力,帮助企业全面发现和收敛 Agent 运行中的安全风险。
背景信息
随着大模型驱动的智能体(Agent)在企业级场景中的广泛落地,其安全风险已贯穿从模型交互、知识检索、工具执行到底层配置与凭证管理的完整链路,任何环节均可能成为攻击突破口。面对自主决策与外部交互带来的全新挑战,常见的 Agent 安全风险如下:
提示词注入:攻击者通过精心构造的输入文本,诱导 Agent 执行非预期的操作或泄露敏感信息。可能导致业务逻辑被绕过或数据泄露。
越狱攻击:攻击者尝试突破 Agent 的安全限制和使用规则,使其执行被禁止的操作。可能导致 Agent 输出违规内容或执行危险操作。
混淆走私攻击:攻击者通过编码、混淆等手段隐藏恶意指令,绕过安全检测机制。可能导致恶意指令被执行而不被察觉。
指令和隐私泄露:Agent 在处理请求时可能意外泄露系统提示词、配置信息或用户隐私数据。可能导致敏感信息暴露,影响系统安全和用户隐私。
Skills 投毒(Skill Poisoning):攻击者通过在 Agent 所加载的 Skill(技能/插件)中植入恶意或隐蔽指令,诱使 Agent 在调用该 Skill 时以用户身份执行非预期操作,进而导致敏感信息泄露、数据破坏或权限滥用。该攻击属于提示词注入的一种。
安全域防御能力
Agent 安全中心基于全生命周期理念,构建了覆盖模型交互、知识与记忆、运行环境与工具、配置与组件、身份与凭证五大核心域的检测与防护体系,为智能体提供全方位的纵深防御能力。各安全域对应的防护能力如下:
安全域 | 层级 | 能力分类 |
模型交互安全 | 交互层 | 提示词攻击与越狱防护、内容合规防护、敏感数据外泄防护、行为偏离与目标劫持防护、模型资源滥用防护。 |
知识与记忆安全 | 知识层 | 知识与记忆投毒防护、知识访问配置风险检测。 |
运行环境与工具安全 | 执行层 | 访问控制、工具滥用与利用防护、工具与 Skill 文件风险检测、恶意代码生成防护、威胁情报联动、Agent 运行时配置风险检测。 |
配置与组件安全 | 配置层 | 传输与网络安全检测、凭证泄露与弱口令检测、认证配置风险检测、Agent 过度授权检测、供应链组件风险检测、其他配置风险检测、AI 安全防御启用检测、AI 组件漏洞检测 |
身份与凭证安全 | 身份层 | Agent 身份伪造检测。 |
模型交互安全
模型交互安全关注 Agent 在与大模型和用户交互过程中产生的风险,重点防护提示词攻击、违规内容输出和敏感数据外泄。
提示词攻击与越狱防护
攻击者可能通过精心构造的输入诱导 Agent 绕过安全策略、执行非预期操作或泄露系统提示词。Agent 安全中心可识别并拦截多种提示词攻击手法,包括直接/间接/递归提示词注入、指令覆盖、提示词泄漏,以及假定角色、假定场景、DAN、开发者模式、Few-Shot/Many-Shot、任务转移、反向诱导、拒绝抑制、混淆/Token 走私、对抗性攻击等越狱方式,帮助 Agent 稳定遵循既定的安全策略。
内容合规防护
Agent 输出违规内容可能给企业带来合规风险。Agent 安全中心可对 Agent 的输出内容进行合规检测,覆盖涉政、暴恐、违禁、色情、不良价值观、宗教、广告引流、隐私等多类违规内容,帮助企业在内容层面守住合规底线。
敏感数据外泄防护
Agent 在处理请求时可能意外泄露个人信息、客户数据或凭证。Agent 安全中心可识别 Agent 输出中的敏感内容,包括个人基本资料、身份信息、财产信息、健康信息等个人信息,以及密码、验证码、访问令牌、认证密钥等凭证,及时提示数据外泄风险。
行为偏离与目标劫持防护
攻击者可能在正常任务中夹带恶意指令,诱导 Agent 偏离既定目标、执行与设计意图不一致的行为。Agent 安全中心可识别任务目标劫持等行为偏离风险,保障 Agent 按预期执行业务。
模型资源滥用防护
恶意输入可能导致 Agent 陷入超长推理、重复输出或生成随机字符,异常消耗算力资源。Agent 安全中心可识别此类模型资源滥用行为,帮助企业控制运行成本、保障服务稳定。
知识与记忆安全
知识与记忆安全关注 RAG 知识库、向量库等企业知识资产面临的风险,防止知识被投毒或越权访问。
知识与记忆投毒防护
攻击者可能向 RAG 知识库、向量库、文档库写入恶意内容,操纵 Agent 检索引用的内容,进而影响 Agent 的输出与行为。Agent 安全中心可检测 RAG 知识库投毒行为,帮助企业守住知识源的可信性。
知识访问配置风险检测
知识库的可见性或访问控制设置过于宽松时,可能导致数据泄漏。Agent 安全中心可检测知识库 RAG 权限设置过大等访问配置缺陷,提示收敛权限。
运行环境与工具安全
运行环境与工具安全关注 Agent 运行时所处的环境及其调用的工具、Skill、代码与网络行为,是防御攻击落地执行的关键防线。
访问控制
Agent 在运行过程中可能访问未经授权的资源。Agent 安全中心提供 LLM API 白名单能力,可拒绝 Agent 调用白名单之外的模型服务,仅允许其访问受信任的 LLM 端点,并检测工具越权调用等行为,收敛 Agent 的访问面。
工具滥用与利用防护
攻击者可能借助 Agent 的工具调用能力发起命令/代码注入、SQL 注入、SSRF 探测等攻击,或滥用工具越权访问对象。Agent 安全中心可在工具调用环节检出注入攻击、SSRF、对象越权访问等风险,防止攻击者借助 Agent 的工具能力实施越权操作。
工具与 Skill 文件风险检测
Skill 文件可能被植入恶意指令或风险配置。Agent 安全中心可对 Skill 文件进行安全检测,识别高、中、低危风险技能与恶意 Skill 文件,并检测工具资源越界访问(如路径遍历读写敏感文件)以及 MCP 工具投毒,在 Skill 加载与调用环节阻断供应链风险。
恶意代码生成防护
攻击者可能诱导 Agent 生成恶意代码、入侵脚本,或生成 XSS 输出。Agent 安全中心可识别恶意代码生成、跨站脚本攻击等行为,防止 Agent 成为攻击的载体。
威胁情报联动
Agent 安全中心可联动威胁情报能力对 Agent 访问的 URL 进行威胁检测,并默认与云防火墙保持一致的处置动作,拦截 Agent 对恶意地址的访问。
Agent 运行时配置风险检测
Agent 运行时若未开启沙箱隔离等防护配置,会扩大攻击面。Agent 安全中心可检测 Agent 运行时配置风险,提示开启沙箱隔离等加固项。
配置与组件安全
配置与组件安全关注 AI 平台工作流、Agent 框架及相关组件的配置缺陷与已知漏洞,帮助企业持续收敛不安全配置。
传输与网络安全检测
明文传输会使请求参数、凭证等敏感信息暴露。Agent 安全中心可检测模型端点、MCP 端点、知识库、Ragflow、HTTP/API 工具等未使用 HTTPS 协议,以及 HTTP 工具未开启证书校验等传输与网络配置缺陷,提示启用加密传输。
凭证泄露与弱口令检测
凭证以明文形式暴露在代码或配置中,可能导致数据泄露与资源盗用。Agent 安全中心可检测代码节点硬编码 AKSK、Gateway 明文密码存储、登录弱口令等凭证风险,提示改用安全的凭证管理方式。
认证配置风险检测
认证配置不当可能导致未授权访问。Agent 安全中心可检测 Gateway 未配置强 token 认证、DM/群组会话未隔离、DM/群组接入策略缺陷、反向代理配置不正确等认证配置问题,提示加固认证与会话隔离。
供应链组件风险检测
插件、Skill 等供应链组件若缺乏管控,可能被恶意利用。Agent 安全中心可检测插件系统未限制、Skills watcher 动态刷新未禁用等供应链配置风险。
其他配置风险检测
Agent 安全中心还可检测 Gateway 绑定 0.0.0.0、日志/会话未开启敏感信息过滤、配置文件目录权限缺陷等配置风险,提示相应加固。
AI 安全防御启用检测
工作流若未接入 AI 安全护栏,可能存在合规违规、提示词注入绕过、敏感数据泄露等风险敞口。Agent 安全中心可检测工作流未接入 AI 安全护栏的情况,提示启用实时防护。
漏洞检测
Agent 框架的已知漏洞若未及时修复,可能被利用。Agent 安全中心可针对 OpenClaw 等组件的多个已知安全漏洞进行版本对比检测,帮助企业及时发现并修复存在风险的旧版本。并关联漏洞管理功能,针对 OpenClaw 已知的多个安全漏洞进行版本对比检测,及时发现并修复存在安全风险的旧版本。
Agent 基线检查
Agent 安全相关场景下提供基线检查与配置与组件安全防护形成补充。支持 AI 相关基线风险(如阿里云标准-OpenClaw 安全基线)的检测,并与云安全态势管理(CSPM)中的系统基线风险关联,实现统一的安全基线管理。对 OpenClaw(原 Clawdbot)的配置进行自动化安全基线检查,覆盖服务配置和身份鉴别两大类检查项,帮助发现并修复不安全配置。
检查类别 | 检查项 | 基线名称 |
服务配置 | Gateway 禁止绑定 0.0.0.0 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 |
Gateway 明文密码禁止存储在配置文件 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
DM/群组接入策略 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
开启沙箱隔离 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
日志/会话开启敏感信息过滤 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
隔离共享 DM 会话 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
关闭全局 Elevated tools | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
禁用 Skills watcher 动态刷新 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
安全加固 | 配置正确的反向代理 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 |
Gateway 配置强 token 认证 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
禁用插件系统或开启白名单限制 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
配置文件目录权限 | 阿里云标准-OpenClaw(原 Clawdbot)安全基线 | |
OpenClaw(原 Clawdbot)登录弱口令检查 | 弱口令-OpenClaw(原 Clawdbot)登录弱口令检查 | |
身份鉴别 | OpenClaw(原 Clawdbot)未授权访问 | 未授权访问-OpenClaw(原 Clawdbot)未授权访问高危风险 |
身份与凭证安全
身份与凭证安全关注 Agent 的身份认证与凭证使用,防止攻击者冒充合法 Agent 执行操作。
Agent 身份伪造检测
攻击者可能伪造 Agent 身份、劫持会话或绕过鉴权,冒充合法 Agent 执行操作。Agent 安全中心可检测 Agent 身份伪造行为,帮助企业确认 Agent 的真实身份,防止非法身份执行敏感操作。
AI 平台安全风险检测
Agent 安全中心还覆盖 PAI、百炼、Dify、Agentkit、AgentRun 等主流 AI 平台及工作流,重点检测传输加密、权限控制及凭证安全等常见隐患。
平台 | 检查项 | 基线名称 |
PAI | Model URL 未使用 HTTPS 协议 | 模型端点使用明文 HTTP 协议进行通信,导致请求参数、响应数据、认证 Token 等敏感信息在传输过程中以明文形式暴露。攻击者可通过中间人攻击窃取 API 密钥、用户输入、模型输出等关键数据,甚至篡改指令,造成数据泄露、服务劫持或恶意操作。 |
PAI | MCP 服务端点 URL 未使用 HTTPS 协议 | MCP 端点使用明文 HTTP 协议进行通信,导致请求参数、响应数据、认证 Token 等敏感信息在传输过程中以明文形式暴露。攻击者可通过中间人攻击窃取 API 密钥、用户输入、模型输出等关键数据,甚至篡改指令,造成数据泄露、服务劫持或恶意操作。 |
PAI | API Tool 请求 URL 未使用 HTTPS 协议 | 工作流中调用的 API 节点使用明文 HTTP 协议传输数据,通信内容(包括请求参数、响应结果、认证 Token 等)在传输过程中未加密,易被中间人窃听、篡改或劫持,导致敏感信息泄露或业务逻辑被操控。 |
百炼 | HTTP 请求节点未使用 HTTPS 协议 | 工作流中调用的 HTTP 请求节点使用明文 HTTP 协议传输数据,通信内容(包括请求参数、响应结果、认证 Token 等)在传输过程中未加密,易被中间人窃听、篡改或劫持,导致敏感信息泄露或业务逻辑被操控。 |
Dify | 知识库 URL 未使用 HTTPS 协议 | 知识库 URL 端点使用明文 HTTP 协议进行通信,导致请求参数、响应数据、认证 Token 等敏感信息在传输过程中以明文形式暴露。攻击者可通过中间人攻击窃取 API 密钥、用户输入、模型输出等关键数据,甚至篡改指令,造成数据泄露、服务劫持或恶意操作。 |
Dify | 知识库 RAG(检索增强生成,Retrieval-Augmented Generation)权限设置过大 | 知识库的可见性或关联应用的访问控制设置过于宽松,工作空间下的用户均可使用该知识库,可能导致数据泄漏等。 |
Dify | Ollama 模型 URL 未使用 HTTPS 协议 | Ollama 模型 URL 端点使用明文 HTTP 协议进行通信,导致请求参数、响应数据、认证 Token 等敏感信息在传输过程中以明文形式暴露。攻击者可通过中间人攻击窃取 API 密钥、用户输入、模型输出等关键数据,甚至篡改指令,造成数据泄露、服务劫持或恶意操作。 |
Dify | MCP 服务端点 URL 未使用 HTTPS 协议 | MCP 端点使用明文 HTTP 协议进行通信,导致请求参数、响应数据、认证 Token 等敏感信息在传输过程中以明文形式暴露。攻击者可通过中间人攻击窃取 API 密钥、用户输入、模型输出等关键数据,甚至篡改指令,造成数据泄露、服务劫持或恶意操作。 |
Dify | 工作流未接入 AI 安全护栏 | 工作流未启用 AI 安全护栏,可能导致合规性违规、提示词注入与绕过、敏感数据泄露等诸多风险。 |
Dify | 代码节点存在硬编码 AK / SK | 在工作流的代码节点中直接写入了云服务商的访问密钥(Access Key / Secret Key),导致凭证以明文形式暴露在代码或配置中,任何可访问该工作流的用户均可直接获取到相关密钥,可能造成数据泄露、资源盗用等后果。 |
Dify | HTTP 请求节点未使用 HTTPS 协议 | 工作流中调用的 HTTP Tool(如 API 工具节点)使用明文 HTTP 协议传输数据,通信内容(包括请求参数、响应结果、认证 Token 等)在传输过程中未加密,易被中间人窃听、篡改或劫持,导致敏感信息泄露或业务逻辑被操控。 |
Dify | HTTP Tool 未开启证书校验 | HTTP Tool 在发起请求时禁用了 SSL/TLS 证书校验,导致无法验证服务器身份真实性。攻击者可通过伪造证书实施中间人攻击,窃取或篡改通信数据。 |
Agentkit | MCP 服务端点 URL 未使用 HTTPS 协议 | MCP 端点使用明文 HTTP 协议进行通信,导致请求参数、响应数据、认证 Token 等敏感信息在传输过程中以明文形式暴露。攻击者可通过中间人攻击窃取 API 密钥、用户输入、模型输出等关键数据,甚至篡改指令,造成数据泄露、服务劫持或恶意操作。 |
AgentRun | API 模型端点未使用 HTTPS 协议 | API 模型端点使用明文 HTTP 协议进行通信,导致请求参数、响应数据、认证 Token 等敏感信息在传输过程中以明文形式暴露。攻击者可通过中间人攻击(MitM)窃取 API 密钥、用户输入、模型输出等关键数据,甚至篡改指令,造成数据泄露、服务劫持或恶意操作。 |
AgentRun | Ragflow 知识库端点未使用 HTTPS 协议 | Ragflow 知识库端点使用明文 HTTP 协议进行通信,导致请求参数、响应数据、认证 Token 等敏感信息在传输过程中以明文形式暴露。攻击者可通过中间人攻击(MitM)窃取 API 密钥、用户输入、模型输出等关键数据,甚至篡改指令,造成数据泄露、服务劫持或恶意操作。 |
AgentRun | Flow 工作流 HTTP Tool URL 未使用 HTTPS 协议 | 工作流中调用的 HTTP Tool(如 API 工具节点)使用明文 HTTP 协议传输数据,通信内容(包括请求参数、响应结果、认证 Token 等)在传输过程中未加密,易被中间人(MitM)窃听、篡改或劫持,导致敏感信息泄露或业务逻辑被操控。 |
AgentRun | Flow 工作流代码节点存在硬编码 AK / SK | 在工作流的代码节点中直接写入了云服务商的访问密钥(Access Key / Secret Key),导致凭证以明文形式暴露在代码或配置中,任何可访问该工作流的用户均可直接获取到相关密钥,可能造成数据泄露、资源盗用等后果。 |