如何在 AI 网关开启使用 AI 安全护栏

1. 开通 AI 网关：点击 开通 AI 网关。

2. 开通 AI 安全护栏：点击 开通 AI 安全护栏。

3. 完成 SLR 授权：需要在 AI 网关控制台完成 AI 网关调用 AI 安全护栏的授权，具体可在下述步骤二中进行。

1.1 进入配置页面

1. 登录 AI 安全护栏控制台。

2. 在总览页面，找到 AI 网关图标，在鼠标触碰图标后弹出的弹窗内，单击 接入管理 > 新增配置。

1.2 选择模型协议

在「协议配置」区域，选择需要的模型协议：

1.3 配置请求检测（输入）

开启 检测请求 开关后，配置输入侧的检测参数：

如需检测多种模态（例如文本和图片），单击 + 添加模态 新增行。

1.4 配置输出检测（响应）

开启 检测输出 开关后，首先需要选择 审查模式：

输出检测参数默认值：

1.5 配置防护处置

单击 + 添加规则，创建防护处置规则。

防护维度（多选）：

风险等级与动作：

配置完成后单击 保存。

工作原理

「先发后审」模式下，模型生成的响应内容会立即流式返回给用户，同时异步送交 AI 安全护栏检测。若检测到违规内容，AI 安全护栏会返回一条撤回事件（recall event），客户端收到后执行撤回动作，将已展示的违规内容替换为拦截文案。

撤回事件格式

当响应命中防护规则时，AI 安全护栏会在 SSE 流中追加以下事件：

data: {"id":"chatcmpl-xxxx","object":"chat.completion.chunk","created":1793104383,"model":"qwen-max","choices":[{"index":0,"delta":{"content":"内容不合法，响应被撤回。"},"finish_reason":"content_filter","x_guardrail":{"action":"recall","scope":"all","replace_text":"内容不合法，响应被撤回。"}}]}

data: [DONE]
          

关键字段说明：

客户端处理逻辑

客户端在解析 SSE 流时，需增加对撤回事件的处理：

1. 检测 choices[].finish_reason 是否为 content_filter。

2. 若为 content_filter 且 x_guardrail.action 为 recall，清除已展示的流式内容。

3. 将 x_guardrail.replace_text 的内容展示给用户。

前端伪代码参考：

// 在 SSE 流式处理循环中
for await (const chunk of stream) {
  const choice = chunk.choices?.[0];

  // 检测撤回事件
  if (choice?.finish_reason === 'content_filter'
      && choice?.delta?.x_guardrail?.action === 'recall') {
    // 清除已展示的内容
    clearDisplayedContent();
    // 展示替换文本
    displayText(choice.delta.x_guardrail.replace_text);
    break;
  }

  // 正常流式展示
  appendText(choice?.delta?.content);
}
          

AI 安全护栏审核耗时对比：先发后审与先审后发

假设切片配置均为：输入分片 2000，并发 2，输出分片 300。

先发后审（撤回模式）：

先审后发（拦截模式）：切片配置为：输入分片 2000，并发 20，输出分片 300。