添加策略与插件

添加AI API接口后,您可以为其配置预置策略,包括内容安全防护、限流、缓存、消费者授权,提高AI请求的安全性、性能和可维护性。

前提条件

已完成AI API创建并添加接口。具体操作,请参见创建AI API

内容安全防护

  1. 登录云原生API网关控制台

  2. 在左侧导航栏,选择API,并在顶部菜单栏选择地域。

  3. AI API列表中,单击目标API,进入目标API详情页面。

  4. 选择策略与插件页签,开启内容安全防护。参考下列表格参数项填写后,单击保存

    image

    配置项

    说明

    内容安全防护

    开启或关闭内容安全防护开关。

    防护服务

    默认填充最近的内容安全的VPC地址,服务地址可参考:文本审核增强版SDK及接入指南

    检查请求

    开启或关闭检查请求。

    检查响应

    开启或关闭检查响应。检查响应用于检查大模型的回答内容是否合规,生效时会使流式响应变为非流式。

    风险等级

    • high:内容安全检测结果中风险等级为 high 时产生拦截。

    • medium:内容安全检测结果中风险等级>= medium 时产生拦截。

    • low:内容安全检测结果中风险等级为>= low 时产生拦截。

    • max:检测请求/响应内容,但是不会产生拦截行为。

限流

  1. 登录云原生API网关控制台

  2. 在左侧导航栏,选择API,并在顶部菜单栏选择地域。

  3. AI API列表中,单击目标API,进入目标API详情页面。

  4. 选择策略与插件页签,开启限流。参考下列表格参数项填写后,单击保存

    image

    配置项

    说明

    Redis服务地址

    Redis服务地址。

    端口号(Port)

    Redis服务端口号。

    访问方式

    Redis服务访问方式。

    • 账号+密码登录。

    • 密码登录。

    • 免密登录。

    限流策略

    限流策略包含四种判断条件(按header、按query、按cookie、按客户端ip),且每种判断条件支持四种匹配方式:精确、前缀、正则和任意匹配,优先级:精确 > 前缀 > 正则 > 任意。

    如果配置了多条规则,则命中任一规则即被拦截。

缓存

  1. 登录云原生API网关控制台

  2. 在左侧导航栏,选择API,并在顶部菜单栏选择地域。

  3. AI API列表中,单击目标API,进入目标API详情页面。

  4. 选择策略与插件页签,开启缓存。参考下列表格参数项填写后,单击保存

    image

    配置项

    说明

    Redis服务地址

    Redis服务地址。

    访问方式

    Redis服务访问方式。

    • 账号+密码登录

    • 密码登录

    • 免密登录

    缓存时长(秒)

    缓存时长默认为1800秒,在缓存时长内,如果API接收到相同的AI请求,则会跳过LLM请求,直接返回缓存的响应数据。

消费者授权

  1. 登录云原生API网关控制台

  2. 在左侧导航栏,选择API,并在顶部菜单栏选择地域。

  3. AI API列表中,单击目标API,进入目标API详情页面。

  4. 选择策略与插件页签,开启消费者授权。参考下列表格参数项填写后,单击保存

    image

    配置项

    说明

    认证方式

    消费者授权认证方式:

    • JWT

      JSON Web Token (JWT) 用于在客户端和服务端之间以JSON对象的形式安全地传输信息。该信息可以被验证和信任,因为JWT使用HMAC算法、RSAECDSA的公钥/私钥对其进行签名。JWT认证可以在网关中验证身份并控制授权访问。

    • AK/SK(HMAC)

      AK/SK是一种基于HMAC算法的签名认证方式。客户端在调用API时,需要使用签名密钥对请求内容进行签名计算,并将签名同步传输给服务器端进行签名验证。

    • API Key

      API Key是一种简单的认证方式,客户端访问时,需将凭证以指定的方式添加至请求中,网关收到请求后会验证API Key的合法性及权限。API Key常用于不涉及敏感操作的简单场景,安全性相比JWT、AK/SK较低,请注意凭证的管理与保护。