添加AI API接口后,您可以为其配置预置策略,包括内容安全防护、限流、缓存、消费者授权,提高AI请求的安全性、性能和可维护性。
前提条件
已完成AI API创建并添加接口。具体操作,请参见创建AI API。
内容安全防护
登录云原生API网关控制台。
在左侧导航栏,选择API,并在顶部菜单栏选择地域。
在AI API列表中,单击目标API,进入目标API详情页面。
选择策略与插件页签,开启内容安全防护。参考下列表格参数项填写后,单击保存。
配置项
说明
内容安全防护
开启或关闭内容安全防护开关。
防护服务
默认填充最近的内容安全的VPC地址,服务地址可参考:文本审核增强版SDK及接入指南。
检查请求
开启或关闭检查请求。
检查响应
开启或关闭检查响应。检查响应用于检查大模型的回答内容是否合规,生效时会使流式响应变为非流式。
风险等级
high:内容安全检测结果中风险等级为 high 时产生拦截。
medium:内容安全检测结果中风险等级>= medium 时产生拦截。
low:内容安全检测结果中风险等级为>= low 时产生拦截。
max:检测请求/响应内容,但是不会产生拦截行为。
限流
登录云原生API网关控制台。
在左侧导航栏,选择API,并在顶部菜单栏选择地域。
在AI API列表中,单击目标API,进入目标API详情页面。
选择策略与插件页签,开启限流。参考下列表格参数项填写后,单击保存。
配置项
说明
Redis服务地址
Redis服务地址。
端口号(Port)
Redis服务端口号。
访问方式
Redis服务访问方式。
账号+密码登录。
密码登录。
免密登录。
限流策略
限流策略包含四种判断条件(按header、按query、按cookie、按客户端ip),且每种判断条件支持四种匹配方式:精确、前缀、正则和任意匹配,优先级:精确 > 前缀 > 正则 > 任意。
如果配置了多条规则,则命中任一规则即被拦截。
缓存
登录云原生API网关控制台。
在左侧导航栏,选择API,并在顶部菜单栏选择地域。
在AI API列表中,单击目标API,进入目标API详情页面。
选择策略与插件页签,开启缓存。参考下列表格参数项填写后,单击保存。
配置项
说明
Redis服务地址
Redis服务地址。
访问方式
Redis服务访问方式。
账号+密码登录
密码登录
免密登录
缓存时长(秒)
缓存时长默认为1800秒,在缓存时长内,如果API接收到相同的AI请求,则会跳过LLM请求,直接返回缓存的响应数据。
消费者授权
登录云原生API网关控制台。
在左侧导航栏,选择API,并在顶部菜单栏选择地域。
在AI API列表中,单击目标API,进入目标API详情页面。
选择策略与插件页签,开启消费者授权。参考下列表格参数项填写后,单击保存。
配置项
说明
认证方式
消费者授权认证方式:
JWT
JSON Web Token (JWT) 用于在客户端和服务端之间以JSON对象的形式安全地传输信息。该信息可以被验证和信任,因为JWT使用HMAC算法、RSA或ECDSA的公钥/私钥对其进行签名。JWT认证可以在网关中验证身份并控制授权访问。
AK/SK(HMAC)
AK/SK是一种基于HMAC算法的签名认证方式。客户端在调用API时,需要使用签名密钥对请求内容进行签名计算,并将签名同步传输给服务器端进行签名验证。
API Key
API Key是一种简单的认证方式,客户端访问时,需将凭证以指定的方式添加至请求中,网关收到请求后会验证API Key的合法性及权限。API Key常用于不涉及敏感操作的简单场景,安全性相比JWT、AK/SK较低,请注意凭证的管理与保护。