新功能发布记录

变更类型

功能说明

新功能

• 多租 Serverless 正式开启公测，提供企业版与标准版，最低 0 起步，公测期间免费试用。

• 支持模型资产管理，提供模型元信息与供应商管理，可对模型进行 Credits 配额管控。

• FinOps 支持自定义周期配额，支持 Credits 管控。

• 自定义 Model/Agent API 支持 HTTP 重写。

• 支持与全球加速 GA 的集成。

优化

• 安全护栏支持并行检测配置。

• 网关接入点支持移除。

变更类型

功能说明

新功能

• 上线FinOps能力，支持消费者级别的Token配额限制

• 支持消费者组，可对消费者按组划分，实现消费者组级别的API授权

• 支持千问云以及百炼Token Plan的对接

• 支持接入KlingAI等类型的文生图、文生视频模型

• 支持VertexAI Claude模型的OpenAI与Anthropic访问协议

• 支持AI服务多API Key场景下的Failover，提升模型调用的稳定性与成功率

变更类型

功能说明

新功能

AWS Bedrock 服务支持 Anthropic 协议调用。

新功能

支持对接安全护栏自定义 Agent 规则，支持返回拦截信息及对应 RequestID。

新功能

支持对连接数、自动扩容 Unit 数的监控。

新功能

AI 网关新增 FinOps 消费者配额能力，支持消费者在实例级别设置 Token 配额，支持按自然日/月/年设置配额周期，支持配额规则时区设置、配额重置及配额使用水位监控。

新增 Credits 配额维度。创建配额规则时，在规则类型中可选择 Token 配额或 Credits 配额。Credits 为统一计量单位，跨模型归一化成本。两种配额类型的设置方式相同，均支持按自然日/周/月设置重置周期、时区设置、配额重置及用量监控。

变更类型

功能说明

新功能

• 集成 HiMarket，支持通过控制台搭建 AI 开放平台，进行 API 产品管理、门户管理与产品分类管理。

• 支持 AI 安全护栏脱敏能力，包括文本脱敏和图片脱敏。

• 支持自定义配置 AI 安全护栏的返回信息。

• 支持开通公网后关闭公网。

• 支持配置第三方代理 Base URL。

变更类型

功能说明

开服

新增亚特兰大地域。

新功能

• 支持百炼语言识别 Fun-ASR 及 Qwen3-vl-embedding 模型。

• Token 限流支持 7 天、30 天限制，支持更灵活的用量控制场景。

• 支持模型日志字段参数映射，将模型返回的字段与网关的日志字段映射，统一解决各类模型的可观测适配问题。

• Bedrock 服务支持 Prompt Caching 配置，可降低推理成本和响应延迟。

• Claude 服务支持 ClaudeCodeMode 配置，解决 Claude Code 对接时的鉴权冲突问题。

• AI 安全护栏防护维度新增自定义 Agent（CustomLabel），可针对自定义 Agent 服务进行安全防护。

• AI 网关与普通网关支持区分默认告警规则类型，AI 网关使用专属告警指标（AIGatewayEnvoyCpuUsageRate、AIGatewayEnvoyMemoryUsageRate、AIGatewayEnvoyPluginCrash）。

优化

• 创建 AI 服务时，Base URL 支持配置 Claude、Gemini 等模型的第三方代理平台地址。

• 解决用户同时配置健康检测和大模型负载均衡导致的配置推送失败问题，产品侧增加互斥校验。

• 资源配额扩大，适配用户的更大使用规模。

• Token 限流策略支持依据引擎版本过滤限流模式，每周/每月限流（TokenPerWeek/TokenPerMonth/RequestPerWeek/RequestPerMonth）需引擎版本 ≥ 2.1.15。

• 创建 AI 服务时，Bedrock 供应商支持选择端点模式（Mantle 或 Runtime），Mantle 模式下自动使用 Anthropic 协议且不支持 Prompt Caching。

变更类型

功能说明

新功能

• 支持百炼 Embedding 原生协议。

• Agent API 支持 AI 可观测。

• Agent API 支持调试能力。

• 新增 API 创建模板，快速创建简单文本模型代理与高可用模型代理。

优化

• Agent 服务支持配置内网 DNS 解析。

• 更新百炼 Anthropic 兼容接口标准。

• 新增快速开始，优化 AI 网关操作链路信息展示。

变更类型

功能说明

新功能

• Model API 支持 Vertex AI 的原生 Gemini 协议，覆盖 Gemini、Nano Banana、Veo3 等模型。

• 在 Dify 的模型供应商中提供官方 Higress 插件，方便用户接入 AI 网关代理模型。

• 百炼 Agent API 支持接入 AI 安全护栏。

• MCP Server 支持 JWT 认证。