新功能发布记录

变更类型

功能说明

新功能

• AI 安全防护支持按消费者配置拦截策略和 service。

• Model API 限流策略新增请求数和并发数维度，且支持在 embedding、rerank 和多模态场景开启。

• Embedding 场景的 Model API 支持按模型名称路由到多个服务提供商。

• 多模态、Embedding 和 Rerank 场景的 Model API 支持设置策略和插件。

• Agent API 新增可观测大盘。

• 自定义协议的 Agent API 支持按请求权重路由到多个后端服务。

优化

openAI 兼容协议下 AI 观测支持记录 responses API 的 question 和 answer。

修复

修复停止状态的实例不支持续费的问题。

变更类型

功能说明

新商品

AI 网关发布 Serverless 版本，最高节省 90%成本。

新功能

• MCP 工具支持语义检索。

• MCP Server 支持 Tool组装。

• MCP Server 支持 按比例灰度服务。

• Agent API 支持策略与插件。

• AI 网关支持在日志中开关 question 和 answer 的写入。

• AI 安全防护支持按多个防护维度分别设置拦截策略。

变更类型

功能说明

新功能

• 支持密钥管理，通过对接 KMS，实现消费者凭证、API-KEY、插件配置中的敏感信息等的安全管理。

• 新增虚拟 MCP Server，可自由组装已有 MCP Server 的工具，形成新的 MCP Server。

• Model API 支持 ComfyUI服务。

开服

新增韩国地域。

变更类型

功能说明

新功能

• Model API支持代理通义万相、cosyvoice 等多模态模型。

• Model API支持代理 rerank 模型。

• Model API支持为 openAI 兼容协议添加 responses 接口。

• MCP Server 支持包括 tool 调用在内的可观测。

• MCP Server 支持MCP工具级别消费者认证。

优化

• MCP 配置格式错误时透出详细错误信息。

• MCP Server 配置保存时增加预检。

开服

新增青岛地域。

变更类型

功能说明

新功能

• 新增Agent API，支持代理百炼应用和 Dify。

• AI 缓存支持语义化缓存策略。

• Model API 支持 fine_tuning接口。

变更类型

功能说明

新功能

• 支持从Nacos MCP Registry 导入MCP Server。

• LLM API 支持自定义路由，满足按请求特征进行精细化路由的能力。

• AI 服务支持直接对接 PAI EAS并在运行时自动获取 API-KEY。

• 支持直接添加PAI-EAS服务作为AI服务后端。

• 内容安全升级为 AI 安全围栏。

• 支持将搜索设置为默认关闭，通过客户端参数手动启用搜索。