AI模型与函数管理

模型类型

开始操作前，先了解两类模型的区别。

使用流程

建议按以下顺序使用本文的功能。

1. 进入管理页面，在模型配置页签查看系统模型，确认可用的模型及其能力。

2. 在AI Function 目录页签了解函数用法，并通过 SQL 调用系统模型，先跑通基础用法。

3. 需要控制成本时，为实例设置模型用量上限。

4. 系统模型无法满足需求时，配置自定义模型并下发至实例。

5. 在监控页签查看 Token 消耗趋势与本月累计用量。

各项配置均与具体实例绑定：自定义模型按实例逐个配置并手动下发，用量上限按"实例＋模型"设置，监控按实例或模型维度汇总。相关细节请参见对应章节。

SQL 示例

从目录中确认函数的参数和模型要求后，即可在 SQL 中调用。以下示例分别演示显式选择文本生成模型和文本 Embedding 模型，执行前请确认对应模型在目标实例可用。

文本生成

SELECT ai_complete(
      'qwen3.6-plus',
      '请用一句话说明向量检索的用途。'
  );

返回模型生成的文本。

文本向量化

SELECT ai_embed(
      'text-embedding-v4',
      '这款商品支持七天无理由退货。'
  );

返回 ARRAY 类型的向量。

操作步骤

1. 在 模型配置 页签，单击 设置模型上限；也可以直接单击目标模型操作列的 设置上限。

2. 在 设置模型用量上限 对话框中，选择需要配置的实例，并确认提示条中展示的实例名称和实例 ID，避免修改其他实例的配置。

3. 为目标模型填写以下参数。

4. 单击 保存配置。

上限规则

配置前，请了解以下规则。

例如，为实例 A 中某模型设置自然月上限为 1000000、每分钟上限为 10000，表示该模型在实例 A 中分别受每月 100 万 Token 和每分钟 1 万 Token 的限制。此配置不影响实例 B 中同一模型的用量上限。

步骤一：新增模型配置

1. 在 模型配置 页签，找到 自定义模型 区域。

2. 单击 新增模型。

3. 在 自定义模型配置 对话框中，填写以下参数。

4. 单击 保存，返回自定义模型列表。

5. 在列表中查看实例、资源名称、服务端模型名称、能力类型及状态。必要时单击 刷新 获取最新信息。

步骤二：下发配置并测试连通性

1. 在自定义模型列表中，找到刚保存的配置，通过其操作列将配置手动下发至绑定的实例。

2. 查看列表中的状态列，确认下发结果。下发成功后，执行模型连通性测试。

3. 如果测试失败，依次检查模型服务地址、接口协议、服务端模型名称、访问凭据及实例节点的网络可达性，排除问题后重新测试。

步骤三：验证模型可用

下发成功后，建议先执行一次调用，确认配置生效。例如，已成功下发文本生成模型，且资源名称为 my_llm 时，可执行以下 SQL。

SELECT ai_custom_query(
      'my_llm',
      '请用一句话说明向量检索的用途。'
  );

其中，my_llm 是创建配置时填写的资源名称，不是服务端模型名称。模型返回的文本内容可能因模型与参数不同而变化。

验证通过后，即可在业务 SQL 中使用该模型。自定义模型函数的完整语法，请参见 AI Function。

查看消耗趋势

1. 进入 AI Function & 模型 > 监控 页签。

2. 在消耗趋势区域选择查看维度：按实例查看各实例的 Token 消耗趋势（可通过实例选择框筛选实例），或按模型查看模型维度的 Token 消耗趋势。

3. 选择 近 7 天 或 近 30 天。

4. 查看图表及其上方显示的实际统计区间。

查看消耗分布

1. 在 实例消耗分布 区域，查看各实例消耗各模型的 Token 明细及合计。

2. 核对该区域显示的统计区间。此区域展示本月累计用量，与上方趋势图的近 7 天或近 30 天范围不同。

3. 需要保存用量明细时，单击 导出。

统计口径

设置模型上限后，是否会影响其他实例？

不会。配置仅对对话框中所选实例的对应模型生效。如需限制其他实例，应分别选择实例进行配置。

每分钟上限是否等同于 QPS？

不等同。每分钟上限的单位是 tokens/分钟，用于限制 Token 消耗；QPS 表示每秒请求数。同样的请求数可能产生不同的 Token 用量。

自定义模型已保存，为什么还不能调用？

保存只完成模型信息配置。请确认配置已手动下发至绑定实例，并完成连通性测试。同时检查 SQL 是否连接正确的实例，以及函数中传入的资源名称是否与配置一致。

模型服务地址可以只填写服务域名吗？

需要填写完整的 HTTPS 接口地址，包含调用路径。请按模型服务提供的接口文档填写，并确认实例节点可以访问。

监控页面为什么没有显示刚产生的调用？

该页面展示离线统计结果，不是实时调用日志。请检查地域、查看维度、筛选条件和实际统计区间，并在数据更新后查看。费用核对请以账单为准。

AI 函数是否会将数据发送至模型服务？

会。执行推理时，相关输入字段或多模态内容会根据调用需要发送至模型服务。请在调用前确认数据授权和合规要求。不要在共享 SQL、日志或截图中暴露访问凭据。