托管模型

实例版本要求

托管模型功能对 Hologres 实例版本有一定要求，支持的版本如下。

• Hologres V4.0.40 及以上

• Hologres V4.1.26 及以上

• Hologres V4.2.5 及以上

• Hologres V5.0 及以上

如果您的实例版本不符合上述要求，请先在 Hologres 管理控制台升级实例版本。

地域

托管模型当前支持以下地域：

• 华北地区：华北2（北京）

• 华东地区：华东1（杭州）、华东2（上海）

• 华南地区：华南1（深圳）

• 海外地区：新加坡

购买模型资源

在使用托管模型之前，您需要先购买 Hologres AI 模型资源。请前往 AI 模型资源购买页进行购买。

购买时请注意以下事项：

• 按量付费：托管模型采用按量付费模式，根据实际使用量计费，无需预付固定费用。

• Region 选择：购买时请选择与您 Hologres 实例相同的 Region，确保模型资源与实例在同一地域，避免跨域网络费用。

• 计费维度：模型调用费用根据实际调用量计算，不同模型的计费项（如 Token 数、图片张数、视频时长、语音时长等）可能不同。

详细价格

各模型详细价格请参见托管模型计费。

托管模型列表

Hologres 托管模型当前支持文本生成、翻译、向量嵌入、图片生成/编辑、语音转文本及视频生成等类型模型。下表列出各模型的分类、model_type、task 类型、输入输出、备注及是否支持 API 调用。

模型部署方式

购买模型资源后，您可以按以下步骤在 Hologres 管理控制台部署托管模型：

1. 登录Hologres管理控制台，进入目标实例详情页。

2. 在左侧导航栏选择 AI模型，进入模型管理页面。

3. 单击 部署模型。

4. 选择模型提供方为 Hologres 托管模型。

5. 根据业务需求选择模型类别，支持一次选择多个模型同时部署。

6. 为每个模型设置相关参数（一般使用默认参数即可），并配置模型重试机制。

7. 单击 确认 完成部署。

8. 部署完成后，在模型列表页面可查看已部署的所有模型及其状态。

模型使用

模型部署完成后，您可以通过以下两种方式使用托管模型：

• 使用 AI Function 调用：通过 SQL 调用 AI Function，适用于在数据仓库内直接处理数据的场景。

• 使用 API 调用：通过 AI Function 的对外 API 调用，适用于在 Hologres 之外的应用或 AI Agent 中复用已部署模型的场景。仅部分模型支持该方式，具体请参见托管模型列表中的“API 调用”列。

SELECT * FROM list_ai_function_infos();

    function_name     |    model_name
----------------------+------------------
 ai_embed             | my_gte_embedding
 ai_classify          | my_qwen32b
 ai_extract           | my_qwen32b

SELECT set_ai_function_info('<FUNCTION_NAME>', '<MODEL_NAME>');

SELECT set_ai_function_info('ai_embed', 'my_gte_embedding');

curl http://hologres-token-cn-hangzhou.hologres.aliyuncs.com:80/anthropic/v1/messages \
  -H "x-api-key: <API_KEY>" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2","max_tokens":1024,"messages":[{"role":"user","content":"Hello"}]}'

SELECT query, extended_cost, *
FROM hologres.hg_query_log
WHERE query LIKE '%ai_gen%'
  AND query_start >= now() - interval '1 hour'
ORDER BY query_start DESC;

{
  "qe_model_usage": {
    "TokenModelUsage": {
      "qwen3.7-max": {
        "tiers": {
          "0-unlimited": {
            "cache_creation_input_tokens": 0,
            "explicit_cache_tokens": 0,
            "implicit_cached_tokens": 0,
            "input_tokens": 703,
            "output_tokens": 151,
            "tier_key": "0-unlimited",
            "total_cached_tokens": 0,
            "total_tokens": 854
          }
        },
        "total_tokens": 854
      }
    }
  }
}

1. 购买模型资源

在使用托管模型之前，您需要先购买 Hologres AI 模型资源。请前往 AI 模型资源购买页进行购买。托管模型采用按量付费模式，根据实际使用量计费。

2. 部署模型

购买资源后，在 Hologres 管理控制台实例详情页的 AI模型 页签中，选择 Hologres 托管模型 并部署所需模型。

本示例部署了以下模型，用于第三步的 AI Function 调用：

• qwen3.7-plus：文本生成模型，用于推理任务。

• text-embedding-v4：向量嵌入模型，用于生成向量表示。

3. 使用 AI Function

模型部署完成后，您可以通过 SQL 调用 AI Function 使用模型能力。AI Function 的完整列表及详细用法请参见AI Function列表。

示例 1：文本推理（使用 qwen3.7-plus）

-- 使用托管模型进行文本生成
SELECT ai_gen('qwen3.7-plus', '请为以下商品生成一段吸引人的描述：无线降噪耳机');

示例 2：向量嵌入（使用 text-embedding-v4）

-- 使用托管模型生成向量嵌入
SELECT ai_embed('text-embedding-v4', 'Hologres 是一款实时数仓产品');