托管模型

更新时间:
复制 MD 格式

托管模型是 Hologres AI Function 能力升级,无需 API Key 即可在控制台一键部署 AI 模型并通过 SQL 调用。

功能简介

托管模型是 Hologres AI Function 的一项重要能力升级。用户无需自行准备和配置外部 API Key,即可直接在 Hologres 控制台一键部署 AI 模型,并通过 SQL 调用 AI Function 完成文本生成、翻译、向量嵌入、图片理解、语音转写、视频生成等多种 AI 任务。

该功能简化了 AI 能力的接入流程,让用户能够像使用普通数据库函数一样,在数据仓库内直接调用大模型能力,实现数据与 AI 的无缝融合。典型场景包括:

  • 数据增强与内容生成:基于存量数据批量生成商品描述、营销文案、社交媒体帖子等。

  • 智能检索(RAG):通过向量嵌入构建语义检索能力,支撑问答系统和知识库搜索。

  • 多模检索:结合文本、图片、视频等多模态向量嵌入,实现跨模态内容检索与推荐。

  • 图片生成:基于文本描述或参考图批量生成商品主图、广告素材、设计草图等。

  • 视频生成:根据脚本或图片素材自动生成营销短视频、商品展示视频等内容。

  • 多媒体分析:对图片、语音、视频等非结构化数据进行结构化提取和分析。

  • 数据清洗与翻译:在 ETL 流程中嵌入翻译、摘要、分类、实体抽取等 AI 处理环节。

使用限制

实例版本要求

托管模型功能对 Hologres 实例版本有一定要求,支持的版本如下。

  • Hologres V4.0.40 及以上

  • Hologres V4.1.26 及以上

  • Hologres V4.2.5 及以上

  • Hologres V5.0 及以上

如果您的实例版本不符合上述要求,请先在 Hologres 管理控制台升级实例版本。

地域

托管模型当前支持以下地域:

  • 华北地区:华北2(北京)

  • 华东地区:华东1(杭州)、华东2(上海)

  • 华南地区:华南1(深圳)

  • 海外地区:新加坡

模型资源计费

购买模型资源

在使用托管模型之前,您需要先购买 Hologres AI 模型资源。请前往 AI 模型资源购买页进行购买。

购买时请注意以下事项:

  • 按量付费:托管模型采用按量付费模式,根据实际使用量计费,无需预付固定费用。

  • Region 选择:购买时请选择与您 Hologres 实例相同的 Region,确保模型资源与实例在同一地域,避免跨域网络费用。

  • 计费维度:模型调用费用根据实际调用量计算,不同模型的计费项(如 Token 数、图片张数、视频时长、语音时长等)可能不同。

详细价格

各模型详细价格请参见托管模型计费

托管模型管理

托管模型列表

Hologres 托管模型当前支持文本生成、翻译、向量嵌入、图片生成/编辑、语音转文本及视频生成等类型模型。下表列出各模型的分类、model_type、task 类型、输入输出及备注。

模型分类

model_type

task 类型

输入输出

备注

文本生成

qwen3.7-max

chat/completions

支持 text 输入,text 输出

支持参数:temperature、top_p、max_tokens

qwen3.7-plus

chat/completions

支持 text 输入,text 输出

支持参数:temperature、top_p、max_tokens

qwen3.6-plus

chat/completions

支持 text 输入,text 输出

支持参数:temperature、top_p、max_tokens

qwen3.6-flash

chat/completions

支持 text 输入,text 输出

支持参数:temperature、top_p、max_tokens

翻译

qwen3-vl-plus

chat/completions

支持 image/video 作为输入,text 作为输出

支持参数:temperature、top_p、max_tokens

qwen-mt-plus

translation

ai_translate

支持参数:source_lang、terms、tm_list、domains

向量嵌入

text-embedding-v4

embedding

ai_embed,text 输入,float[] 输出

向量维度:1,024(默认)、768、512、256、128、64

qwen3-vl-embedding

embedding

ai_embed,text/image/video 输入,float[] 输出

向量维度:2,560(默认)、2,048、1,536、1,024、768、512、256

图片生成/编辑

qwen-image-2.0-pro

image-generation

支持图像编辑、文本生成图像

wan2.7-image-pro

image-generation

文生图(非组图生成)支持 4K 高清输出

语音转文本

fun-asr

speech-to-text

语音识别

视频生成

wan2.7-t2v

video-generation

文生视频

wan2.7-i2v

video-generation

多模态(文本、图像、视频、音频)生视频

wan2.7-r2v

video-generation

多模态(文本、图像、视频、音频)生视频

wan2.7-videoedit

video-generation

输入文本、图像、视频多模态数据,可执行多种视频生成与编辑任务

happyhorse-1.0-t2v

video-generation

文本生成视频

happyhorse-1.0-i2v

video-generation

首帧生成视频

happyhorse-1.0-r2v

video-generation

参考生成视频

happyhorse-1.0-video-edit

video-generation

视频编辑

模型部署方式

购买模型资源后,您可以按以下步骤在 Hologres 管理控制台部署托管模型:

  1. 登录Hologres管理控制台,进入目标实例详情页。

  2. 在左侧导航栏选择 AI模型,进入模型管理页面。

  3. 单击 部署模型

  4. 选择模型提供方为 Hologres 托管模型

  5. 根据业务需求选择模型类别,支持一次选择多个模型同时部署。

  6. 为每个模型设置相关参数(一般使用默认参数即可),并配置模型重试机制。

  7. 单击 确认 完成部署。

  8. 部署完成后,在模型列表页面可查看已部署的所有模型及其状态。

使用托管模型

模型部署完成后,您可以通过 SQL 调用 AI Function 使用已部署的托管模型。Hologres 提供了丰富的 AI Function,涵盖文本生成、向量嵌入、翻译、图片理解、语音转写、视频生成等多种能力。关于 AI Function 的完整列表及详细用法,请参见AI Function列表

系统会根据已部署的模型自动为每个 AI Function 分配默认模型。您可以通过以下 SQL 查看当前映射:

SELECT * FROM list_ai_function_infos();

示例返回结果:

    function_name     |    model_name
----------------------+------------------
 ai_embed             | my_gte_embedding
 ai_classify          | my_qwen32b
 ai_extract           | my_qwen32b

使用以下 SQL 修改 AI Function 对应的默认模型:

SELECT set_ai_function_info('<FUNCTION_NAME>', '<MODEL_NAME>');

使用示例:

SELECT set_ai_function_info('ai_embed', 'my_gte_embedding');

完整使用流程

1. 购买模型资源

在使用托管模型之前,您需要先购买 Hologres AI 模型资源。请前往 AI 模型资源购买页进行购买。托管模型采用按量付费模式,根据实际使用量计费。

2. 部署模型

购买资源后,在 Hologres 管理控制台实例详情页的 AI模型 页签中,选择 Hologres 托管模型 并部署所需模型。

本示例部署了以下模型,用于第三步的 AI Function 调用:

  • qwen3.7-plus:文本生成模型,用于推理任务。

  • text-embedding-v4:向量嵌入模型,用于生成向量表示。

3. 使用 AI Function

模型部署完成后,您可以通过 SQL 调用 AI Function 使用模型能力。AI Function 的完整列表及详细用法请参见AI Function列表

示例 1:文本推理(使用 qwen3.7-plus)

-- 使用托管模型进行文本生成
SELECT ai_gen('qwen3.7-plus', '请为以下商品生成一段吸引人的描述:无线降噪耳机');

示例 2:向量嵌入(使用 text-embedding-v4)

-- 使用托管模型生成向量嵌入
SELECT ai_embed('text-embedding-v4', 'Hologres 是一款实时数仓产品');