CREATE MODEL

更新时间:
复制为 MD 格式

本文介绍云原生数据仓库 AnalyticDB MySQL 版CREATE MODEL创建模型语法。您将了解到如何创建模型,以及如何指定模型服务提供商、指定域名等。

语法

CREATE MODEL model_name
OPTIONS(
  type='internal|external'
  name='connected_model_name',
  provider='provider_name'
  [,interface='interface_str']
  [,api_key='sk-xxx']
  [,endpoint='endpoint_url']
  [,model_properties=]
)

参数

参数名

含义

model_name

AnalyticDB for MySQL侧定义的模型名称。

name

模型服务侧的模型名称。

例如,如果是使用阿里云百炼的模型服务,可能是qwen-maxqwen-plus

type

模型服务类型。

  • internal:表示需要使用AnalyticDB for MySQL内部的推理平台提供的模型服务。模型服务创建请参见基于AnalyticDB Ray创建推理服务

  • external:表示需要使用外部的模型服务。例如阿里云百炼,需要配置网络

provider

模型服务商名称。

  • ADB_MODEL_SERVER:AnalyticDB for MySQL的推理平台。

  • BAILIAN:阿里云百炼

interface

(可选)模型服务接口类型。

主要用于区分多模态的模型服务,如果缺省默认为纯文本模型(TEXT_TO_TEXT)。多个接口按逗号分割。

支持的接口类型:

  • TEXT_TO_TEXT:文本生成模型。

  • TEXT_TO_EMBEDDING:文本向量嵌入模型。

  • IMAGE_TO_TEXT:图片转文本模型。

  • IMAGE_TO_EMBEDDING:图片向量嵌入模型。

  • AUDIO_TO_TEXT:语音转文本模型。

  • AUDIO_TO_EMBEDDING:语音向量嵌入模型。

api_key

(可选)模型服务密钥。

如果指定了外部的模型服务提供商,需要填写对应的模型访问密钥

endpoint

(可选)模型服务域名。

如果指定了外部的模型服务提供商,需要填写对应的模型服务域名

model_properties

(可选)模型参数。

部分模型会提供一些超参数来控制模型输出。参数示例请参见模型参数

模型参数

目前仅支持阿里云百炼通义千问(Qwen)系列模型。

参数

类型

含义

top_k

int

从概率最高的 top_k 个候选词中进行采样,限制生成时的词汇选择范围,值越小生成结果越确定。

top_p

double

核采样(nucleus sampling)参数,按累积概率从高到低选取最小的词集,使其总概率≥top_p,动态调整候选词数量,值越小生成越聚焦。

enable_search

boolean

是否启用联网搜索功能以获取最新或外部信息。

seed

int

随机种子,用于控制生成过程的随机性;相同seed可复现相同输出(在其他参数一致时)。

temperature

float

控制生成文本的随机性:值越高,输出越随机多样;值越低,输出越确定、保守。通常范围为0.0–2.0。

max_tokens

int

生成文本的最大token数量,限制输出长度(不包括输入部分)。