配置并调用 AI 推理模型

文本生成类函数

• AI_COMPLETE

  • 用途：通用的文本生成函数，可根据给出的提示词处理输入文本，适用于内容生成、文本改写和通用问答。

  • 使用示例：AI_COMPLETE('chat_model', content_string, '提示：请概括输入内容')

  • 返回示例：{"result":"输入内容的摘要"}

• AI_CLASSIFY

  • 用途：将输入文本分类到指定的候选类别中。多个类别之间使用逗号分隔。

  • 使用示例：AI_CLASSIFY('chat_model', content_string, '新闻,体育,娱乐')

  • 返回示例：{"category":"体育","confidence":0.95}

• AI_TRANSLATE

  • 用途：将输入文本从源语言翻译为目标语言。源语言填写 auto 时，由模型自动识别。

  • 使用示例：AI_TRANSLATE('chat_model', content_string, 'auto', 'en')

  • 返回示例：{"translated_text":"Hello, world.","detected_language":"zh"}

• AI_SUMMARIZE

  • 用途：为输入文本生成摘要。第三个参数表示摘要允许包含的最大字符数。

  • 使用示例：AI_SUMMARIZE('chat_model', content_string, 200)

  • 返回示例：{"summary":"输入内容的摘要"}

• AI_SENTIMENT

  • 用途：分析输入文本的情感倾向。情感分数 score 的取值范围为 -1.0～1.0。

  • 使用示例：AI_SENTIMENT('chat_model', review_content)

  • 返回示例：{"score":0.8,"label":"positive","confidence":0.92}

• AI_EXTRACT

  • 用途：按照指定的 Schema 从非结构化文本中提取结构化信息。

  • 使用示例：AI_EXTRACT('chat_model', content_string, '{"name":"string","age":"integer"}')

  • 返回示例：{"extracted_json":"{\"name\":\"张三\",\"age\":25}"}

• AI_MASK

  • 用途：识别并遮盖指定类型的敏感信息。多个实体类型之间使用逗号分隔。

  • 使用示例：AI_MASK('chat_model', content_string, 'name,phone,email')

  • 返回示例：{"masked_text":"联系人：张*，手机：138****8000","detected_entities":"name,phone"}

文本向量化函数

• AI_EMBED

  • 用途：将输入文本转换为浮点数向量，可用于语义检索、相似度计算和文本聚类。

  • 使用示例：AI_EMBED('embedding_model', content_string)

  • 返回示例：[0.0123, -0.0876, 0.2345, ...]

多模态生成类函数

• AI_IMAGE_COMPLETE

  • 用途：根据图片二进制数据和提示词生成文本，可用于图片描述、内容识别和视觉问答。

  • 使用示例：AI_IMAGE_COMPLETE('vision_model', image_bytes, '请描述图片中的商品')

  • 返回示例："图片中是一双白色运动鞋。"

多模态向量化函数

• AI_IMAGE_EMBED

  • 用途：将图片二进制数据转换为浮点数向量，可用于以图搜图、图片聚类和多模态检索。

  • 使用示例：AI_IMAGE_EMBED('image_embedding_model', image_bytes)

  • 返回示例：[0.0312, -0.1024, 0.2867, ...]

创建推理模型

VVR 11.7 及以上版本支持通过 CREATE MODEL 在元数据中心创建持久化模型。使用内置模型时，无需配置 endpoint 和 api-key。

CREATE MODEL qwen_chat
USING openai_compatible
WITH (
  'provider' = 'openai-compat',
  'task' = 'chat/completions',
  'model' = 'qwen3.7-max'
);

CREATE MODEL multimodal_embedding
USING openai_compatible
WITH (
  'provider' = 'dashscope',
  'task' = 'multimodal-embedding',
  'model' = 'qwen3-vl-embedding',
  'content-type' = 'image_url',
  'dimension' = '512'
);

复用已有模型

创建完成后，可以在 YAML Pipeline 中通过完整名称引用 Flink SQL 模型：

pipeline:
  model:
    - name: chat_model
      reuse-model: vvp.default.qwen_chat

    - name: image_embedding_model
      reuse-model: vvp.default.multimodal_embedding