购买与使用MaxCompute 模型计算服务

更新时间:
复制 MD 格式

MaxCompute中,若需要使用模型进行数据处理或离线推理且不希望自持GPU资源时,可以选择购买并使用MaxCompute 模型计算服务,以满足业务对模型推理及性能的需求。本文介绍如何购买和使用MaxCompute 模型计算服务。

适用范围

  • 支持地域:当前仅以下地域支持开通模型计算服务。

    • 中国内地:华北2(北京)、华东2(上海)、华东1(杭州)、华南1(深圳)、华北6(乌兰察布)

    • 国际:新加坡

  • 支持模型

    模型

    支持类型

    说明

    qwen3.7-max

    仅支持文本输入

    千问3.7系列旗舰模型,在推理、代码生成、多语言理解等方面全面升级,适用于高复杂度任务场景。

    qwen3.7-plus

    支持多模态数据输入

    千问 3.7 系列均衡型模型,兼顾性能与成本,适用于企业级长文本分析及多轮对话等综合场景。

    qwen3-vl-embedding

    支持多模态数据输入

    千问多模态向量化模型,支持图文混合输入的向量表示,适用于跨模态检索、图文匹配等场景。

    text-embedding-v4

    仅支持文本输入

    高精度文本向量化模型,适用于语义检索、聚类、相似度计算等场景。

    qwen3.6-plus

    支持多模态数据输入

    千问3.6系列均衡型模型,兼顾性能与成本,适用于对话、摘要、分析等通用业务场景。

    qwen3.6-flash

    支持多模态数据输入

    千问3.6系列轻量高速模型,响应速度快、成本低,适用于高并发、低延迟的在线服务场景。

    deepseek-v4-pro

    仅支持文本输入

    DeepSeek第四代旗舰推理模型,擅长数学、代码、复杂逻辑推理等高难度任务场景。

    deepseek-v4-flash

    仅支持文本输入

    DeepSeek第四代轻量模型,推理速度快、性价比高,适用于日常对话、轻量推理等场景。

    qwen3.5-397b-a17b

    支持多模态数据输入

    千问 3.5 系列MoE 架构模型,激活参数高效,兼具海量知识储备与多步推理能力,专为高难度逻辑推演、全栈代码生成及深度知识问答设计。

    qwen3-asr-flash

    支持多模态数据输入

    千问 3 系列轻量级语音识别模型,具备低延迟、高并发的实时转写能力,适用于会议记录、直播字幕生成及语音交互指令识别等实时音频处理场景。

    qwen3-max(即将下线)

    仅支持文本输入

    千问系列高性能大语言模型,适用于复杂推理、内容生成等场景。

计费规则

详情参见模型计算费用(Token费用)

开通流程

每个地域仅需开通一次,开通后默认允许该地域所有项目使用。

  1. 登录MaxCompute控制台,在左上角选择地域。

  2. 在左侧导航栏,选择管理配置 > 配额(Quota)管理 。

  3. Quota管理页面,单击新购Quota

    在购买页面,商品类型选择模型计算服务

  4. MaxCompute 模型计算服务页面,选择地域并确认服务协议后,确认开通服务。

  5. 购买完成后返回控制台,在Quota管理页面将会出现一个Quota名为 ai_InferenceQuota 的按量付费配额。

使用指南

MaxFrame作业中使用模型计算服务

使用MaxFrame AI Function,指定服务所支持的模型,即可使用MaxCompute 模型计算服务。

例如:使用qwen3.6-plus多模态模型进行图片理解

示例代码如下

import os

import pandas as pd
import maxframe.dataframe as md
from maxframe import new_session
from maxframe.config import options
from maxframe.learn.contrib.llm import ImageContentType
from maxframe.learn.utils import read_odps_model
from odps import ODPS

# 配置执行引擎:DPE 优先
options.dag.settings = {
    "engine_order": ["DPE", "MCSQL"],
}

# 1. 创建 ODPS 连接
o = ODPS(
    os.getenv("ALIBABA_CLOUD_ACCESS_KEY_ID"),
    os.getenv("ALIBABA_CLOUD_ACCESS_KEY_SECRET"),
    project="<your-project-name>",
    endpoint="<your-endpoint>",  # 如 https://service.cn-shanghai.maxcompute.aliyun.com/api
)

# 2. 配置引擎与创建会话

# 百炼 VL 模型推理通过 DPE 引擎执行,按 Token 消耗计费,无需预配 CU/GU 资源。

# 创建 MaxFrame 会话
session = new_session(o)
print(f"Session ID: {session.session_id}")
print(f"Logview: {session.get_logview_address()}")

# 从百炼公共模型集加载 VL 模型
image_llm = read_odps_model(
    "qwen3.6-plus", project="bigdata_public_modelset", odps_entry=o
)

## 3. 加载百炼 VL 模型

# 从 MaxCompute 公共模型集加载百炼预注册的多模态理解模型。
image_llm = read_odps_model(
    "qwen3.6-plus", project="bigdata_public_modelset", odps_entry=o
)

## 4. 准备 OSS 图片数据

# 使用 `oss://<endpoint>/<bucket>/<path>` 格式,通过 `storage_options` 传入 OSS 访问凭证。
# OSS 配置
OSS_ENDPOINT = "oss-cn-shanghai-internal.aliyuncs.com"  # 替换为你的 OSS Endpoint
OSS_BUCKET = "your-bucket"                              # 替换为你的 Bucket 名称
OSS_PREFIX = "images"                                   # 替换为图片所在路径前缀

storage_options = {
    "access_key_id": os.getenv("OSS_ACCESS_KEY_ID"),
    "access_key_secret": os.getenv("OSS_ACCESS_KEY_SECRET"),
}

# 构造图片 URL 列表
image_urls = [
    f"oss://{OSS_ENDPOINT}/{OSS_BUCKET}/{OSS_PREFIX}/image{i}.jpg"
    for i in range(1, 9)
]

df = md.DataFrame({"image_url": image_urls})
df.execute()

## 5. 调用 VL 模型进行图片理解

# 通过 `generate()` 接口,将文本 Prompt 和 OSS 图片组合传入模型。

cp = image_llm.content_part

result_df = image_llm.generate(
    df,
    messages=[
        {
            "role": "user",
            "content": [
                cp.text("请用一句话描述这张图片"),
                cp.image(
                    data=df.image_url,
                    type=ImageContentType.IMAGE_URL,
                    storage_options=storage_options,
                ),
            ],
        }
    ],
    simple_output=True,
    params={"max_tokens": 128},
)

## 6. 执行推理并查看结果

# MaxFrame 采用懒执行模式,调用 `.execute()` 触发实际计算。
result = result_df.execute()
print(result)

## 8. 资源清理
session.destroy()
print("会话已销毁")

更多语法说明及示例详见:MaxFrame AI Function

SQL作业中使用模型计算服务

使用SQL AI Function,指定服务所支持的模型,即可使用MaxCompute 模型计算服务,示例:

SET odps.namespace.schema=true;

SELECT 
    prompt,
    AI_GENERATE(
        bigdata_public_modelset.default.`qwen3.7-max`,
        DEFAULT_VERSION,
        concat('请对以下评论进行情感分析分类,输出结果仅限于以下三个选项之一:正面、负面、中性。待分析的评论:', prompt)
    ) AS generated_text
FROM (
    VALUES 
        ('今天天气真好,心情很不错!阳光明媚,适合出去散步。'),
        ('今天天气真好,心情很不错!阳光明媚'),
        ('科技发展日新月异,人工智能改变生活。'),
        ('防控措施很到位,为医护人员点赞!'),
        ('这个商品质量很差')
) t (prompt);

更多语法说明及示例详见:AI_GENERATE