文档

PAI官方镜像

更新时间:

阿里云PAI为您提供了基于不同框架、不同CUDA版本的官方镜像,您可以在使用DLCEASDSW时直接选择适用的镜像,即可快速基于官方镜像构建AI开发环境。本文为您介绍PAI预置的官方镜像能力和核心镜像列表。

认识官方镜像

阿里云PAI为您提供的官方镜像遵循一定的命名规则,您可以通过镜像名称了解到此镜像的基本信息。通常镜像命名会包含以下几个固定字段,建议您添加自定义镜像时使用统一的命名规则。

官方镜像名称示例

镜像名称解读

各个产品支持使用的镜像类型

tensorflow:2.11-gpu-py39-cu112-ubuntu20.04

  • tensorflow:2.11:表示训练框架为2.11版本的TensorFlow。

  • gpu:表示适用GPU类型的机型。

  • py39:表示开发语言为3.9版本的Python。

  • cu112:表示支持的CUDA版本为112版本。

  • ubuntu20.04:表示支持的操作系统为20.04版本的Ubuntu操作系统。

官方镜像适用的子产品不同:

  • -training类型的镜像适用于DLC。

  • -inference类型的镜像适用于EAS。

  • -develop类型的镜像适用于DSW。

deeprec-develop:2302-tensorflow1.15-cpu-py36-ubuntu18.04

  • deeprec-develop:2302-tensorflow1.15:表示训练框架为1.15版本的TensorFlow和2302版本的DeepRec。

  • cpu:表示适用于CPU类型的机型。

  • py36:表示开发语言为3.6版本的Python。

  • ubuntu18.04:表示支持的操作系统为18.04版本的Ubuntu操作系统。

官方镜像能力

阿里云PAI为您提供了基于不同机器学习框架的官方镜像,您可以在PAI控制台的镜像AI资产页面中查看所有官方镜像列表,以下为您介绍基于TensorFlow、PyTorch等主流框架的官方镜像信息。

TensorFlow

框架版本

CUDA版本(仅GPU机型)

操作系统

  • TensorFlow2.6

  • TensorFlow2.3

  • TensorFlow2.21

  • TensorFlow2.11

  • TensorFlow1.15,TensorFlow1.15.5

  • TensorFlow1.12

  • CUDA 114

  • CUDA 113

  • CUDA 112

  • CUDA 101

  • CUDA 100

  • Ubuntu 20.04

  • Ubuntu 18.04

TensorFlowServing

框架版本

CUDA版本(仅GPU机型)

操作系统

  • TensorFlowServing2.11.1

  • TensorFlowServing1.15.0

  • CUDA 112

  • CUDA 100

  • Ubuntu 20.04

  • Ubuntu 18.04

  • Ubuntu 16.04

Pytorch

框架版本

CUDA版本(仅GPU机型)

操作系统

  • Pytorch2.1

  • Pytorch2.0

  • Pytorch1.8

  • Pytorch1.7

  • Pytorch1.12

  • Pytorch1.11

  • Pytorch1.10

  • CUDA 121

  • CUDA 117

  • CUDA 114

  • CUDA 113

  • CUDA 101

  • Ubuntu 22.04

  • Ubuntu 20.04

  • Ubuntu 18.04

DeepRec

框架版本

CUDA版本(仅GPU机型)

操作系统

  • DeepRec2302

  • DeepRec2212

CUDA 114

Ubuntu 18.04

XGBoost

框架版本

CUDA版本(仅GPU机型)

操作系统

XGBoost1.6.0

不涉及,仅支持CPU机型

Ubuntu 18.04

TritonServer

框架版本

CUDA版本(仅GPU机型)

操作系统

  • TritonServer23.02

  • TritonServer21.09

  • CUDA 120

  • CUDA 114

Ubuntu 20.04

核心镜像列表

灵骏智算资源(Serverless版)适用的镜像

镜像名称

框架

机型

CUDA

操作系统

地区

开发语言&版本

deepspeed-training:23.06-gpu-py310-cu121-ubuntu22.04

  • PyTorch 2.1

  • Megatron-LM 23.06

  • DeepSpeed 0.9.5

  • Transformers 4.29.2

  • Nemo 1.19.0

GPU

121

ubuntu22.04

华北6(乌兰察布)

Python3.10

megatron-training:23.06-gpu-py310-cu121-ubuntu22.04

  • PyTorch 2.1

  • Megatron-LM 23.06

  • DeepSpeed 0.9.5

  • Transformers 4.29.2

  • Nemo 1.19.0

GPU

121

ubuntu22.04

华北6(乌兰察布)

Python3.10

nemo-training:23.06-gpu-py310-cu121-ubuntu22.04

  • PyTorch 2.1

  • Megatron-LM 23.06

  • DeepSpeed 0.9.5

  • Transformers 4.29.2

  • Nemo 1.19.0

GPU

121

ubuntu22.04

华北6(乌兰察布)

Python3.10

AIGC相关镜像

镜像名称

框架

机型

CUDA

操作系统

支持地区

开发语言&版本

stable-diffusion-webui:3.0

StableDiffusionWebUI3.0

GPU

117

ubuntu22.04

  • 华东1(杭州)

  • 华东2(上海)

  • 华北2(北京)

  • 华北3(张家口)

  • 华北6(乌兰察布)

  • 华南1(深圳)

  • 华南2(河源)

  • 西南1(成都)

Python3.10

stable-diffusion-webui:2.2

StableDiffusionWebUI2.2

GPU

117

ubuntu22.04

Python3.10

stable-diffusion-webui:1.1

StableDiffusionWebUI1.1

GPU

117

ubuntu22.04

Python3.10

stable-diffusion-webui-env:pytorch1.13-gpu-py310-cu117-ubuntu22.04

SD-WebUI-ENV

GPU

117

ubuntu22.04

Python3.10

EAS主推的镜像

阿里云PAI提供的EAS产品部分官方镜像列表如下所示。您可以前往PAI控制台的镜像AI资产页面查看更完整的镜像列表信息。以下列出的镜像地址以华东1(杭州)区域为例。

镜像名称

框架

镜像描述

镜像地址

chat-llm-webui:3.0-blade

  • Blade 0.4.3.dev118+gea4a4a1

  • PyTorch 2.1.0+cu118

  • Transformers 4.36.2

用于EAS推理镜像,使用Blade后端为大型语言模型(LLM)提供推理服务,该推理服务同时支持WebUI与API访问。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:3.0-blade

chatbot-langchain:1.0

ChatbotLangChain 1.0

基于LangChain搭建的知识库问答,用于EAS推理镜像。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chatbot-langchain:1.0

comfyui:0.2-api

ComfyUI 0.2

基于ComfyUI的EAS镜像,用于文生图、图生图等异步API调用。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/comfyui:0.2

comfyui:0.2

ComfyUI 0.2

基于ComfyUI的EAS镜像,用于文生图、图生图等场景。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/comfyui:0.2

comfyui:0.2-cluster

ComfyUI 0.2

基于ComfyUI的EAS镜像,用于文生图、图生图等场景。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/comfyui:0.2

kohya_ss:2.2

Kohya 2.2

基于Kohya的EAS镜像,用于部署Stable Diffusion模型微调应用。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/kohya_ss:2.2

modelscope-inference:1.9.1

ModelScope 1.9.1

用于部署Modelscope模型。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/modelscope-inference:1.9.1

stable-diffusion-webui:4.2-cluster-webui

StableDiffusionWebUI 4.2

基于Stable Diffusion WebUI的EAS镜像,用于文生图、图生图等场景,并且支持多用户同时访问和用户间资源隔离。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2

stable-diffusion-webui:4.2-api

StableDiffusionWebUI 4.2

基于Stable Diffusion WebUI的EAS镜像,用于文生图、图生图等异步API调用。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2

stable-diffusion-webui:4.2-standard

StableDiffusionWebUI 4.2

基于Stable Diffusion WebUI的EAS镜像,用于文生图、图生图等场景。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2

tensorflow-serving:2.14.1

TensorflowServing 2.14.1

基于开源TensorFlow Serving镜像的EAS镜像,用于将TensorFlow模型部署为推理服务,仅适用于CPU环境。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/tensorflow_serving:2.14.1

tensorflow-serving:2.14.1-gpu

TensorflowServing 2.14.1

基于开源TensorFlow Serving镜像的EAS镜像,用于将TensorFlow模型部署为推理服务,适用于GPU环境。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/tensorflow_serving:2.14.1-gpu

chat-llm-webui:3.0

  • PyTorch 2.0.1

  • Transformers 4.33.3

用于EAS推理镜像,使用HuggingFace后端为大型语言模型(LLM)提供推理服务,该推理服务同时支持WebUI与API访问。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:3.0

chat-llm-webui:3.0-vllm

  • PyTorch 2.1.2

  • Transformers 4.36.2

  • VLLM 0.2.7

用于EAS推理镜像,使用VLLM后端为大型语言模型(LLM)提供推理服务,该推理服务同时支持WebUI与API访问。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:3.0-vllm

huggingface-inference:1.0-transformers4.33

Transformers 4.33

用于部署HuggingFace模型。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/huggingface-inference:transformers-4.33

tritonserver:23.11-py3

TritonServer 23.11

基于开源TritonServer镜像的EAS镜像,用于将模型部署为推理服务。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/tritonserver:23.11-py3