PAI官方镜像

简介

Python 是机器学习领域最常用的编程语言，拥有 NumPy、PyTorch、TensorFlow 等丰富的库。PAI 提供两种类型的 Python 镜像。

1. CPU版镜像：基于原ubuntu镜像构建，用于CPU计算的基础镜像。

2. GPU版镜像：基于原cuda镜像构建，用于GPU计算的基础镜像。

主要特性

1. 支持 Ubuntu 22.04 和 Ubuntu 24.04。

2. 支持阿里云高性能网络 RDMA。

3. 支持 Python 3.10 到 3.14。

4. 支持 CUDA 12.4 到 13.0。

5. 内置常用开发工具（curl、git、wget、rclone、ping 等）。

6. pip 和 apt 使用阿里云镜像源。

简介

PAI 提供两种类型的 PyTorch 镜像。

1. 基于 PAI Python 镜像构建，新增 PyTorch、TorchVision、TorchAudio 软件包，涵盖 Python 镜像的所有特性，覆盖 2.4.0 以上的 PyTorch 官方发布版本。

2. 基于 NGC PyTorch 镜像构建，内置常用开发工具，pip 和 apt 使用阿里云镜像源。

标签说明

-accl：

1. 预装 ACCL：阿里云高性能集合通信库的镜像，在 NCCL 基础上提供更高的通信性能。

2. 基于 ACCL 版本的镜像开发训练时需使用预置的 Python 环境。如需使用 Python 虚拟环境，请参考安装方法，在相应环境下配置 ACCL 库。

-ngc：

1. 基于 NGC PyTorch 镜像构建，标签中包含 NGC 版本信息。例如 2.10.0-gpu-py312-cu130-ubuntu24.04-ngc25.11 基于 NGC 25.11 版本构建。

2. NGC PyTorch 镜像特性详情参见 NVIDIA 官方文档。

简介

Data-Juicer 是面向数据清洗与预处理的分布式框架，基于 Ray 的分布式能力，广泛用于大模型训练前的数据质量提升和多模态数据融合。PAI 提供两种类型的 Data-Juicer 镜像，内置全套数据处理器、质量评估工具与可视化分析能力。

1. CPU 版镜像：基于 PAI 的 CPU 基础镜像构建，适用于纯 CPU 的大规模数据清洗、文本处理等简单的处理任务。

2. GPU 版镜像：基于 PAI 的 CUDA 基础镜像构建，适用于需要 GPU 加速的模型推理、质量评分等数据处理任务。

主要特性

• 支持 Ubuntu 22.04。

• 支持阿里云高性能网络 RDMA，适用于高吞吐、低时延的分布式数据加载与处理场景。

• 内置 Data-Juicer 运行环境（含全套处理器），可用于快速启动数据处理任务并通过Ray Dashboard进行分析与监控。

• 支持 CPU / GPU 异构资源调度，满足数据清洗、质量评估、数据生成等多模态数据相关的多样化工作负载需求。

• pip 和 apt 默认使用阿里云镜像源，提升依赖安装速度与稳定性。

简介

Responsible AI 是一套贯穿 AI 模型全生命周期的原则与实践方法，确保 AI 系统在各环节具备安全性、公平性、透明性和合规性。PAI 提供两类基础镜像支持 Responsible AI 实践：

1. CPU 版镜像：基于 Ubuntu 官方镜像构建，适用于通用 CPU 计算场景，集成 Responsible AI 工具链。

2. GPU 版镜像：基于 CUDA 官方镜像构建，面向高性能 GPU 场景，集成 Responsible AI 工具链。

主要特性

1. 支持 Ubuntu 22.04。

2. 支持 Python 3.11 到 3.14。

3. 支持 CUDA 11.8。

4. 内置Responsible AI可视化分析工具，提供交互式仪表盘，支持模型公平性、错误分析等多维度分析，帮助开发者直观识别潜在偏见和错误。

5. 支持差分隐私训练，在模型训练过程中注入可控噪声，防止敏感数据泄露，满足数据合规与隐私保护要求。

6. 内置RAI模型加密SDK：集成 RAI_SAM_SDK，支持大模型分片加密存储与授权解密推理流程。

简介

Ray 是面向分布式计算的高性能框架，广泛用于大规模训练、超参数搜索、强化学习和在线推理。PAI 提供两种类型的 Ray 镜像，内置 ray[default] 依赖（含 Ray Dashboard 和常用运行时组件）。

1. CPU 版镜像：基于 PAI 的 CPU 基础镜像构建，适用于纯 CPU 的分布式计算与数据处理任务。

2. GPU 版镜像：基于 PAI 的 CUDA 基础镜像构建，适用于需要 GPU 加速的训练、推理与大规模并行计算任务。

主要特性

• 支持 Ubuntu 22.04 和 Ubuntu 24.04。

• 支持阿里云高性能网络 RDMA，适用于高吞吐、低时延的分布式通信场景。

• 内置 Ray 运行环境（含常用组件），可用于快速启动 Ray Head/Worker 并运行任务。

• 支持 CPU / GPU 异构资源调度，满足训练、数据处理与推理等多样化工作负载需求。

• pip 和 apt 默认使用阿里云镜像源，提升依赖安装速度与稳定性。

简介

ModelScope Library 支持模型和数据集的获取与管理，以及基于 PyTorch、TensorFlow 等框架的模型训练和推理，在 Python 3.8+、PyTorch 1.11+、TensorFlow 上测试可运行。PAI 提供 ModelScope 官方镜像，开箱即用，无需手动安装环境。详情参见ModelScope 官方镜像。

简介

TorchEasyRec 是一款易用的推荐系统深度学习框架，覆盖召回（Matching）、排序（Ranking）、多任务学习与生成式推荐等常见场景。通过简单配置与便捷的自定义扩展能力，可加速高性能推荐模型的开发与落地。

PAI 提供官方 TorchEasyRec 镜像，预装 pytorch、torchrec、fbgemm、tensort 等依赖，提供两种类型：

1. GPU 版本：基于 Ubuntu 22.04 构建，支持 CUDA 加速训练，适用于大规模推荐模型训练（推荐）。

2. CPU 版本：基于 Ubuntu 22.04 构建，适用于开发调试和小规模训练（部分 Op 仅支持 GPU 版本）。

简介

Triton Inference Server（简称 Triton Server）是 NVIDIA 开发的高性能推理服务器，支持 TensorFlow、PyTorch、ONNX Runtime 等多种框架，提供统一接口简化模型部署和推理。

主要特性

1. 多框架支持：支持多种深度学习框架和模型格式，可在统一平台上部署不同类型的模型。

2. 高吞吐低延迟：支持批处理和并行推理，充分利用 NVIDIA GPU 的计算能力。

3. 动态模型管理：支持动态加载和卸载模型，灵活管理模型版本，适用于 A/B 测试和模型更新。

4. API 与可扩展性：提供 REST 和 gRPC 接口，可与 Kubernetes 等容器编排系统无缝集成，实现大规模推理服务部署。

5. 异构硬件支持：除 NVIDIA GPU 外，还支持 CPU 和其他加速器，适配多种硬件平台。

6. 自定义后处理：支持对推理结果自定义处理，适应特定应用场景。

简介

ComfyUI 是基于节点的图形界面工具，专为 Stable Diffusion 等扩散模型设计。通过可视化工作流，用户可拖拽构建图像生成流程，无需编写代码即可灵活控制生成逻辑。

主要特性

1. 节点式工作流：将文本编码、采样器、模型加载、图像后处理等步骤拆分为独立节点，用户可自由连接组合，实现精细控制。

2. 高效资源管理：仅加载当前流程所需模型，显存占用更低，支持批量生成与复杂流程优化。

3. 高度可扩展：支持自定义节点插件，社区生态丰富（如 ControlNet、LoRA、Upscale 等），易于集成新模型或功能。

4. 工作流可保存/共享：整个生成流程可导出为 JSON 文件，便于复现、协作或部署到其他环境。

简介

PAI-RAG 是 PAI 推出的企业级检索增强生成（RAG）对话系统解决方案，基于 PAI-EAS 提供开箱即用的 RAG 能力。融合 LLM 与知识检索技术，支持快速构建私有知识问答、智能客服等应用，并提供开源模块化框架（GitHub: aigc-apps/PAI-RAG）供开发者灵活定制。

主要特性

• 多向量库支持：原生适配 Elasticsearch、Hologres、Tablestore、Milvus 等主流向量数据库，满足不同规模企业需求。

• 联网搜索增强：支持配置实时网络检索能力，突破模型预训练数据时效限制，提升答案准确性与时效性。

• 灵活部署与集成：提供 WebUI 可视化界面、RESTful API 及 OpenAI 兼容接口，便于快速集成至现有业务系统。

• 知识库全生命周期管理：支持通过 WebUI 或 OSS 上传/管理文档，提供切片、向量化、版本更新等一站式知识库运维能力。

简介

vLLM 是开源大语言模型（LLM）推理与服务引擎，旨在高效部署和运行各类开源大模型。通过内存管理与调度技术，在保证低延迟的同时显著提升吞吐量，是主流的 LLM 推理框架。

主要特性

1. PagedAttention：核心创新技术，借鉴操作系统分页机制动态管理 KV Cache，消除显存碎片，使显存利用率提升数倍。

2. 连续批处理（Continuous Batching）：动态合并不同长度的请求进行并行解码，大幅提升 GPU 利用率与吞吐量。

3. 高吞吐低延迟：在相同硬件下支持更高并发，适合高流量生产环境部署。

4. 易用性强：提供简洁 Python API 与 OpenAI 兼容接口，可快速集成至现有应用。

5. 生态丰富：原生支持 LoRA 微调推理、多模态模型、工具调用（Function Calling）等高级功能。

简介

EasyAnimate 是 PAI 基于 Diffusion Transformer（DiT）架构自主研发的端到端高清长视频生成框架。支持通过文本或图像快速生成高质量视频（文生视频/图生视频），并提供从数据预处理、VAE 训练到 DiT 推理的完整解决方案。

主要特性

• 高分辨率长视频生成：支持生成 1024×1024 分辨率、时长可达 6 秒及以上的连贯视频。

• 多模态输入：同时支持文本提示词（text-to-video）和图像输入（image-to-video）生成动态视频。

• 完整训练体系：提供 VAE、DiT 基础模型及 LoRA 微调的端到端训练能力，便于用户定制化开发。

• 工业级部署友好：作为 PAI 推理服务的官方支持方案，可无缝集成至云上推理平台，适用于生产环境。

简介

Kohya 是 Stable Diffusion 微调训练脚本衍生的生态工具集。基于脚本封装的 Gradio 图形界面版本大大降低了 LoRA、DreamBooth 等模型微调的使用门槛。

主要特性

• 多训练方法支持：原生支持 LoRA、DreamBooth、全参数微调（Fine-tuning）以及 SDXL 模型训练。

• 图形化操作界面：提供直观的 Web UI（基于 Gradio），用户可通过表单配置参数，无需编写命令行。

• 跨平台兼容：主要面向 Windows 设计，同时也支持 Linux 和 macOS 环境。

• 全流程工具链：集成数据预处理、自动打标（captioning）、训练监控与模型导出等环节，覆盖微调训练完整生命周期。

• 开源与社区活跃：项目完全开源，社区持续维护并适配主流推理框架（如 Stable Diffusion WebUI），便于训练成果直接部署使用。

简介

Stable-Diffusion-WebUI 是开源图形化界面工具，用于本地部署和运行 Stable Diffusion 系列模型，大大降低了文生图、图生图等生成式 AI 的使用门槛。

主要特性

• 多模态生成：支持文生图（txt2img）、图生图（img2img）、内补绘制（inpainting）、外补绘制（outpainting）等主流生成模式。

• 丰富的扩展生态：内置插件系统，支持 ControlNet、LoRA、T2I-Adapter 等主流扩展，灵活增强生成控制能力。

• 训练与微调集成：提供 DreamBooth、LoRA、Textual Inversion 等模型微调功能，支持用户定制专属模型。

• 跨平台部署：支持 Windows、Linux、macOS 及 Google Colab，适配 CPU/GPU（NVIDIA/AMD）多种硬件环境。

• 用户友好：基于 Gradio 构建 Web 界面，参数可视化配置，适合从新手到专业开发者的全阶段用户。

简介

CosyVoice 是新一代高保真语音合成模型，仅需 30 秒以内的 Prompt 音频即可克隆目标音色，支持跨语种复刻。适用于客服对话、有声书朗读、短视频配音等场景。PAI-EAS 基于该模型封装并集成了可视化 WebUI 界面，可快速部署云端语音推理服务。

主要特性

• 零样本语音克隆：仅需 3~10 秒参考音频即可复刻目标音色，实现个性化语音生成。

• 多语言与跨语言合成：支持中文、英文、日语、韩语等多种语言，并可跨语言保持音色一致性。

• 情感与细粒度控制：通过自然语言描述精准控制情感、笑声、呼吸声等语音细节。

• 高度拟人化：在语调、韵律、停顿等维度接近真人发音，显著优于传统 TTS 技术。

• 实时流式合成：支持文本到语音的低延迟流式输出，适用于实时交互场景。

• 全栈工具链：提供从推理、训练到部署的完整能力，便于工业级应用集成。

简介

SGLang（Structured Generation Language）是一个高性能大语言模型推理与服务框架。它采用“前端语言 + 后端运行时”协同设计：前端提供结构化生成编程语言，用于编写可控的生成逻辑；后端是优化的推理引擎（SGLang Runtime），支持低延迟、高吞吐的模型服务。

主要特性

• 结构化可控生成：原生支持通过 JSON Schema、正则表达式等约束精确控制输出格式，解决传统 Prompt 工程的表达力局限。

• 高性能推理：采用 RadixAttention、Radix Cache 等创新优化技术，在吞吐量上相比主流方案提升 3–5 倍。

• 多模态支持：同时适配纯文本大模型（LLM）和视觉语言模型（VLM），支持图像、视频等多模态输入。

• 灵活易集成：提供简洁的 Python API，可替代 OpenAI API 用于复杂提示工作流，降低开发门槛。

简介

TensorFlow Serving 是高性能开源机器学习模型服务系统。作为 TensorFlow Extended（TFX）生态系统的核心组件，它可将训练完成的 TensorFlow 模型（SavedModel 格式）快速部署为在线推理服务，并通过 gRPC 和 RESTful API 对外提供调用接口。

主要特性

• 模型版本管理：支持多版本模型并行加载与无缝热更新，便于灰度发布和回滚。

• 高性能推理：针对生产环境优化的调度与批处理机制，保障低延迟、高吞吐的服务能力。

• 开箱即用集成：原生支持 TensorFlow SavedModel 格式，无需额外转换即可部署。

• 灵活扩展架构：提供可插拔的 Servable、Source、Manager 等组件，支持自定义加载逻辑与服务策略。

• 多协议支持：同时提供 gRPC（高性能）和 HTTP/REST（易集成）两种访问接口，适配不同客户端需求。