Lingjun training Image 2026-10-20

更新时间:
复制 MD 格式

本文介绍Lingjun training Image 2026-10-20版本的镜像发布记录,包括镜像地址、主要更新、支持实例、镜像内容、runtime支持情况、模型训练支持情况以及已知问题。

镜像

egslingjun-registry.cn-wulanchabu.cr.aliyuncs.com/egslingjun/training-xpu-pytorch:ppu2.2-pytorch2.10.0-ubuntu24.04-cuda13.0-py312-ljzoo-20261020

主要更新

  • PPU SDK由2.1.2升级到2.2,CUDA wrapper保持cuda-13.0。

  • 镜像内集成ljzoo cli工具,可快速复现已验证的训练配置。

  • 分层管理模型训练配置、训练框架、环境依赖,支持基于镜像预置内容进行二次开发。

支持实例

真武 PPU 芯片

实例名称

支持情况

M890

efg3.GP9A/efg3.GP9AS

支持

810E

efg2.p16en

支持

镜像内容

Requirements

PPU SDK 2.2

Supported Architectures

AMD64

核心组件

  • Ubuntu 24.04.2 LTS

  • Python 3.12.3

  • torch 2.10.0

  • cuda-wrapper 13.0

  • Triton 3.6.0+gitc6a4cb0f

  • LingjunModelzoo 20261015

说明

以上为镜像的公共依赖,不同runtime隔离环境下的环境依赖有所不同,详情请参见下方runtime支持表说明。

runtime支持表

说明
  1. runtime id为训练框架源码与Python venv环境组合的唯一标识,同id的runtime确保组合内容完全一致。

  2. 在镜像内路径下可以找到训练框架源码与venv环境,便于开发与调试使用。

  3. 各训练框架可从其官方渠道获取使用文档,ljzoo不修改其使用方式。

runtime

id

训练框架官方源

镜像内路径

状态

cosmos framework

cosmos-framework/20261015

https://github.com/NVIDIA/cosmos-framework

/opt/runtimes/cosmos-framework-ppu

维护中

LlamaFactory

llama-factory/20261015

https://github.com/hiyouga/LlamaFactory

/opt/runtimes/llama-factory-ppu

维护中

DiffSynth Studio

diffsynth/20261015

https://github.com/modelscope/DiffSynth-Studio

/opt/runtimes/diffsynth-ppu/

维护中

各runtime的核心组件依赖清单如下表所示。

runtime

cosmos framework

LlamaFactory

DiffSynth Studio

核心组件依赖清单

  • cosmos-framework==1.2.2

  • torch==2.10.0

  • torchvision==0.25.0

  • torchaudio==2.10.0

  • triton==3.6.0+gitc6a4cb0f

  • transformers==4.57.6

  • tokenizers==0.22.2

  • accelerate==1.15.0

  • peft==0.21.2

  • diffusers==0.39.0

  • datasets==5.0.1

  • huggingface-hub==0.36.2

  • safetensors==0.8.0

  • flash-attn==2.7.4.post1+v0.1.0.ppu2.1.0.oe

  • numpy==1.26.4

  • scipy==1.17.1

  • pandas==3.0.6

  • pyarrow==21.0.0

  • einops==0.8.1

  • omegaconf==2.3.1

  • hydra-core==1.3.7

  • wandb==0.24.2

  • lerobot==0.4.4

  • av==15.1.0

  • imageio==2.38.1

  • imageio-ffmpeg==0.6.0

  • setuptools==80.10.2

  • llamafactory==0.9.6.dev0

  • torch==2.10.0

  • torchvision==0.25.0

  • torchaudio==2.10.0

  • triton==3.6.0+gitc6a4cb0f

  • transformers==5.8.0

  • tokenizers==0.22.2

  • accelerate==1.11.0

  • deepspeed==0.19.1+v0.1.0.ppu2.1.0.ce

  • peft==0.18.1

  • trl==0.24.0

  • datasets==4.0.0

  • huggingface-hub==1.33.0

  • safetensors==0.8.0

  • flash-attn==2.8.2+v0.1.0.ppu2.1.0.oe

  • flash-attn-3==3.0.0b1

  • numpy==1.26.4

  • scipy==1.17.1

  • pandas==2.3.3

  • pyarrow==21.0.0

  • einops==0.8.2

  • omegaconf==2.4.0

  • av==16.0.0

  • setuptools==81.0.0

  • liger-kernel==0.8.1

  • diffsynth==2.1.5

  • torch==2.10.0

  • torchvision==0.25.0

  • torchaudio==2.10.0

  • triton==3.6.0+gitc6a4cb0f

  • transformers==5.20.2

  • tokenizers==0.23.3

  • accelerate==1.15.0

  • deepspeed==0.19.1+v0.1.0.ppu2.1.0.ce

  • peft==0.21.2

  • diffusers==0.41.0

  • huggingface-hub==1.33.0

  • safetensors==0.8.0

  • flash-attn==2.8.2+v0.1.0.ppu2.1.0.oe

  • flash-attn-3==2.8.2+v0.1.0.ppu2.1.0.oe

  • numpy==1.26.4

  • scipy==1.17.1

  • pandas==3.0.6

  • einops==0.8.2

  • av==19.0.1

  • imageio==2.38.1

  • imageio-ffmpeg==0.6.0

  • librosa==0.11.0

  • setuptools==81.0.0

模型训练支持表

说明
  1. recipe id为模型训练配置的索引id,其内容可能随版本更新。

  2. 支持状态说明:

    • 新增:新增的recipe。

    • 更新:recipe内容较上一release有所更新。

    • 维护中:recipe内容与上一release相同,持续维护中。

    • 日落期:不再维护,预期在1到2个release后移除支持。

模型

recipe id

runtime依赖

资源规格

支持状态

cosmos3-nano

cosmos3/nano-vision-sft-baseline-ppu1.5

cosmos-framework/20261015

ppu1.5,单机8卡

新增

cosmos3/nano-vision-sft-opt-ppu1.5

cosmos-framework/20261015

ppu1.5,单机8卡

新增

qwen3.5-35b-a3b

qwen3.5/35b-a3b-sft-llamafactory-baseline-ppu1.5

llama-factory/20261015

ppu1.5,单机8卡

新增

qwen3.5/35b-a3b-sft-llamafactory-opt-ppu1.5

llama-factory/20261015

ppu1.5,单机8卡

新增

qwen3.5-122b-a10b

qwen3.5/122b-a10b-lora-llamafactory-baseline-ppu1.5

llama-factory/20261015

ppu1.5,单机8卡

新增

qwen3.5/122b-a10b-lora-llamafactory-opt-ppu1.5

llama-factory/20261015

ppu1.5,单机8卡

新增

wan2.2

wan2.2/i2v-a14b-high-sft-diffsynth-baseline-ppu1.5

diffsynth/20261015

ppu1.5,单机8卡

新增

wan2.2/i2v-a14b-high-sft-diffsynth-opt-ppu1.5

diffsynth/20261015

ppu1.5,单机8卡

新增

wan2.2/i2v-a14b-low-sft-diffsynth-baseline-ppu1.5

diffsynth/20261015

ppu1.5,单机8卡

新增

wan2.2/i2v-a14b-low-sft-diffsynth-opt-ppu1.5

diffsynth/20261015

ppu1.5,单机8卡

新增

快速开始

ljzoo工具的使用方法与Quick Start请参见ljzoo工具使用文档包中的README文档。如需获取该文档包,请联系您的客户经理(BTE)。

已知问题

  • PPU 1.5场景下,显式FP16累加时F.linear存在严重错值问题,使用10.20算子库可复现。

  • PPU 1.5场景下,FP32 F.linear经acBLAS SGEMM计算的结果超出上游CPU容差范围,使用10.20算子库可复现。

  • PPU 1.5场景下,BF16大索引bmm的尾batch存在错值并触发Xid,路由至native或Triton,使用10.20算子库可复现。

  • PPU 1.5场景下,packed INT8 mixed linear的CUTLASS LDSM未实现,输出NaN或Inf,使用10.20算子库可复现。

相关文档

ljzoo工具使用文档包

docs.zip

文档包目录结构如下所示。

docs
├── README.md                  # README 与 Quick Start
├── recipes                    # Recipe 交付文档
│   ├── README.md
│   ├── cosmos3.md
│   ├── qwen3.5.md
│   └── wan2.2.md
├── runtimes                   # Runtime 说明
│   ├── README.md
│   ├── cosmos-framework.md
│   ├── diffsynth.md
│   └── llama-factory.md
└── usage                      # 用户使用文档
    ├── README.md
    ├── cli-reference.md
    ├── runtime-development.md
    └── usage.md

训练性能参考数据

如需获取PPU1.5客户场景P0模型的训练性能参考数据,请联系您的客户经理(BTE)。