Lingjun SGLang Image Release 2026-10-20-真武 PPU 云服务(ppu)-阿里云帮助中心

本文介绍Lingjun SGLang Image 2026-10-20版本的镜像发布记录，包括镜像地址、主要更新、核心组件版本、使用方法、已验证模型与机型以及已知问题。

镜像

镜像类型	镜像地址	SGLang版本
PPU	egslingjun-registry.cn-wulanchabu.cr.aliyuncs.com/egslingjun/inference-xpu-pytorch-opt:v0.5.17_8ee0e46bd4_20261019_195235	v0.5.17
Scheduler	egslingjun-registry.cn-wulanchabu.cr.aliyuncs.com/egslingjun/scheduler:v0.1.0-6f41c2e-20260917	不涉及

支持实例

真武 PPU 芯片	实例名称	支持情况
M890	efg3.GP9A/efg3.GP9AS	支持
810E	efg2.p16en	支持

PPU镜像主要更新

更新概要

SDK适配：升级适配SDK 2.2。

核心组件版本

组件	版本
SGLang	0.5.17
PyTorch	2.11.0
SGLang Kernel	0.4.3
DeepGEMM	1.0.0+dev434.g6a73fc1a5
DeepEP	2.1.3+local
FlashMLA	2.1.0+dev117.g04c818
FlashKDA	0.0.1+dfaef8a
UltraEP	1.0.0+ppu.55ff0f6
TileLang	0.1.12+gitfe77ab61
Transformers	5.12.1

MegaMoE使用方法

MegaMoE适用于DeepSeek-V4、GLM-5.x、Kimi K3等MoE模型，量化模式和并行配置需按模型规格选择。

export SGLANG_OPT_DEEPGEMM_MEGA_MOE_NUM_MAX_TOKENS_PER_RANK=2048

python -m sglang.launch_server \
  --model-path <model-path> \
  --tp-size 8 \
  --moe-a2a-backend megamoe

Scheduler镜像主要更新

启动方式

重要

${SERVED_MODEL_NAME}必须与引擎侧的--served-model-name参数取值保持一致。

启动Scheduler服务。

hydra-scheduler \
  --tokenizer-path ${MODEL_PATH}/tokenizer.json \
  --host ${SCHEDULER_IP} --port ${SCHEDULER_PORT} \
  --policy cache_aware --health-probe-enable \
  --model-id ${SERVED_MODEL_NAME}

在引擎启动前设置自动注册相关环境变量，其中WORKER_ROLE需选择一种角色。

export SCHEDULER_ENDPOINT=${SCHEDULER_IP}:${SCHEDULER_PORT}
export WORKER_ROLE={prefill-only|decode-only|colocate}
export SGLANG_ENABLE_REGISTER_TO_HYDRA_SCHEDULER=1

Colocate部署需附加--cachelink-enabled false --cachelink-port-offset 0参数。
Mooncake传输需附加--pd-transport bootstrap参数。

已验证模型与机型

说明

如需获取本期Release的性能数据与精度数据，请联系您的客户经理（BTE）。

PPU

模型	量化	机型	测试结果
DeepSeek-V4-Flash-0731	MXFP4+FP8 Mixed	M890P	通过
DeepSeek-V4-Pro-0813	MXFP4+FP8 Mixed	M890P	通过
GLM-5.2 MXFP4	MXFP4+FP8 Mixed	M890P	通过
GLM-5.2-FP8	FP8 Channelwise	M890P	通过
GLM-5.3-Flash	FP8	M890P	通过
Kimi-K3	MXFP4 W4A4	M890P	通过
Qwen3.8-2.4T-A95B	MXFP4+FP8 Mixed	M890P	通过
DeepSeek-V4-Flash-0731	INT8 W8A8	810E	通过
GLM-5.3-Flash	INT8 W8A8	810E	通过

已知问题

PPU 1.5 显式FP16累加时F.linear存在严重错值问题，使用10.20算子库可复现。
PPU 1.5 场景下，FP32 F.linear经acBLAS SGEMM计算的结果超出上游CPU容差范围，使用10.20算子库可复现。
PPU 1.5 场景下，BF16大索引bmm的尾batch存在错值并触发Xid，路由至native或Triton，使用10.20算子库可复现。
PPU 1.5 场景下，packed INT8 mixed linear的CUTLASS LDSM未实现，输出NaN或Inf，使用10.20算子库可复现。