Ascend Dockerfile Build Guidance

Last updated：06/23/2026.

镜像获取与公开镜像地址

昇腾在 quay.io/ascend/verl 中托管每日构建的 A2/A3 镜像，基于 Dockerfile 构建，具体说明见 Dockerfile构建镜像脚本清单 。

每日构建镜像名格式：verl-{CANN版本}-{NPU设备类型}-{操作系统版本}-{python版本}-latest

verl release版本镜像名格式：verl-{CANN版本}-{NPU设备类型}-{操作系统版本}-{python版本}-{verl release版本号}

镜像硬件支持

Atlas 200T A2 Box16

Atlas 900 A2 PODc

Atlas 800T A3

最新镜像内各组件版本信息清单

组件	版本
基础镜像	Ubuntu 22.04
Python	3.11
CANN	9.0.0
torch	2.9.0
torch_npu	2.9.0
torchvision	0.24.0
vLLM	0.18.0
vLLM-ascend	0.18.0
Megatron-LM	core_r0.16.0
MindSpeed	core_r0.16.0
triton-ascend	3.2.1
mbridge	0.15.1
SGLang	v0.5.10
sgl-kernel-npu	2026.02.01

Dockerfile构建镜像脚本清单

通用镜像

设备类型	CANN基础镜像版本	推理后端	参考文件
A2	9.0.0	vLLM	Dockerfile.ascend_9.0.0_a2
A3	9.0.0	vLLM	Dockerfile.ascend_9.0.0_a3
A2	8.5.0	vLLM	Dockerfile.ascend_8.5.0_a2
A3	8.5.0	vLLM	Dockerfile.ascend_8.5.0_a3
A2	8.5.0	SGLang	Dockerfile.ascend.sglang_8.5.0_a2
A3	8.5.0	SGLang	Dockerfile.ascend.sglang_8.5.0_a3
A2	8.3.RC1	vLLM	Dockerfile.ascend_8.3.rc1_a2
A3	8.3.RC1	vLLM	Dockerfile.ascend_8.3.rc1_a3
A2	8.3.RC1	SGLang	Dockerfile.ascend.sglang_8.3.rc1_a2
A3	8.3.RC1	SGLang	Dockerfile.ascend.sglang_8.3.rc1_a3
A2	8.2.RC1	vLLM	Dockerfile.ascend_8.2.rc1_a2
A3	8.2.RC1	vLLM	Dockerfile.ascend_8.2.rc1_a3

verl release版本镜像

设备类型	CANN基础镜像版本	推理后端	verl版本	参考文件
A2	9.0.0	vLLM	release/v0.8.0	Dockerfile.ascend_9.0.0_a2_v0.8.0
A3	9.0.0	vLLM	release/v0.8.0	Dockerfile.ascend_9.0.0_a3_v0.8.0
A2	8.5.0	vLLM	release/v0.7.1	Dockerfile.ascend_8.5.0_a2_v0.7.1
A3	8.5.0	vLLM	release/v0.7.1	Dockerfile.ascend_8.5.0_a3_v0.7.1

模型定制镜像

设备类型	CANN基础镜像版本	推理后端	模型	参考文件
A2	8.5.2	vLLM	Qwen3.5	Dockerfile.ascend_8.5.2_a2_qwen3-5
A3	8.5.2	vLLM	Qwen3.5	Dockerfile.ascend_8.5.2_a3_qwen3-5

说明：

• 推理后端为 vLLM 镜像中，vLLM、vLLM-ascend、MindSpeed、Megatron-LM、verl 为源码安装，源码位于镜像根目录 / 下。

• 推理后端为 SGLang 镜像中，SGLang、MindSpeed、verl 为源码安装，源码位于镜像根目录 / 下。

镜像构建命令示例

# Navigate to the directory containing the Dockerfile
cd {verl-root-path}/docker/ascend

# Build the image
# vLLM
docker build -f Dockerfile.ascend_8.5.0_a2 -t verl-ascend:8.5.0-a2 .
# SGLang
docker build -f Dockerfile.ascend.sglang_8.5.0_a2 -t verl-ascend-sglang:8.5.0-a2 .

# Query local images after build
docker images

说明：

• 以 vLLM 的镜像为例，Dockerfile.ascend_8.5.0_a2 为 Dockerfile 文件名，verl-ascend:8.5.0-a2 中， verl-ascend 为自定义的镜像名称，8.5.0-a2 为自定义的镜像标签

容器启动命令模板

docker run -dit \
    --ipc=host \
    --network host \
    --name {your_docker_name} \
    --privileged \
    -v /usr/local/Ascend/driver:/usr/local/Ascend/driver \
    -v /usr/local/Ascend/firmware:/usr/local/Ascend/firmware \
    -v /usr/local/sbin:/usr/local/sbin \
    -v /usr/sbin:/usr/sbin \
    -v /home:/home \
    -v /data:/data \
    {image_name}:{tag} \
    /bin/bash

说明：

• 如需挂载其他本地路径到容器，请自行添加 -v <宿主机路径>:<容器内路径>

• 建议将 {your_docker_name} 替换为具有实际意义的容器名称

• --privileged 参数授予容器扩展权限，请根据实际安全需求评估是否必要

• {image_name}:{tag} 请换成容器构建时对应的镜像名称与标签

启动容器

docker start {your_docker_name}

进入正在运行的容器

docker exec -it {your_docker_name} bash

声明

verl中提供的ascend相关Dockerfile、镜像皆为参考样例，可用于尝鲜体验，如在生产环境中使用请通过官方正式途径沟通，谢谢。