Alibaba Cloud Linux 预装NVIDIA GPU驱动镜像

支持的规格族

• gn7e、gn7s、gn7i、gn6v、gn6i、gn6e、gn5、gn5i

• ebmgn7e、ebmgn7i、ebmgn6v、ebmgn6i、ebmgn6e

• ebmgn7ix、ebmgn7ex

• gn8is、ebmgn8is、gn8v、ebmgn8v

系统环境变量配置

• /etc/profile.d/nccl.sh

  export NCCL_HOME=/usr/local/nccl
  export LD_LIBRARY_PATH=${NCCL_HOME}/lib:$LD_LIBRARY_PATH

• /etc/profile.d/openmpi.sh

  export MPI_HOME=/usr/local/openmpi
  export LD_LIBRARY_PATH=${MPI_HOME}/lib:$LD_LIBRARY_PATH
  export PATH=${MPI_HOME}/bin:$PATH

• /etc/profile.d/cuda.sh

  export PATH=/usr/local/cuda/bin:$PATH
  export CUDA_HOME=/usr/local/cuda
  export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

支持的规格列表

• ebmgn9g、ebmgn9gc、ebmgn9ge、ebmgn9t、gn9g、gn9t、gn9ge

• gn8t、gn8te、ebmgn8t、ebmgn8te、ebmgn8ts、gn8ep

如何为镜像开启keentune调优工具？

可通过如下步骤开启，并在操作系统重启后生效。

systemctl stop tuned
systemctl disable tuned
systemctl start keentune-target
systemctl enable keentune-target
systemctl enable keentuned
systemctl start keentuned
keentune profile set ai_common.profile

若想关闭keentune，执行keentune profile rollback即可，重启操作系统后生效。

在ACK集群中使用Alibaba Cloud Linux 预装NVIDIA GPU驱动镜像时需要注意什么？

请参考容器服务Kubernetes版文档中如何基于创建好的ECS实例创建自定义镜像，并使用该镜像创建节点和使用须知及高危风险操作说明。

镜像中安装了多个cuda 版本，如何切换 cuda 版本？

您可以通过执行 nvcc 命令检查当前 cuda 的版本

nvcc --version

当前GPU镜像使用 update-alternatives工具管理多cuda版本，比如镜像上同时安装了 cuda 13.0 和 12.8，如当前版本是 13.0，您希望切换到 12.8 版本，有以下两种方法：

• 执行 update-alternatives --config cuda 命令切换 cuda 版本。

  update-alternatives --config cuda
  There are 2 choices for the alternative cuda (providing /usr/local/cuda).
  
    Selection    Path                  Priority   Status
  ------------------------------------------------------------
    0            /usr/local/cuda-13.0   20        auto mode
    1            /usr/local/cuda-12.8   10        manual mode
  * 2            /usr/local/cuda-13.0   20        manual mode
  
  Press <enter> to keep the current choice[*], or type selection number: 1  --> 选择您希望配置的版本的序号
  update-alternatives: using /usr/local/cuda-12.8 to provide /usr/local/cuda (cuda) in manual mode

• 执行 --set 命令非交互式直接设置 cuda 版本。

update-alternatives --set cuda /usr/local/cuda-12.8