Kubernetes 深度学习解决方案支持使用云服务器 ECS 的 Kubernetes 集群或者 GPU 服务器 Kubernetes 集群。本文档以 GPU 服务器容器集群为例进行说明。

说明 有关如何创建 ECS 容器集群，参见 创建Kubernetes集群。

而 Kubernetes 全新的 GPU 调度方案基于 Nvidia 官方的设备插件和 nvidia-container-runtime，和之前社区方案相比，最终用户所要做的配置更少。

基于该方案，客户可以将应用程序利用容器技术构建镜像，结合 Kubernetes+GPU 运行机器学习，图像处理等高运算密度等任务，无需安装 nvidia driver 和 CUDA，就能实现一键部署和弹性扩缩容等功能。

下面将介绍如何在阿里云容器服务上创建 Kubernetes GPU 集群。

使用限制

  • 目前，gn5 型 GPU 云服务器只支持专有网络（VPC）。
  • 用户账户需有 100 元的余额并通过实名认证，否则无法创建按量付费的 ECS 实例和负载均衡。
  • Kubernetes 深度学习解决方案要求 Kubernetes 集群的版本在 1.9.3 及以上。

提前准备

目前，按量付费的 GPU 计算型 GN 云服务器需要申请工单开通，请按照如下内容 提交 ECS 工单。

我需要申请按量付费的GPU计算型gn5，请帮忙开通，谢谢。

操作步骤

  1. 登录 容器服务管理控制台。
  2. 在 Kubernetes 菜单下，单击左侧导航栏中的 集群，进入集群列表页面。
  3. 单击页面右上角的 创建 Kubernetes 集群。


  4. 配置集群基本信息。


  5. 为 worker 节点选择实例系列，本例中选择 GPU 计算型 gn5。


  6. 勾选开放公网 SSH 登录，这样就可以通过 SSH 登录 Kubernetes 的 Master 节点。


  7. 其他集群参数的详细配置信息，请参见 创建Kubernetes集群。
  8. 完成配置后，单击 创建集群，等待一段时间，新建的 GPU 集群会出现在集群列表中。


  9. 单击集群右侧的 管理，进入集群基本信息页面，查看 Master节点 SSH 连接地址。


  10. SSH 登录到 Master节点，可通过执行如下命令，查找集群下的 GPU 节点。
     $ kubectl get nodes -l 'aliyun.accelerator/nvidia_name' --show-labels
 ...                               
 NAME                                 STATUS    ROLES     AGE       VERSION   LABELS
 cn-hangzhou.i-bp12xvjjwqe6j7nca2q8   Ready     <none>    1h        v1.9.3    aliyun.accelerator/nvidia_count=1,aliyun.accelerator/nvidia_mem=16276MiB,aliyun.accelerator/nvidia_name=Tesla-P100-PCIE-16GB，..
  11. 查看 GPU 节点的详细状态信息。
    $ kubectl get node ${node_name} -o=yaml
 ...
 status:
   addresses:
   - address: 172.16.166.23
     type: InternalIP
   allocatable:
     cpu: "8"
     memory: 61578152Ki
     nvidia.com/gpu: "1"
     pods: "110"
   capacity:
     cpu: "8"
     memory: 61680552Ki
     nvidia.com/gpu: "1"
     pods: "110"
 ...

至此，创建的 Kubernetes 的 GPU 集群已经创建完毕。