在gn5实例上部署NGC环境

NGC（NVIDIA GPU CLOUD）是NVIDIA开发的一套深度学习生态系统，可以使开发者免费访问深度学习软件堆栈，建立适合深度学习的开发环境。

目前NGC在阿里云gn5实例作了全面部署，并且在镜像市场提供了针对NVIDIA Pascal GPU优化的NGC容器镜像。通过部署镜像市场的NGC容器镜像，开发者能简单快速地搭建NGC容器环境，即时访问优化后的深度学习框架，大大缩减产品开发以及业务部署的时间，实现开发环境的预安装；同时支持调优后的算法框架，并且保持持续更新。

NGC网站 提供了目前主流深度学习框架不同版本的镜像（比如Caffe、Caffe2、CNTK、MxNet、TensorFlow、Theano、Torch），您可以选择需要的镜像搭建环境。本文以搭建TensorFlow深度学习框架为例详细介绍如何在gn5实例上搭建NGC环境。

前提条件

在开始搭建TensorFlow环境之前，必须先完成以下工作：

• 注册阿里云账号，并完成 实名认证。

• 登录 NGC网站，注册NGC账号。

• 登录 NGC网站，获取NGC API key并 保存到本地。登录NGC容器环境时需要验证您的NGC API Key。

操作步骤

1. 创建gn5实例。参考 创建ECS实例 创建一台gn5实例，注意以下配置信息：

   • 地域：只能选择华北1、华北2、华北3、华北5、华东1、华东2、华南1。

   • 实例：选择gn5实例规格。

   • 镜像：单击 镜像市场，在弹出对话框里，找到 NVIDIA GPU Cloud VM Image 后，单击 使用。
     

   • 公网带宽：选择 分配公网IP地址。

     说明：如果这里不分配公网IP地址，则在实例创建成功后，绑定EIP地址。

   • 安全组：选择一个安全组。安全组里必须开放TCP 22端口。如果您的实例需要支持HTTPS或 DIGITS 6 服务，必须开放TCP 443（用于HTTPS）或TCP 5000（用于DIGITS 6）端口。

     ECS实例创建成功后，登录ECS管理控制台，记录实例的公网IP地址。

2. 连接ECS实例：根据创建实例时选择的登录凭证，使用密码验证连接ECS实例 或者 使用SSH密钥对验证连接ECS实例。

3. 按界面提示输入NGC官网获取的NGC API Key后按回车键，即可登录NGC容器环境。
   

4. 运行 nvidia-smi。您能查看当前GPU的信息，包括GPU型号、驱动版本等，如下图所示。
   

5. 按以下步骤搭建TensorFlow环境：

   1. 登录 NGC网站，找到TensorFlow镜像页面，获取 docker pull 命令。
      

   2. 下载TensorFlow镜像。

      docker pull nvcr.io/nvidia/tensorflow:18.03-py3

   3. 查看下载的镜像。

      docker image ls

   4. 运行容器，完成TensorFlow开发环境的部署。

      nvidia-docker run --rm -it nvcr.io/nvidia/tensorflow:18.03-py3

      

6. 选择以下任一种方式测试TensorFlow：

   • 简单测试TensorFlow。

     $python

     >>> import tensorflow as tf
     >>> hello = tf.constant('Hello, TensorFlow!')
     >>> sess = tf.Session()
     >>> sess.run(hello)

     如果TensorFlow正确加载了GPU设备，返回结果如下图所示。
     

   • 下载TensorFlow模型并测试TensorFlow。

     git clone https://github.com/tensorflow/models.git
     cd models/tutorials/image/alexnet
     python alexnet_benchmark.py --batch_size 128 --num_batches 100

     运行状态如下图所示。
     

7. 保存TensorFlow镜像的修改。否则，下次登录时配置会丢失。