边缘云玩转通义万相Wan2.1-T2V推理业务最佳实践

通过控制台创建实例

1. 登录ENS控制台。

2. 在左侧导航栏，单击算力与镜像 > 实例。

3. 在实例页面，单击创建实例。您可以通过创建实例了解创建ENS实例时的参数。

   1. 请您按照您的需求进行配置，推荐配置如下：

      页面	参数选项	参考值

      页面	参数选项	参考值
      基础配置	付费方式	包年包月
      	实例类型	X86计算
      	实例规格	NVIDIA 48GB * 2 （详细规格请咨询客户经理）
      	镜像	Ubuntu ubuntu_22_04_x64_20G_alibase_20240926
      网络和存储	网络	自建网络
      	系统盘	高效云盘 80G+
      	数据盘	高效云盘 1T+
      系统设置	密码设置	密码/密钥对

   2. 确认订单。

      当您完成系统设置之后，您可以单击右下角确认订单。系统会根据您的配置来配置实例，并展示价格。进行支付后会提示支付成功，并可跳转到ENS控制台。

      ENS控制台实例列表可查询到您创建的实例，若您创建的实例状态为运行中，代表您已经可以使用该实例。

通过OpenAPI创建实例

您也可以使用OpenAPI方式进行创建，您可以在阿里云开发者门户快速使用OpenAPI创建实例。

调用参数的参考代码如下，请您灵活调整：

{
  "InstanceType": "ens.gnxxxx",         <您的实例规格>
  "InstanceChargeType": "PrePaid",
  "ImageId": "ubuntu_22_04_x64_20G_alibase_20240926",
  "ScheduleAreaLevel": "Region",
  "EnsRegionId": "cn-your—ens-region",     <实际的节点>
  "Password": <YOURPASSWORD>,           <自定义密码>
  "InternetChargeType": "95BandwidthByMonth", 
  "SystemDisk": {
    "Size": 80,
    "Category": "cloud_efficiency"
  },
  "DataDisk": [
    {
      "Category": "cloud_efficiency",
      "Size": 1024
    }
  ],
  "InternetMaxBandwidthOut": 5000,
  "Amount": 1,
  "NetWorkId": "n-xxxxxxxxxxxxxxx",
  "VSwitchId": "vsw-xxxxxxxxxxxxxxx",
  "InstanceName": "test",        
  "HostName": "test",
  "PublicIpIdentification": true,
  "InstanceChargeStrategy": "instance",      <实例粒度计费>
}

实例登录

您可以参考连接实例来登录实例。

磁盘初始化

1. 根目录扩容。

   实例新创建或扩容后，需要在不重启的情况下在线扩容根分区

   # 安装云环境工具包
   sudo apt-get update
   sudo apt-get install -y cloud-guest-utils
   
   # 确保GPT分区工具sgdisk存在
   type sgdisk || sudo apt-get install -y gdisk
   
   # 扩展物理分区
   sudo LC_ALL=en_US.UTF-8 growpart /dev/vda 3
   
   # 调整文件系统大小
   sudo resize2fs /dev/vda3
   
   # 验证扩容结果
   df -h

   

2. 数据盘挂载

   您需要对数据盘进行格式化，并进行挂载。以下是参考，按需进行操作。

   # 识别新磁盘
   lsblk
   
   # 这里不进行分区，直接格式化
   sudo mkfs -t ext4 /dev/vdb
   
   # 配置挂载
   sudo mkdir /data
   echo "UUID=$(sudo blkid -s UUID -o value /dev/vdb) /data ext4 defaults,nofail 0 0" | sudo tee -a /etc/fstab
   
   # 验证
   sudo mount -a
   df -hT /data
   
   # 修改权限
   sudo chown $USER:$USER $MOUNT_DIR

   

   说明

   如果您要基于该实例制作镜像，需要删除/etc/fstab文件中添加的ext4 defaults 0 0所在行。如果不删除，您制作的镜像创建实例将无法启动。

可选优化

您可通过修改测试脚本examples/wanvideo/wan_14b_text_to_video_tensor_parallel.py中的部分代码和参数，实现以下效果：

1. 避免每次运行都重新下载模型。

2. 修改视频的压缩质量，更大的视频文件代表更好的清晰度。

3. 将生成视频从默认的480p修改为720p。

4. # 修改测试代码的文件
   vim /root/DiffSynth-Studio/examples/wanvideo/wan_14b_text_to_video_tensor_parallel.py
   
   # 1. 注释125行左右代码，避免每次运行都重新下载模型，从而使用先前已经下载到本地的模型
   
   # snapshot_download("Wan-AI/Wan2.1-T2V-14B", local_dir="models/Wan-AI/Wan2.1-T2V-14B")
   
   # 2. 修改121行左右代码，调整函数test_step内的save_video入参，修改视频帧率和压缩质量。quality=1为最低，10为最高
   save_video(video, output_path, fps=24, quality=10)
   
   # 3. 135行左右新增以下入参，调整分辨率，默认是480p
   ....
   "output_path": "video1.mp4",   
   # 以下两行为新增
   "height": 720,
   "width": 1280,
   },
   
   # 4.保存文件并退出
   :wq
   

运行测试

# 运行测试脚本
torchrun --standalone --nproc_per_node=2 /root/DiffSynth-Studio/examples/wanvideo/wan_14b_text_to_video_tensor_parallel.py

结果输出

测试时间请参考进度条的剩余时间提示。结束后生成视频文件video1.mp4，您可以参考 cp（拷贝文件）来使用ossutil将生成的视频文件导出到阿里云OSS。