ACK实现GPU成本化

本最佳实践通过一个实际的demo来演示如何建立ACK集群,使用cGPU来共享GPU。

直达最佳实践

点击查看最佳实践详情

更多最佳实践

点击查看更多最佳实践

场景描述

利用阿里云容器服务ACK部署GPU集群之后,出于成本优化的考虑,对于集群中GPU利用率不高的应用,比如推理的应用,建议利用阿里云cGPU技术将一定数量的应用跑到一块GPU卡上,以提高利用率。对于GPU利用率比较高的应用,不做改动。这样可以实现灵活管理的同时,降低整体成本。

    解决问题

  • 在ACK服务中实现共享GPU,灵活拆分。

  • 提高GPU利用率,降低TCO。

  • 应用无需修改,保障多个容器共享同一个GPU时,彼此互相隔离。

  • 部署架构图

    图示

    更多最佳实践

    点击查看更多最佳实践。