应用分发概述

支持对于Workload的静态权重和动态调度

在多集群应用分发场景中，舰队实例提供基于分发策略驱动的副本调度机制。支持两种维度的工作负载副本分配策略：

• 静态权重分配策略：集群管理员可以通过配置分发策略赋予目标集群不同的权重系数，调度器按照归一化权重值按比例分配副本。详细配置方式，请参见replicaScheduling参数说明。

• 动态资源比例分配策略：调度器会根据各个集群的可用资源来计算最多容纳Pod的数量，并以此数量作为集群的权重来确定最终的副本分配数。详细配置方式，请参见动态分发和重调度。

支持重调度

在多集群应用分发场景中，由于集群可用资源的动态变化，工作负载可能会因优先级不足或资源不足等原因导致调度失败。当目标集群的工作负载处于调度失败状态时，重调度器会将调度失败的副本进行重新调度，并执行跨集群的副本迁移操作，从而确保工作负载的正常运行。重调度能力默认启用，若您需要验证重调度能力，请参见验证重调度能力。

支持应用级别的故障迁移

在多集群任务作业场景中，通过在线业务和离线作业混部可以提升资源利用率。为避免离线作业对在线业务造成影响，任务作业通常以低优先级运行，或使用Spot抢占实例。在这种情况下，任务可能会因为节点异常、高优先级Pod抢占、Spot实例释放等原因运行失败。

针对以上问题，舰队实例提供应用级别的故障转移。当作业任务运行失败时，故障迁移会自动将该目标集群的作业任务迁移到其他集群继续运行，无需手动干预。详细步骤请参见如何在舰队实例中使用KubeQueue并通过Gang调度PyTorchJob。

支持多集群Gang调度

Gang调度主要用于确保一组关联的Pod能够同时调度到集群中的节点上，若无法满足该条件，则这些Pod都不会被调度。这一机制解决了原生调度器无法支持All-or-Nothing作业调度的问题。多集群Gang调度则是从多集群角度出发，采用预占或动态资源检测的方式，将作业的一组关联Pod都运行在同一集群内。

在使用PyTorchJob、TFJob等实现多机多卡分布式训练，或者使用SparkApplication运行Spark任务时，由于其Master-Worker或Driver-Executor的架构，组件间需要相互通信，所以需要使用多集群Gang调度来将这些作业调度到同一集群内运行。

ACK One舰队通过支持多集群Gang调度，并与重调度和故障迁移能力相结合，保障AI作业可在资源充足的集群中正常运行。更多详情请参见作业分发。