作业发生切换或者TaskManager失败

报错：akka.pattern.AskTimeoutException

• 报错原因

  • 因为JobManager或TaskManager的内存不足导致持续GC，从而导致JM和TM之间的心跳和RPC请求超时。

  • 因为作业规模较大，即RPC请求量较大，但JM资源不足，从而RPC请求积压，因此导致JM和TM之间的心跳和RPC请求超时。

• 解决方案

  • 如果是持续GC导致的报错，则建议通过作业内存情况和GC日志确认GC的耗时和频率，如果确实存在高频GC或GC耗时的问题，则需要增加JM和TM内存。

  • 如果是作业规模较大导致的报错，则建议增加JM的CPU和内存资源，同时调大akka.ask.timeout和heartbeat.timeout参数取值，参数默认值为50s。

    重要

    • 建议只在大规模作业上调整以上两个参数，小规模作业通常不是由于该配置较小导致。

    • 建议按需设置该参数，因为该参数调整过大，会导致在TaskManager异常退出时，作业恢复的时间变长。