本文介绍作业发生切换或者TaskManager失败的问题。

报错:akka.pattern.AskTimeoutException

  • 报错原因
    • 因为JobManager或TaskManager的内存不足导致持续GC,从而导致JM和TM之间的心跳和PRC请求超时。
    • 因为作业规模较大,即RPC请求量较大,但JM资源不足,从而RPC请求积压,因此导致JM和TM之间的心跳和PRC请求超时。
  • 解决方案
    • 如果是持续GC导致的报错,则建议通过作业内存情况和GC日志确认GC的耗时和频率,如果确实存在高频GC或GC耗时的问题,则需要增加JM和TM内存。
    • 如果是作业规模较大导致的报错,则建议增加JM的CPU和内存资源,同时调大akka.ask.timeoutheartbeat.timeout参数取值,参数默认值为50s。
      重要
      • 建议只在大规模作业上调整以上两个参数,小规模作业通常不是由于该配置较小导致。
      • 建议按需设置该参数,因为该参数调整过大,会导致在TaskManager异常退出时,作业恢复的时间变长。