作业发生切换或者TaskManager失败

更新时间:2024-06-05 09:44:32

本文介绍作业发生切换或者TaskManager失败的问题。

报错:akka.pattern.AskTimeoutException

  • 报错原因

    • 因为JobManager或TaskManager的内存不足导致持续GC,从而导致JM和TM之间的心跳和RPC请求超时。

    • 因为作业规模较大,即RPC请求量较大,但JM资源不足,从而RPC请求积压,因此导致JM和TM之间的心跳和RPC请求超时。

  • 解决方案

    • 如果是持续GC导致的报错,则建议通过作业内存情况和GC日志确认GC的耗时和频率,如果确实存在高频GC或GC耗时的问题,则需要增加JM和TM内存。

    • 如果是作业规模较大导致的报错,则建议增加JM的CPU和内存资源,同时调大akka.ask.timeoutheartbeat.timeout参数取值,参数默认值为50s。

      重要
      • 建议只在大规模作业上调整以上两个参数,小规模作业通常不是由于该配置较小导致。

      • 建议按需设置该参数,因为该参数调整过大,会导致在TaskManager异常退出时,作业恢复的时间变长。

  • 本页导读 (1)
  • 报错:akka.pattern.AskTimeoutException