Java 任务

执行模式

Java 任务类型支持单击、广播、并行计算、内存网格、网格计算和分片运行 6 种执行模式：

• 单机：在同一个 groupId 下的机器随机挑一台执行。
• 广播：同一个 groupId 下的所有机器同时执行。
• 并行计算：支持子任务 300 以下，有子任务列表。
• 内存网格：基于内存计算，子任务 50,000 以下，速度快。
• 网格计算：基于文件计算，子任务 1,000,000 以下。
• 分片运行：

单机和广播需要实现 JavaProcessor；并行计算、内存网格、网格计算和分片运行需要实现 MapJobProcessor。

Processor 类路径，即实现类的全路径名，例如 com.apache.armon.test.schedulerx.processor.MySimpleJob。

• 如果不上传 JAR 包，SchedulerX 会去您的应用进程中的 classpath 下查找 processor 实现类，所以每次修改需要重新编译和发布。
• 如果上传了 JAR 包，每次会热加载 JAR 包和 processor，不需要重新发布应用。

编程模型

Java 任务支持两种编程模型：JavaProcessor 和 MapJobProcessor。

• JavaProcessor
  • public void preProcess(JobContext context) throws Exception
  • public ProcessResult process(JobContext context) throws Exception
  • public void preProcess(JobContext context)
  • public void kill(JobContext context)
• MapJobProcessor
  • public ProcessResult process(JobContext context) throws Exception
  • public void postProcess(JobContext context)
  • public ProcessResult process(JobContext context) throws Exception
  • public void kill(JobContext context)
  • public ProcessResult map(List<? extends Object> taskList, String taskName)

ProcessResult

每个 process 需要返回 ProcessResult，用来表示任务执行的状态、结果和错误信息。

• 任务运行成功：return new ProcessResult(true)。
• 任务运行失败：return new ProcessResult(false, ErrorMsg)或者直接抛异常。
• 任务运行成功并且返回结果：return new ProcessResult(true, result)。result 是一个字符串，不能大于 1000 字节。

HelloSchedulerx2.0 任务示例

@Component
public class MyProcessor1 extends JavaProcessor {

    @Override
    public ProcessResult process(JobContext context) throws Exception {
        //TODO
        System.out.println("Hello, schedulerx2.0!");
        return new ProcessResult(true);
    }
}            

支持 Kill 功能的任务示例

@Component
public class MyProcessor2 extends JavaProcessor {
    private volatile boolean stop = false;

    @Override
    public ProcessResult process(JobContext context) throws Exception {
        int N = 10000;
        while (!stop && N >= 0) {
            //TODO
            N--;
        }
        return new ProcessResult(true);
    }

    @Override
    public void kill(JobContext context) {
        stop = true;
    }

    @Override
    public void preProcess(JobContext context) {
        stop = false;  //如果是通过Spring启动，Bean是单例，需要通过preProcess把标记为复位
    }
}          

通过 Map 模型跑批任务示例

/**
 * 对一张单标进行分布式跑批
 * 1. 根任务先查询一张表，获取minId，maxId
 * 2. 构造PageTask，通过map进行分发
 * 3. 下一级获取到如果是PageTask，则进行数据处理
 *
 */
@Component
public class ScanSingleTableJobProcessor extends MapJobProcessor {
    private static final int pageSize = 100;

    static class PageTask {
        private int startId;
        private int endId;
        public PageTask(int startId, int endId) {
             this.startId = startId;
             this.endId = endId;
        }
        public int getStartId() {
              return startId;
        }
        public int getEndId() {
              return endId;
        }
    }

    @Override
    public ProcessResult process(JobContext context) {
        String taskName = context.getTaskName();
        Object task = context.getTask();
        if (isRootTask(context)) {
            System.out.println("start root task");
            Pair<Integer, Integer> idPair = queryMinAndMaxId();
            int minId = idPair.getFirst();
            int maxId = idPair.getSecond();
            List<PageTask> taskList = Lists.newArrayList();
            int step = (int) ((maxId - minId) / pageSize); //计算分页数量
            for (int i = minId; i < maxId; i+=step) {
                taskList.add(new PageTask(i, (i+step > maxId ? maxId : i+step)));
            }
            return map(taskList, "Level1Dispatch");
        } else if (taskName.equals("Level1Dispatch")) {
            PageTask record = (PageTask)task;
            long startId = record.getStartId();
            long endId = record.getEndId();
            //TODO
            return new ProcessResult(true);
        }

        return new ProcessResult(true);
    }

    @Override
    public void postProcess(JobContext context) {
        //TODO
        System.out.println("all tasks is finished.");
    }

    private Pair<Integer, Integer> queryMinAndMaxId() {
        //TODO select min(id),max(id) from xxx
        return null;
    }

}