job-dispatcher 工作流编排、任务调度引擎开源项目

我要开发同款
匿名用户2019年01月14日
46阅读
开发技术Java
所属分类开发工具、Java开发工具
授权协议其它

作品详情

job-dispatcher介绍

一个工作流编排,任务调度引擎

GtiHub地址:https://github.com/xuda783380930/job-dispatcher.git

基本模型:

基于事件或者定时生成一个job,每个job由若干个task组成,task之间存在串行或并行的依赖关系

task的具体实现引由客户端(用户自己编程实现),调度引擎只负责按照拓扑顺序发出HTTP信号触发任务

由客户端发出HTTP通知引擎任务任务的完成状态,调度引擎据此继续发出后续调度信号

使用场景:

任务编排,事件驱动或时间驱动的任务调度,如企业级ETL调度等

特点:

调度引擎只做调度和任务编排,不参与具体任务实现和执行,可看作一个HTTP信号发射和接收器,具有极大的适用性,天生支持异构系统,引擎端和任务实现端彻底的解耦。

job-dispatcher是微服务中的一个独立组件,而非作业平台,因此它并不去实现各类任务的运行环境的适配工作,任何实现了配置中子任务HTTP启动接口的程序都可以作为job-dispatche的客户端,无论是何种语言何种数据库的程序。

相似项目:Linkedin公司推出的Azkaban,国产软件TASKCTL,欢迎大家对比提出意见

软件架构

软件架构说明

1.时间调度引擎:基于Quartz,按时触发对应的Job

2.Job引擎:可注册JobBuilder(包含子任务的依赖关系),Job引擎收到触发信号后,根据builder生成JobBox实例(包含批次时间和任务执行状态)按照时间顺序JobBox被Put到队列中,队首的JobBox会被消费,即按照拓扑关系依次发出信号,直到所有子任务执行完毕,继续执行下一个JobBox。

3.使用的框架:JDK1.8,SpringBoot2.0,Quartz,JPA,Echarts,Amazeui,Swagger2

安装教程

1.修改对应的jdbc数据源配置和pom里面的jdbc驱动依赖

2.基于Springboot,用maven打包成Jar后启动即可

使用说明

JDK1.8环境,通过默认端口浏览器访问就可以看到主页

通过quartz/registerjob接口,传入Json格式的Job配置文件注册任务即可,具体如下

1.任务端向引擎注册一个定时Jobhttps://ip:port/quartz/register?json={}

//通过下列的json配置样例

{

"jobBoxBuilder":{

 "jobCode": "job1",         "monitorParas":{mobileNos:[ "18621711111","18616152222"]} //短信收信人         "taskBuilderMap": [ //Job内的task组成列表     {         "taskCode": "task1",         "adapterPara": "https://172.11.33.44/trigger?jobCode=jos1&taskCode=task1",          "upstreamTaskCodes": ["task2"], //依赖task2,task2完成后task1才可执行         "overTime":"60" //超时时间60分钟则报警     },     {         "taskCode": "task2",         "adapterPara": "https://172.11.33.44/trigger? jobCode=jos2&taskCode=task2"         //"upstreamTaskCodes":[]    //不依赖任何任务可以不填该字段                         //"overTime":"60" //可不填     } ]

 

},

"jobCronExpression":"00/111**?",//每天11点每隔一分钟执行一次

"filterCalendarName":"nonTradingDays"//过滤nonTradingDays日历组

}

2.任务端向引擎通知任务执行情况

UNSTART("未开始",0),TRIGGERED("正在触发",1),STARTED("正在执行",2),NEED_RESTART("需重新执行",3),PAUSED("已暂停",4),FINISHED("已完毕",5);

https://ip:port/task/call?jobcode=job1&taskcode=task2&status=0

3.查看job的等待队列的情况,查看正在执行的job的情况(通过前端页面关系图查看)

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论