大数据平台

我要开发同款
proginn21240113092023年05月16日
154阅读
所属分类报表展示、大数据、平台开发、IT

作品详情

项目架构: 前端(html+css+js+vue)/vue + JavaWeb/SpringBoot + Spark/Flink + Mysql + Hive + Es + HBase + Echarts
项目描述:
平台功能项 : 任务调度功能、各领域数据指标展示面板、数据质量监测、小工具项
项目职责:
1.平台前后端搭建
2.任务调度 : 支持spark/shell/api方式,存储及展示任务执行详情(执行日志、执行时间、任务执行状态、spark任务日志分析)
3.数据展示 : 根据指标更新时间,会周期调度统计任务,并且将结果存储到mysql,展示只需从mysql拿到指标结果,通过Echarts展示
4.数据质量 : 支持通用监测及sql监测,可定时监测数据质量(字段空值率、ads/ods数据占比、敏感数据占比、正文格式定期校验排查等)
5.小工具项 : 数据删除、后端菜单节点更新、缩小hive分区等功能界面化操作
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论