点击空白处退出提示
《气象大数据云平台-元数据系统》JAVA开发、项目经理 2017.06-2020.09
我要开发同款作品详情
气象大数据云平台是国家气象局“十三五”气象规划重点项目,旨在提供数算一体的气象数据服务能力,解决业务系统烟囱林立,数据交互不够高效的问题。完成气象基础云平台建设,实现“云+端”的应用模式。下设五大子系统,涵盖气象数据交换与质控,产品加工,挖掘分析,存储与服务,元数据标准及管理。
我所负责的元数据管理系统主要为整个云平台提供数据元数据定义及服务,实现元数据标准制定,元数据收集,元数据验证,元数据存储,元数据服务,元数据备份与同步等功能。同时实现与其他子系统的协同交互,数据交换 。
技术点:Hearken(公司自研平台)+Spring+Hibernate+Druid数据库连接池+Executors线程池+logback+虚谷(国产数据库)+mysql+myCat+MongoDB+Quartz+RabbitMQ+Redis+单点登录+Nginx+脚本自动部署+React+jQuery+axios
应公司要求,基于公司自研平台Hearken进行项目开发,选用Spring做融合支撑,元数据的收集源包括网络,文件,数据库,API,消息队列等,存在多源异构特点,设计上通过定义接口,实现接口多态实现,整个系统实现过程也借鉴吸收了ETL思想。元数据验证运用AOP切面实现,日志记录使用指定logback并发送日志到公共消息队列,便于监控。元数据存储数据库以mysql为主要数据库,根据业务数据分类,实现了分库分表,部分业务数据采用国产数据库虚谷存储,一些文档型数据采用MongoDB存储。数据处理过程应用多线程及线程池,定时启动执行。系统间数据交互涉及RabbitMQ消息队列,使用平台统一的单点登录。前端使用React组件化,jQuery+axios简单控制。
项目一共三期,I期我主要负责开发,II、III期转项目经理,侧重管理指导和设计。主要工作内容包括:
● 同甲方老师一起归纳整理,完成元数据的规则,标准制定。
● 完成需求调研,分析,并通过禅道管理项目需求,同时管理项目任务,以及Bug。
● 完成功能需求划分,数据库建模及E-R图绘制。
● 完成技术选型,创建项目,搭建项目环境及结构,编写核心代码。
● 组织协调项目成员完成计划任务以及突发任务,解决项目及成员遇到的问题,控制甲方需求,防范项目风险
● 组织推进项目测试,验收和评审
![](https://filescdn.proginn.com/community/618450/20210630/caJEPNp1mX.png?x-oss-process=image/resize,w_800)
![](https://filescdn.proginn.com/community/618450/20210630/tcv2MsmS9K.png?x-oss-process=image/resize,w_800)
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
评论