个人介绍
1、 熟悉Hadoop大数据平台架构体系与集群的管理,有丰富的CDH集群搭建和维护经验。
2、 熟悉Hive数据仓库架构模型建设,并能熟练掌握HiveQL,熟悉对海量数据的ETL开发流程与处理。
3、 对基于大数据平台的数据仓库建设、数仓架构设计、数仓建模有丰富的经验。
4、 熟悉Spark计算框架,掌握Spark Core、Spark SQL、Spark Streaming 等大数据处理技术。
5、 能熟练编写实时计算任务,将spark streaming 封装sql进行实时流任务处理。
6、 熟悉clickhouse 实时分析系统集群,能构建基于clickhouse的实时数仓系统,并优化实时查询sql。
7、 熟悉 doris、StarRocks 等实时MPP实时分析型数据库,并基于此构建实时数仓、数据湖治理体系。
8、 熟悉Linux环境,掌握Java、Python、shell等编程语言,了解spring boot,熟练使用MySQl数据库技术与SQL。
9、 熟悉Hbase、kafka、Flume、elasticsearch、docker、dolphinScheduler、azkaban等大数据体系圈周边技术。
10、能设计、建设、优化整个大数据处理架构,包括数据接入、存储、集成等整体流程,并编写相关技术文档。
11、善于分析业务需求和逻辑,为各种数据场景快速制定技术方案和开发支撑,有丰富的数据治理体系建设经验。
12、有丰富的团队管理和部门管理经验,目前承担20人左右的研发团队管理以及多个项目管理,能从需求调研、 需求沟通、架构方案设计、技术落地实现、研发进度把控、项目交付、项目跟踪维护等各个环节全程把控。
工作经历
2020-07-13 -至今北京赛思信安技术股份有限公司成都分公司部门经理/项目经理/大数据组长
1、 负责军工与政企行业数据中心仓库设计搭建、维护、开发。 2、 分析各种业务需求并制定相应的数据开发流程,完成开发任务。 3、 搭建和维护大数据集群,并设计整体数据处理方案,包括数据采集、数据治理、数据中台的建设。 4、 对接用户,分析用户需求,设计产品主体架构,并设计征集技术实现方案,推进项目开发和落地,完成产品交付。 5、 部门负责人,管理20人左右的研发团队,编撰和制定相关项目文档、技术文档、产品报告等。
2018-04-01 -2020-07-04成都乐趣多互娱科技有限公司大数据数仓架构师
1、 负责游戏中心数据仓库设计搭建、维护、开发。 2、 分析各种业务需求制定相应的数据开发流程,完成开发任务。 3、 搭建和维护clickhouse 实时数仓,优化查询sql,开发数据查询的接口提供数据服务。 4、 负责开发spark streaming 程序实施读取游戏日志数据写入实时数仓,维护实时任务。 5、 承接业务部门的数据需求,提供数据提取支持。
2017-03-20 -2018-03-31成都天象互动科技有限公司大数据架构师
1、 负责CDH集群环境搭建与维护,大数据平台各个组件安装维护。 2、 建设游戏数据仓库,设计并建立各个游戏日志数据的数仓模型。 3、 游戏日志数据采集,从各个服务器上采集数据大数据集群中,并载入数据仓库。 4、 游戏数据的ETL,构建spark一站式数据开发架构,数据处理程序调度维护。 5、 项目需求分析与开发,并设计数据仓库对应的数据开发模型和项目的展示页面表结构。
2015-02-10 -2017-03-10重庆猪八戒网络有限公司大数据开发工程师
1、 负责公司数据仓库底层建设与维护,各个业务模块库指标完善与多维度模型建设。 2、 承接公司各个业务部门数据项目,提供全公司数据支撑与数据服务,并进行相应的数据开发与ETL流程。 3、 管理数据平台所有的数据加工程序,以及负责对外开放的数据平台的使用监控。 4、 承接业务部门的数据需求,提供数据提取支持。 5、 集群维护,排查问题和优化任务处理逻辑。
教育经历
2014-12-21 - 2017-07-01成都电视广播大学计算机大专
这个是成教大专学历,学的计算机应用管理。