个人介绍
有java后端开发以及大数据hadoop平台相关开发经验
掌握多线程与并发编程
了解分布式架构,列式存储,hadoop/hive/hbase等组件项目使用及维护经验
有大数据平台调度系统开发经验
1. 熟悉使用Java语言,熟练使用Spring、SpringMVC、Mybatis、Hibernate、等开源框架
2.熟悉微服务相关架构及组件springcloudgateway、springcloudconfig、sentinel、nacos集群、grafana、prometheus的配置与使用
3.熟悉jsp、jQuery、Ajax等web应用技术;
4.有java后端开发以及大数据hadoop平台相关开发经验熟悉相关组件与框架的使用与调优
5.掌握多线程与并发编程
6. 熟悉hadoop集群搭建配置,维护,调优。
7. 熟悉hive,使用hql进行数据清洗,使用sqoop抽数;
8. 熟悉mapreduce 利用mapreduce实现特殊逻辑的处理;
9.了解Hbase及bigtable的概念及使用。
10. 熟练使用 Flume 日志收集工具,掌握该工具的搭建和配置;
11.了解 elasticSearch logstash kibana的搭建与使用;
12. 熟练掌握 Kafka 消息队列的使用与集群配置;
13. 熟悉Linux命令,以及shell脚本
工作经历
2019-10-15 -至今深圳法本信息技术有限公司大数据开发工程师
2019.10-2019.12 平安普惠智慧财务债权数据月表 项目描述: 智慧财务需求,对日频报表做数据处理,向下游提供债权业务的月报表 项目架构 sqoop抽去oracle数据至hive,azkaban运行离线任务,利用hive sql 处理数据生成结果表,将结果表数据再用sqoop推送至下游oracle数据库 个人职责: 与业务方沟通,完成相关债权业务表的开发逻辑,对接上游系统 oracle,获取数据,存 储至 hdfs,再利用 hive 做相应的逻辑处理,推送给下游系统
2018-04-23 -2019-10-14天云融创数据科技有限公司研发工程师
2019.03-2019.10兴业银行信用卡中心历史数据查询API化改造 项目描述: 应行方要求,搭建微服务平台,对接各系统,为日后数据中台做准备。 使用复杂网络实现对数据血缘关联关系的处理,集成AI平台与机器学习算法生成模型。 采用微服务的形式,使用springcloud,nacos,sentinel搭建服务,重构查询业务,提供API接口,通过ELK日志聚合,做流量统计与结算。 项目架构: Nacos作为注册中心与配置中心+ springcloudgateway +sentinel限流+springboot+Mybatis+Hubble(公司自研) Logstash+elasticsearch+kibana日志聚合 grafana+Prometheus集群监控 hdfs+hive+hubble数据存储 zookeeper Hadoop与hubble高可用 个人职责: 1.参与微服务架构的技术选型,集群资源分配与采购计划讨论。 2.微服务相关组件搭建与代码开发工作。 3. 改造码云上的Cloud-Platform微服务项目架构,利用其权限管理机制 4.搭建LogStash
2016-07-25 -2017-10-01CCDIBIM工程师
使用revit制作建筑信息模型,配合各类碰撞检查与错误报告的制作,搭建建筑信息化工作平台,使现场人员能够实时通过平台查询知悉最新的变更与实时进度。
教育经历
2012-09-01 - 2016-06-01上海建桥学院工程管理本科
统招全日制本科学历,有毕业证与学位证.........................