




个人介绍
我是程序员客栈的王言,一名大数据开发工程师,
我毕业于天津理工大学(本)、西安工业大学(硕),担任过【公司1】的【职位】,担任过【公司2】的【职位】负责过【项目1名称】,【项目2名称】,【项目3名称】的开发;
熟练使用【技术栈1】,【技术栈2】,【技术栈3】,【技术栈4】,【技术栈5】;
如果我能帮上您的忙,请点击“立即预约“或“发布需求”!
工作经历
2021-08-08 -2024-04-12北京国信会视科技有限公司大数据开发工程师
主要职责: 1.指标梳理:根据公司高层对各部门的绩效指标管控需求、经营决策需求以及各部门监控某些业务运行情况的需求,对各部门相关指标业务进行详细调研,梳理指标定义、计算公式、更新周期、数据来源系统等信息,构建指标体系; 2.数据仓库开发标准制定:根据公司业务划分主题域,制定数据库中各种对象的命名规范; 3.数仓分层设计:按照业务需求和数仓分层原则,对数仓进行分层设计; 4.数据采集:和需要采集数据的业务系统负责人对接,调研系统数据库类型,制定数据采集方案; 5.报表开发:开发基于行云数据库的SQL脚本,对接入数仓的数据分层加工; 6.数据治理平台流程设计:在数据治理平台上设计数据从采集到加工至ST层的调度流程。
2018-07-01 -2021-07-30北京希为科技有限公司大数据开发工程师
公司业务:为金融行业提供数据分析等服务 我的职责: 1.数据探源:探索数据仓库中与需求业务相关的表,协助产品设计需求和构建标签体系; 2.数据字典设计:根据需求设计接口表(应用层)结构; 3.Hql脚本开发:开发Hql脚本,依据需求中字段的加工逻辑,使用ods层、模型层等上游表加工出接口表; 4.Spark相关代码开发:部分模块需实时更新数据,使用Scala开发Spark Streaming程序,拉取Kafka数据并处理,实现数据近实时更新; 5.ES相关代码开发:部分需模糊匹配、或数据量太大的情况使用ES存储,使用Java API开发实现ES数据查询; 6.跑批调度设计、优化及监控:根据脚本中表的依赖关系设计Moia调度作业;对以前的设计不合理的作业进行优化,以缩短跑批时间;监控每日批量运行情况,及时处理报错作业; 7.Shell脚本开发:编写执行Hql、Hive数据导出、数据装入Mysql的Shell脚本;
教育经历
2015-09-01 - 2018-06-30西安工业大学通信与信息系统硕士
2010-09-01 - 2014-06-30天津理工大学应用物理本科