个人介绍
10年以上java开发经验,10年以上数据分析、数仓、数据湖、湖仓一体类项目开发经验。
近年从事城市轨交地铁、保险行业、金融、零售行业BI数据分析,数据治理,数据仓库,大数据平台类项目,主要担任模型设计和ETL开发工作。
熟练oracle greenplum spark hive开发,ER建模;
熟练ETL开发工具dataworks、kettle、datastage、powercenter、sap bw、SSIS等,
熟练cognos,tableau,powerbi,fineBI开发工具,
阿里云大数据/云计算ACP证书。
为人随和,善于团队协作;友好的客户沟通能力,做事认真严谨。
工作经历
2015-04-01 -2021-01-01IBM大数据开发顾问
2018/8-2021/1 数据治理工程师 |CBDS 国际商业机器(中国)有限公司(IBM) [2年5个月] 计算机服务(系统、数据服务、维修)|5000-10000人|外资(欧美) 工作描述: 数据治理项目,数据分析类项目 从事建模和ETl开发角色 1深圳招商蛇口人效管理及预警系统项目 基于工程项目人效数据分析的模型设计,mapping文档编写 2平安金服数据治理项目 基于外部来源工商/银行数据,设计数据治理方案和实施模型 基于Hadoop hive spark组件的ETL技术框架改造 Hive+spark+greenplum 3可口可乐数据分析项目 年度预算审批流DMI系统功能和体系搭建 数据分析需求整理和模型设计 数据ETL规范、数据质量和数据标准的定义和实施 Azure sqlserver+Visual Studio+ssas+powerbi 4平安医保科技大数据平台项目 大数据平台省医保中心医疗系统项目ER模型设计 5斯凯奇数据分析平台项目 基于该司以业务营销为主和员工工作方式的现状,识别出数据需求的重点关注问题,并进行对标诊断和研究 数据需求分析整理和模型设计 主数据
2005-06-01 -2015-04-01上海新致软件软件工程师
太保IDS改造项目 太保集团EDW2008版产险数据分析系统 太保产险2009版数据综合分析系统。 太保产险全险种综合查询系统 太保非车智能分析系统 主要负责产险数据分析项目的系统架构,数据ETL,Datastage 开发,Oracle开发,Cognos建模设计,Cognos报表开发等
教育经历
1999-10-01 - 2004-11-01复旦大学计算机信息管理本科
技能
数据动态脱敏系统主要有几大模块:协议解析、语法分析、配置管理与WEB服务等。 协议解析模块主要把TCP流量还原为各种数据库的操作指令,以SQL/NoSQL命令的形式还原原始语句。 语法分析模块的作用,是利用DAG结合产品底层AI能力,精准识别复杂数据访问语句的源、目标、操作命令等元素,以实现高效精准的实时脱敏,避免误脱、漏脱。 DAG(有向无环图)算法结合SQL语法分析技术,能够快速、精准的定位到复杂的SQL的敏感数据列,大幅提升敏感数据的识别精度,提高复杂SQL的脱敏成功率。动态数据脱敏系统支持复杂SQL请求的脱敏,包含但不限于:select *,嵌套和多层嵌套,连接(左连接、右连接、内连接)查询,比较查询、模糊查询、范围查询、分组查询等。