工作经历
2021-11-04 -2024-04-02青岛海信网络科技java高级开发
1.负责数据中台需求调研、竞品分析、产品设计、后端开发等工作。 2.市场项目定制化开发及汇报演示工作。 3.维护市场项目云原生平台。 突出业绩 1.2023年数据采集平台卖了5套,根据客户需求,对产品进行定制化改造。 2.2022年大数据结项演示使用治理模型、数据探查功能。 3.2023年大数据结项演示使用自动化治理、数据治理功能。 4.重构数据资产、数据采集、数据标准、数据治理等微服务,解决jar包冲突,循环依赖及云原生k8s上云。 5.负责市场项目k8s运维。
2017-08-03 -2021-09-02太极计算机股份有限公司java高级开发已认证
1.根据需求设计原型,原型评审后,确定工期,分配任务,确保项目初验和终验。 2.负责新项目的架构设计和第三方对接方案 3.维护云平台已有项目的稳定性
2015-07-03 -2017-05-01北京神舟航天软件技术有限公司java开发
1.参与合同产品原型设计。 2.评估工期,协调人力资源保障项目进度。 3.核心代码的编写。 4.解决项目成员遇到的瓶颈问题。 5.对代码进行review。 6.对产品进行提交测试。 7.前往客户现场,进行需求确认,解决现场问题。
教育经历
2009-09-03 - 2013-06-06济宁学院应用数学本科
技能
功能描述:审批系统的二期项目 事项管理:北京市目录系统改造,事项数据发生根本性变化,审批系统根据新事项进行功能改造,保证北京市区两级审批平台可以正常接件。 办件上报国家政务平台:把审批系统的办件数据转化成国家给定的数据结构,并上传给国家 统计功能改造:对上报给国家的办件数据进行监测 评价功能上报给国家:把审批系统的评价数据转化成国家给定的数据结构,并上传给国家 项目技术:注解校验,分布式存储,ftp,防火墙测量,445永恒之蓝屏蔽,springboot 项目角色:开发组长
项目描述:用户在首都之窗上申报主体事项,比如我要开饭店,会跳转到各个区办好一件事网上环境,填写个人信息,上传材料,选择办事专员,选择ems邮寄等,完成后提交办件到办好一件事后台系统,后台系统会根据主体事项对办件进行拆分成子办件,子办件分别走审批流程进行办证,发证,并把信息反馈给首都之窗。 后台管理系统-主体事项配置:主体事项可以拆分成哪些单体事项 后台管理系统-主体材料配置:主体材料和单体事项材料对应关系 后台管理系统-办件拆分:把主体办件拆分成子办件 后台管理系统-证照管理:主体办件发证管理 后台管理系统-办件跟踪:追踪主体办件的办理情况 后台管理系统-统计管理:统计主体办件 办好一件事网上环境-主体办件填写(个人信息,上传材料,选择办事专员,选择ems邮寄) 办好一件事网上环境-一证通,首都之窗单点登录对接 表单管理系统:自己绘制增删改查表单,并集成到审批系统 项目架构:2台互联网机,2台政务外网机,一台数据库服务器,一台文件服务器 项目技术:springboot,redis,sql调优,树形结构数据展示,excel,文件断点上传和进度条显示,443,1433,19,20,3306端口开放 项目角色:4人,开发负责人
离线数据采集:支持离线采集MySQL、ORACLE、DB2、SQL Server、瀚高、TiDB、Doris、ClickHouse、PostgreSQL等关系型数据库,http、Kafka、Excel、InfluxDB、Redis、MongoDB、SQL、FTP、Elasticsearch、HBase、Hive等组件的数据到ods层或其他数仓数据源。 实时数据采集:支持Flink实时采集MySQL-binlog、PostgreSQL-WAL、PolarDB- binlog,Oracle,kafka,ActiveMqd等组件的数据。 数据治理:从数据的规范性、一致性、准确性、完整性、唯一性等角度进行数据处理,形成标准统一的数据资产 治理组件如下: 1.规范性校验-对各个字段的值域、长度、最大值、最小值进行限制 2.顺序校验-对字段值进行排序 3.数据量统计-对字段值进行预警统计 4.级联校验-对多个字段值进行联合校验,如省市区三个字段值校验 5.空值替换-对字段空值进行处理 6.日期格式转换-对日期字段进行格式转换 7.身份证标准化-对身份证进行标准化处理 8.**标准化-对**进行标准化处理 9.正则提取-是用正则处理字段值 10.字符串转换-对字符串进行处理 11.特殊字符清洗-对空换行等特殊字符处理 12.自定义映射-对字典值进行映射,如0-男,1-女 13.列增加-新增列 14.数据去重-去除重复数据 15.groovy脚本-支持脚本对字段值进行处理 16.加密、解密、脱敏-安全组件 17.过滤-对字段值进行过滤 数据资产:展示数据表名称、所属数据源、资产名称、敏感数、数据量等内容,同时提供数据表统计详情、元数据变更详情、元数据管理、血缘分析以及差异分析操作功能 数据共享:数据共享模块可将数据资产中的数据发布为数据服务,开放给其他业务系统使用。 物联感知平台:物联网平台实现针对城市内物联感知设备的管理。实现各类设备的基本管理、数据接入、告警处理,实时动态等全要素整合共享,实现对城市内智慧设备的管理,并配合智慧设备的调度管理和告警通知,使设备的实时变化更易感知。 数据地图:大屏展示数仓分层中的数据 项目中使用的技术:springboot、Spring Cloud Alibaba、k8s、hive 个人承担角色: 数据采集:ActiveMq输入,ActiveMq输出,redis输出,http输入组件支持xml、市场项目问题修复 数据治理:正则提取组件开发、规则库组件开发、groovy脚本组件优化、治理逻辑封装成治理模型并适配23种治理组件、市场项目问题修复 数据探查:对前置库表字段进行值域分布、空值率、字段类型做探查,对dw层治理后的数据做质量校验,并输出治理报告 一站式数据治理:基于DAG图完成数据采集、数据探查、数据治理、数据核验等操作 政务类数仓层次设计:原始库、治理库、基础库、主题库、专题库、hive、mpp、mysql 数据资产:资产目录、元数据管理 数据共享:黑白名单,限流、共享灵活性 数据标准:完成数据标准在数据治理中的落地 数据云图:指标数值优化 系统集成:大数据系统与上层服务做单点集成,oauth,cas