个人介绍
我是程序员客栈的azurewater,一名大数据开发工程师; 我毕业于上海交通大学,担任过小红书的大数据开发工程师,担任过安吉加加的大数据架构师; 负责过Myriads数据可视化项目,网络运输大屏项目,数据调度平台的开发; 熟练使用Java,Spring,MPP数据库,Vue;
对系统架构、模块交互和前后台开发有丰富经验。 如果我能帮上您的忙,请点击“立即预约”或“发布需求”!
工作经历
2020-03-19 -至今安吉加加大数据架构师已认证
负责大数据平台的主要工作,包括数据采集、数据监控、数据迁移和数据开发支持。数据平台主要包括MMP架构的Impala+Kudu和TiDB,支持整车、智行、质经、海外多个业务线的TB级数据需求。 负责公司展厅大屏数据可视化的地理数据接入和后端框架开发,实现国内外整车公铁水、网络运输、实时仓储运作的可视化展示。支持并满足周平均三场接待任务的需求。
2018-03-01 -2020-03-06行吟信息科技(上海)有限公司大数据开发工程师
开发大数据平台相关工具,主要包括实时离线数据调度、任务监控和可视化报表,为数仓、业务分析师及高层提供方便的数据接入、数据调度、数据展示和异常通知。同时开发相应***支持移动办公。
2015-12-28 -2018-02-28拉扎斯网络科技(上海)有限公司Java资深开发工程师
开发大数据平台相关工具,整合元数据管理、数据调度、数据查询、数据安全、可视化报表,作为大数据平台部的主要出口,为公司各业务部门提供完整的大数据应用服务。同时负责高负载环境下线上工具的运营维护。
2014-02-24 -2015-11-27广州唯品会信息科技有限公司上海分公司Java高级开发工程师
元数据平台的总体设计和开发。目前已完成第一版的发布,开始在小范围试用,并收集用户意见修复问题改进产品。
2008-08-11 -2014-01-20上海万达信息股份有限公司Java高级开发工程师
开发业务基础平台,为项目组节省开发成本,让他们能专注于业务逻辑,更快速的达成项目目标;同时为各项目组提供技术支持服务。
教育经历
1999-09-01 - 2003-06-30上海交通大学信息与通信工程本科已认证
技能
该项目在容器化Airflow上封装,支持各种离线实时数据任务的标准化接入,以满足在不同集群上流程化的数据调度需求。相对于原有的Airflow调度项目,大大降低了开发、测试、部署和运维的难度。 项目职责 1.参与容器化Airflow和operator的开发,以及原有Airflow任务的迁移 2.负责实现任务血缘分析和Git版本管理 3.参与Hive和Sqoop任务标准化的开发 项目业绩 完成80% Airflow任务的迁移;标准Hive和Sqoop任务上线 解决了Git版本管理任务的问题。
网络运输部大屏管理驾驶舱,实现网运业务的数字孪生。通过GIS可视化展示所有车辆运单的位置、轨迹情况,标记天气、路况等环境影响,并提供多维统计、里程计算、风险预警等实用功能。 项目中负责数据集成、数据监控、指导数据开发和后端开发。对多个来源的订单运单和车辆GPS数据进行汇聚和计算,提供地图服务,并根据多种规则生成预警跟踪。迭代交付及时,6个月上线第一版。 解决了多维度实时里程计算的问题。