工作经历
2019-03-04 -至今同盾科技大数据专家
工作描述:就职于私有云技术部,工作职责包含数据类产品研发、POC技术支持、产品交付实施和售后技术支持。研发数据计算引擎采用的开源技术是spark,presto等,研发的产品主要包括数据平台、数据资产类、中间层可视化ETL工具类、数据采集类、数据服务类以及数据指标类产品。参与项目交付部署(包括应用部署和中间件部署---es、kafka、zookeeper、clickhouse、CDH、k8s等等)与售后技术支持。 主要项目经验: 1.数据中台(产品研发)---以spark作为核心计算引擎开发了SQL作业、python2/python3作业、jar作业、流作业。SQL作业支持OLAP和数据处理、python作业用python语言调用spark来支持数据分析和处理,jar作业使用java代码来执行spark来进行数据分析处理,流作业支持流式数据处理。实现了作业的定时调度和依赖调度,还支持调度实例的重跑等操作。作业执行采用jobserver机制共享sparksession来避免yarn调度资源导致的作业执行延时。此外还开发元数据管理、数据血缘分析和数据质量监控。基于spark开发了数据交换平台
2015-09-21 -2019-02-28阿里高级后端工程师
工作描述:涉及到的业务包括天猫招商、国际站服务运营平台。java开发为主。在技术上主要负责:规则模型设计,业务搜索引擎搭建,业务系统搭建(技术架构和业务架构);离线计算数据模型设计,离线和在线数据输出模型与计算流程设计;搭建应用来支撑运营业务。项目职责:和业务方沟通诉求,和产品一起梳理产品方案,推动横向团队参与项目;产出项目规划,项目计划,过程中协调、把控资源并保障时间进度。 主要项目经验: 1.国际站服务运营平台---主要是用于支撑阿里国际站客户的咨询和交易纠纷维权类的售后业务项目。每天处理上万个咨询类工单和上千个交易纠纷类工单,所有工单都根据客户诉求(包括云客服、电话、邮件和在线留言等)方式实时生成在平台上后由小二处理。采用微服务架构,应用之间通过HSF进行通信,开发语言java,使用到的技术有搜索、Spring、mysql、工作流和规则引擎等。 2.天猫选品引擎---主要是根据天猫营销业务场景按照规则圈选后进行投放。商品的来源分为营销招商进来的商品和天猫商家的所有在线商品,每天会根据交易情况离线计算出商品属性并且由算法根据人货场匹配后对商品进行打标,最终就是根据这些属性和标签生成
教育经历
2010-09-01 - 2013-07-01上海理工大学计算机应用技术硕士研究生
获得工学硕士