点击空白处退出提示
作品详情
运用互联网、大数据、AI技术(尚未引入,我离职时正在招聘机器学习工程师)构建信息化的物流平台,连接物流、仓库、人、车、物等所有管理对象,从而降低运营成本。
### 实现
数据处理:
- 实时
- 根据“数据操作类型”清洗数据并保存到Redis。
- 异步关联维度表以生成宽表并保存到Kafka。
- 风控:生成风控数据并保存到redis。
- 大屏:生成大屏数据并保存到mysql。
- 使用flinksql三流join并保存到mysql。
- 离线
- 使用sqoop编写shell脚本从mysql导入数据到hive。
- 一层表沉淀。
- 二层表沉淀。
- 指标计算。
- 离线指标计算。
- 风控。
数据展示:先用MyBatis映射Java接口和数据库,再用SpringMVC接口生成JSON数据。
### 个人职责
参与Flink实时编码。
参与Hive和MySQL离线编码。
参与Sqoop脚本编写。
协助前端人员测试数据接口。
对接数据分析师。
对接产品经理。
对接后端人员。
协助测试人员。
参与会议。
杂项任务:迁移数据库、校验数据。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论