1. 参与需求分析以及数仓架构设计2. 使用Flink接收Kafka卸载的binlog数据,进行数据拆分,推送到下游Kafka的不同Topic中3. 读取分流后的数据,利用Flink API将DRDS中维表读取到内存中,进行流表与维表Join实现合并,形成数据宽表,推送到下游Clickhouse接口表对应的Topic中4. 参与Clickhouse物化视图的搭建,并基于Clcikhouse物化视图统计指标5. 日常维护hadoop集群,解决flink任务异常关闭和Hadoop集群宕机,完成相关优化声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论