数据仓库搭建及数据管理

我要开发同款
潘新华2022年02月06日
128阅读

作品详情

基于 hive 和 clickhouse 进行数仓搭建,将埋点日志等数据通过 sparkstreaming 消费 kafka 方式存 入 hive,同时将业务方报表数据存入 hive,构建原始数据层;之后进行数据清洗,剔除脏数据等, 存入数据明细层;根据业务需求进行报表整合,生成数据集合层;之后按照业务方具体要求,生成应 用层数据,存入 clickhouse。
对于存入clickhouse的数据进行finebi的搭建以及公司dmp平台的搭建
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论