数据中台搭建及维护

我要开发同款
刘镇荣2023年07月17日
74阅读
所属分类DBA运维H5网站

作品详情

搭建医药类的数据中台,从1.0的PGSQL迁移到2.0的大数据平台,整个中台划分为ldg、sta、ods、dwh、dmt等五层,离线模块中上游通过腾讯云的Cos系统上传当日或T-1日数据文件,通过自研应用DI拉取做处理到外部表ldg层,通过informatica工具进行调度,进而去做后续的ETL流程,整个过程中数据存放在HDFS,表结构使用HIVE。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论