大数据平台自动化ETL程序

我要开发同款
lin_122021年07月05日
235阅读

作品详情

我在该项目中开发了自 动化 ETL 程序,该程序经过调度可以自动完成数据往大数据平台的数据导入、数据处理、数据推 送、数据稽核的功能,我在程序中包装了 sqoop、hive、beeline、datax、sqlldr 等工具的使用, 通过使用配置表和自动传参的方式一键实现 ETL 过程,该程序配置简单,日志功能完善,可以完 成跨平台的数据迁移和数据质量检测需求
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论