我在该项目中开发了自 动化 ETL 程序,该程序经过调度可以自动完成数据往大数据平台的数据导入、数据处理、数据推 送、数据稽核的功能,我在程序中包装了 sqoop、hive、beeline、datax、sqlldr 等工具的使用, 通过使用配置表和自动传参的方式一键实现 ETL 过程,该程序配置简单,日志功能完善,可以完 成跨平台的数据迁移和数据质量检测需求
评论