点击空白处退出提示
作品详情
职责描述:数据入仓和运维。
(1)通过系统配置将各部门的数据入仓至大数据平台,主要以文件类型数据入仓和通过sqoop抽取数据库中数据两种入仓方式;
(2)对json和xml类型的报文数据进行解析,拆分为可直接查询的表进行入仓,如二代征信报文。对于结构简单的报文主要通过lateral view、explode和json_tuple进行sql解析;
(3)通过配置集群间数据进行迁移,使用distcp命令实现;
(4)对生产问题进行处理和用户使用数据时答疑。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论