某银行信用卡中心

我要开发同款
水中火2023年03月05日
81阅读
开发技术java
所属分类springcloud、hadoop

作品详情

主要技术:mysql、java、springboot、mybatis、hadoop、hive、sqoop、spark、bootstrap、jquery和svn。
职责描述:数据入仓和运维。
(1)通过系统配置将各部门的数据入仓至大数据平台,主要以文件类型数据入仓和通过sqoop抽取数据库中数据两种入仓方式;
(2)对json和xml类型的报文数据进行解析,拆分为可直接查询的表进行入仓,如二代征信报文。对于结构简单的报文主要通过lateral view、explode和json_tuple进行sql解析;
(3)通过配置集群间数据进行迁移,使用distcp命令实现;
(4)对生产问题进行处理和用户使用数据时答疑。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论