1、大数据湖仓架构:数据湖存储:格式:hudi(parquet,orc,json),HDFS,OSS,元数据管理Atlas计算:数仓OLAP分析clickhouse、druid、CarbonData、kylin、MongoBD、MPP(Greenplum,GaussDB),工作流Oozie,批处理Pig,分布式实时计算Storm、Spark Streaming、flink,分布式消息Kafka、pulsar,交互式内存分析与数据挖掘Spark、Impala、Presto、OpenLooKeng,机器学习 训练:Mahout、TensorFlowCaffe、PyTorch,推断:TensorFlow Lite、Caffe2go、CoreML。2、大数据服务管理中台:Auth&access权限控制,数据资产目录管理服务,数据分级接口服务,BI、davinic、zeppelin、Kibana、离线、在线、交互计算服务、机器学习、深度学习服务、任务调度,资源动态分配、数据安全、平台运维。声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论