1、大数据湖仓架构:
数据湖存储:格式:hudi(parquet,orc,json),HDFS,OSS,元数据管理Atlas
计算:数仓OLAP分析clickhouse、druid、CarbonData、kylin、MongoBD、MPP(Greenplum,GaussDB),工作流Oozie,批处理Pig,分布式实时计算Storm、Spark Streaming、flink,分布式消息Kafka、pulsar,交互式内存分析与数据挖掘Spark、Impala、Presto、OpenLooKeng,机器学习 训练:Mahout、TensorFlow
Caffe、PyTorch,推断:TensorFlow Lite、Caffe2go、CoreML。
2、大数据服务管理中台:
Auth&access权限控制,数据资产目录管理服务,数据分级接口服务,BI、davinic、zeppelin、Kibana、离线、在线、交互计算服务、机器学习、深度学习服务、任务调度,资源动态分配、数据安全、平台运维。