主要针对ERC20,ERC721,ERC1155协议数据进行存储计算,最终能为客户实时展示和查询,某个币的卖家,买家,交易时间,数量等信息.
1.数据从kafka接入,经过flink任务后,写到clickhouse
2.clickhouse每天都会进行一次批量计算
3.同时使用flink进行实时计算,完成增量更新
4.由于中间发生过服务器升级情况,为了避免数据产生问题,所以增量数据和全量数据分开存储,每天把3天前的数据写入到全量表中,最近3天存在另一张表中,在对用户展示时,会把两张表关联起来查询