该系统为公司基础数据采集平台,通过网络爬虫技术,基于JAVA的HttpClient开发,可实现授权数据(公积金、社保等)采集和互联网公开数据采集。项目使用SpringMVC框架,底层采集实现分布式并发提高效率,使用分布式ElasticSearch数据库和Mysql数据库,支持海量数据的抓取和存储。
评论