本项目主要是对链家网站数据的爬取，链家网主要是针对新房、二手房以及租房服务，通过爬取链家网的数据,如新房效果图,地址,价格，新房规格等信息，将提取的数据通过redis数据库去重并存储在mysql数据库，爬取数据使用分布式技术，提高了爬取数据的效率。采用的工具包有requests，re，lxml，框架 scrapy，中间件redis，数据库mysql等声明：本文仅代表作者观点，不代表本站立场。如果侵犯到您的合法权益，请联系我们删除侵权资源！如果遇到资源链接失效，请您通过评论或工单的方式通知管理员。未经允许，不得转载，本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论