Blog-Hunter 基于 webMagic 的博客爬取工具开源项目

我要开发同款
匿名用户2019年06月21日
68阅读
开发技术Java
所属分类应用工具、网络爬虫
授权协议MIT

作品详情

Blog-Hunter(博客猎手),基于webMagic的博客爬取工具,支持慕课、csdn、iteye、cnblogs、掘金和V2EX等各大主流博客平台。

主要功能多个平台:该项目内置了慕课、csdn、iteye、cnblogs、掘金和V2EX六个主流的博客平台单篇抓取:只需指定一个文章连接,即可自动抓取文章内容列表抓取:只需简单的配置,就可快速抓取列表文章程序可控:可选择根据抓取的链接数或者程序运行的时间停止程序字符流输出:可配合前端,实现实时打印程序日志的功能多线程:支持多线程抓取,效率更高
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论