基于java的分布式爬虫
2015-04-20 10:40
204 查看
分类
分布式网络爬虫包含多个爬虫,每个爬虫需要完成的任务和单个的爬行器类似,它们从互联网上下载网页,并把网页保存在本地的磁盘,从中抽取URL并沿着这些URL的指向继续爬行。由于并行爬行器需要分割下载任务,可能爬虫会将自己抽取的URL发送给其他爬虫。这些爬虫可能分布在同一个局域网之中,或者分散在不同的地理位置。根据爬虫的分散程度不同,可以把分布式爬行器分成以下两大类:
1、基于局域网分布式网络爬虫:这种分布式爬行器的所有爬虫在同一个局域网里运行,通过高速的网络连接相互通信。这些爬虫通过同一个网络去访问外部互联网,下载网页,所有的网络负载都集中在他们所在的那个局域网的出口上。由于局域网的带宽较高,爬虫之间的通信的效率能够得到保证;但是网络出口的总带宽上限是固定的,爬虫的数量会受到局域网出口带宽的限制。
2、基于广域网分布式网络爬虫:当并行爬行器的爬虫分别运行在不同地理位置(或网络位置),我们称这种并行爬行器为分布式爬行器。例如,分布式爬行器的爬虫可能位于中国,日本,和美国,分别负责下载这三地的网页;或者位于CHINANET,CERNET,CEINET,分别负责下载这三个网络的中的网页。分布式爬行器的优势在于可以子在一定程度上分散网络流量,减小网络出口的负载。如果爬虫分布在不同的地理位置(或网络位置),需要间隔多长时间进行一次相互通信就成为了一个值得考虑的问题。爬虫之间的通讯带宽可能是有限的,通常需要通过互联网进行通信。
大型分布式网络爬虫体系结构图
分布式网络爬虫是一项十分复杂系统。需要考虑很多方面因素。性能可以说是它这重要的指标。当然硬件层面的资源也是必须的。
架构
下面是项目的总体架构,第一个版本基于此方案来做。上面的web层包括:控制台、基本权限、监控展示等,还可以根据需要再一步进行扩展。
核心层由控制者统一调度,将任务发给工人队列中的工人进行爬取操作。各个结点动态的向监控模块发送模块状态等信息,统一由展示层展示。
项目目标
众推,开源版的今日头条!基于hadoop思维的分布式网络爬虫。
目前已经将fourinone、jeesite、webmagic整合进来,并且进一步进行改进。想最终做成一个基于设计器的动态可配置的分布式爬虫系统,这个是第一阶段的目标。
项目目前情况
目前项目进展情况:1、sourceer,可以接入多种数据源,接口已经定义(加入builder封装,可以使用简单爬虫)。
2、web架构工程(web工程上传并测试成功,权限、基础框架改造,导入等已经录成视频,删除activiti,删除cms部分)。
3、分布式框架研究(分布式项目分包,添加部分注释,测试单机单工人爬取)。
4、插件化整合。
5、文章等各种去重方式及算法(目前已实现bloomfilter,指纹算法去重,已经实现simhash,分词算法(ansj))。
6、分类器测试(bayes,文本分类单机测试成功)。
项目地址:
(分布式爬虫)http://git.oschina.net/zongtui/zongtui-webcrawler
(去重过滤器)https://git.oschina.net/zongtui/zongtui-filter
(文本分类器)https://git.oschina.net/zongtui/zongtui-classifier
(文档目录)https://git.oschina.net/zongtui/zongtui-doc
项目界面:
启动jetty,目前皮肤暂时还未换。
总结
目前项目正在进一步完善当中,希望能得到你更多的意见!本文出自 “skyme” 博客,请务必保留此出处http://skyme.blog.51cto.com/447319/1635942
相关文章推荐
- 基于java的分布式爬虫
- java 分布式爬虫 设计和构建
- 基于java的网络爬虫框架(实现京东数据的爬取,并将插入数据库)
- 基于crawler4j、jsoup、javacsv的爬虫实践
- 用RMI实现基于Java的分布式计算
- 基于webmagic的java网页爬虫,抓取网页指定节点,然后使用dom4j分析xml数据
- 基于Scrapy分布式爬虫的开发与设计
- 分布式Java--基于消息方式实现系统间通信
- 基于Python+scrapy+redis的分布式爬虫实现框架
- 基于JAVA语言的网络爬虫
- java基于zookeeper实现分布式锁
- 学习用java基于webMagic+selenium+phantomjs实现爬虫Demo爬取淘宝搜索页面
- Java 实现基于Redis的分布式可重入锁
- java基于线程的分布式
- 用RMI实现基于Java的分布式计算
- 基于scrapy和redis的分布式爬虫环境搭建
- 【正完成】Java基于Jsoup的网络爬虫工具实现
- 基于Java的DBLP数据库爬虫系统
- Java实现基于Redis的分布式锁
- 基于Hadoop 的分布式网络爬虫技术学习笔记