WebCollector是一个无须配置、便于二次开发的Java爬虫框架（内核），它提供精简的的API，只需少量代码即可实现一个功能强大的爬虫。WebCollector-Hadoop是WebCollector的Hadoop版本，支持分布式爬取。

WebCollector致力于维护一个稳定、可扩的爬虫内核，便于开发者进行灵活的二次开发。内核具有很强的扩展性，用户可以在内核基础上开发自己想要的爬虫。源码中集成了Jsoup，可进行精准的网页解析。2.x版本中集成了selenium，可以处理JavaScript生成的数据。

WebCollector特性：

1、自定义遍历策略，可完成更为复杂的遍历业务，例如分页、AJAX

2、可以为每个 URL 设置附加信息(MetaData)，利用附加信息可以完成很多复杂业务，例如深度获取、锚文本获取、引用页面获取、POST 参数传递、增量更新等。

3、使用插件机制，用户可定制自己的Http请求、过滤器、执行器等插件。

4、内置一套基于内存的插件（RamCrawler)，不依赖文件系统或数据库，适合一次性爬取，例如实时爬取搜索引擎。

5、内置一套基于 Berkeley DB（BreadthCrawler)的插件：适合处理长期和大量级的任务，并具有断点爬取功能，不会因为宕机、关闭导致数据丢失。

6、集成 selenium，可以对 JavaScript 生成信息进行抽取

7、可轻松自定义 http 请求，并内置多代理随机切换功能。 可通过定义 http 请求实现模拟登录。

8、使用 slf4j 作为日志门面，可对接多种日志

9、使用类似Hadoop的Configuration机制，可为每个爬虫定制配置信息。

• Blackmagic Fusion Studio 18 Mac
• Chaos Control Mac
• CinemaGrade Mac
• FileUnhider Mac
• Focusplan Pro Mac
• Panorama Photo Stitcher Mac
• 人猫翻译交流器
• wxFormBuilder
• 快咔设计
• QuarkXPress 2022 Mac
• 儿童故事城堡
• Readiris Pro 17 Mac
• SUBtools Mac
• CMA智题库
• PAPAGO焦点行车记录仪
• Wondershare Recoverit Video Repair Mac
• ABBYY FineReader OCR Pro Mac
• 叮咚签到
• 鲁班修图
• AnyMP4 Screen Recorder Mac
• 华瑞源车商通
• 技师初级士师考试宝典
• Bootstrap Studio 4 Mac
• 精控云服务
• 快速充电加速
• 崩溃格斗家2
• 曲棍网道奇
• 银河：永恒战争
• 海上战役完整版
• 井字移动
• 二战前线抓小偷
• 宝石连环战
• 美女快餐店
• 儿童益智连连看
• 宝宝学画画1
• 平凡少女三部曲——第一部
• 无
• 樱花草的爱情
• 奸妃巫邪
• 之前之后
• 迹部の夜已深
• 白玫瑰
• 解语紫菀的填词集
• 爱情。
• 无 1
• 国家干部
• 赤子乘龙
• 天剑群侠
• 天若有情
• 地下铁
• 早春二月
• 4400 第二季
• 夺命真夫
• 奇男怪女
• 中华小当家