软件 | Pholcus(幽灵蛛)爬虫软件 v1.2 |
内容 |
Pholcus(幽灵蛛)是一款纯Go语言编写的支持分布式的高并发、重量级爬虫软件,定位于互联网数据采集,为具备一定Go或JS编程基础的人提供一个只需关注规则定制的功能强大的爬虫工具。 它支持单机、服务端、客户端三种运行模式,拥有Web、GUI、命令行三种操作界面;规则简单灵活、批量任务并发、输出方式丰富(mysql/mongodb/csv/excel等)、有大量Demo共享;另外它还支持横纵向两种抓取模式,支持模拟登录和任务暂停、取消等一系列高级功能。 框架特点: 1、为具备一定Go或JS编程基础的用户提供只需关注规则定制、功能完备的重量级爬虫工具; 2、支持单机、服务端、客户端三种运行模式; 3、GUI(Windows)、Web、Cmd 三种操作界面,可通过参数控制打开方式; 4、支持状态控制,如暂停、恢复、停止等; 5、可控制采集量; 6、可控制并发协程数; 7、支持多采集任务并发执行; 8、支持代理IP列表,可控制更换频率; 9、支持采集过程随机停歇,模拟人工行为; 10、根据规则需求,提供自定义配置输入接口 11、有mysql、mongodb、csv、excel、原文件下载共五种输出方式; 12、支持分批输出,且每批数量可控; 13、支持静态Go和动态JS两种采集规则,支持横纵向两种抓取模式,且有大量Demo; 14、持久化成功记录,便于自动去重; 15、序列化失败请求,支持反序列化自动重载处理; 16、采用surfer高并发下载器,支持 GET/POST/HEAD 方法及 http/https 协议,同时支持固定UserAgent自动保存cookie与随机大量UserAgent禁用cookie两种模式,高度模拟浏览器行为,可实现模拟登录等功能; 17、服务器/客户端模式采用Teleport高并发SocketAPI框架,全双工长连接通信,内部数据传输格式为JSON。 |
标签 | Pholcus,爬虫软件 |
缩略图 | ![]() |
软件名称 | Pholcus(幽灵蛛)爬虫软件 v1.2 |
软件图标 | |
软件大小 | 6.7MB |
发布时间 | |
软件平台 | |
软件语言 | 简体中文 |
软件授权 | 免费软件 |
操作系统 | Windows平台 |
系统类型 | |
用户评分 | 3 |
软件版本 | |
官方网站 | |
官方网址 | |
软件截图 | |
软件总类 | 源码系统 |
软件大类 | 源码下载-其它源码 |
软件小类 | 其它源码 |
开发者 | |
主办单位名称 | |
ICP备案名 | |
备案号 | |
使用年龄 | |
下载链接 | ![]() |
攻略教程 | |
详细介绍 | |
操控设备 | |
隐私政策 | |
查看权限 | |
敏感权限获取说明 | |
软件类型 | 国产软件 |
安全警示 | 适度休息有益身心健康,请勿长期沉迷于使用电脑或刷手机。 |
随便看 |
|
传承兰台文化,共同保存历史记忆!兰台网收藏软件、游戏、图片、图书、电影、电视剧等互联网档案,是免费和可借阅文本、电影、音乐等档案的数字图书馆。