网络爬虫,有时也被称为蜘蛛或蜘蛛机器人,通常简称为爬虫,是一种系统地浏览万维网的互联网机器人,通常由搜索引擎操作,目的是进行网络索引(网络蜘蛛)。
Scrapy,一个快速的高级网络抓取& Python的抓取框架。
分布式爬虫管理平台,支持任何语言和框架的爬虫管理。分布式爬虫管理平台,支持任何语言和框架