#AutoThrottle

scrapy的自动限速(AutoThrottle)扩展

该扩展能根据Scrapy服务器及您爬取的网站的负载自动限制爬取速度。更友好的对待网站,而不使用默认的下载延迟0。自动调整scrapy来优化下载速度,使得用户不用调节下载延迟及并发请求数来找到优化的值。用户只需指定允许的最大并发请求数,剩下的都交给扩展来完成。在Scrapy中,下载延迟是通过计算建立TCP连接到接收到HT...