51
Dev开发社区
首页
文章
问答
工具
搜索
登录
注册
#AutoThrottle
scrapy的自动限速(AutoThrottle)扩展
该扩展能根据Scrapy服务器及您爬取的网站的负载自动限制爬取速度。更友好的对待网站,而不使用默认的下载延迟0。自动调整scrapy来优化下载速度,使得用户不用调节下载延迟及并发请求数来找到优化的值。用户只需指定允许的最大并发请求数,剩下的都交给扩展来完成。在Scrapy中,下载延迟是通过计算建立TCP连接到接收到HT...
代码星球
·
2020-04-06
scrapy
自动
限速
AutoThrottle
扩展
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他