正在下载 xxxx 正在保存 xxxx
就卡住了
这里写的是一个循环语句。
1
860670496 2017-08-11 14:08:00 +08:00
settings 里自带参数,比如:
DOWNLOAD_TIMEOUT = 300 如果觉得不能满足要求就写个继承 DownloadTimeoutMiddleware 的类就好 https://doc.scrapy.org/en/1.4/topics/downloader-middleware.html#module-scrapy.downloadermiddlewares.downloadtimeout 顺带蛋疼的话还可以利用下面这个类获取状态写进度条 class scrapy.downloadermiddlewares.stats.DownloaderStats |