首页
注册
登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请
登录
广告
V2EX
›
程序员
请教关于分布式 scrapy, scrapy-cluster 和 scrapy-redis 的问题
yangyaofei
·
yangyaofei
·
2018-05-31 14:58:00 +08:00
· 2355 次点击
这是一个创建于 2221 天前的主题,其中的信息可能已经有所发展或是发生改变。
最近需要用分布式爬虫,准备用 scrapy 找到两个项目: scrapy-cluster scrapy-redis
我看了半天还是没有搞懂
scrapy-cluster 上面 engine 是怎么负载均衡的?手动控制?scrapy-redis 上面 engine 放在一台机器上?还是放在多台机器上的?
除了 1 以外,这两个的区别是后者仅仅是用了 redis 来分配需要请求的地址,而前者还将需要存储的结果放在 kafka 上了?
如果 scrapy-redis 只是在一台机器上 engine,那么存下结果(准备存入 hbase)不是又成了瓶颈了,还是要写一个队列分发给所有机器来存?
我可不可以用 scrapyd 来控制 scrapy-redis+scrapy?
Scrapy
机器
engine
scrapy-redis
2 条回复
•
2018-05-31 16:21:18 +08:00
1
hooopo
2018-05-31 15:24:35 +08:00
可以
2
yangyaofei
OP
2018-05-31 16:21:18 +08:00
@
hooopo
是说 4 可以么?请问 scrapy-redis 是单机 engine?
关于
·
帮助文档
·
博客
·
API
·
FAQ
·
实用小工具
·
2313 人在线
最高记录 6679
·
Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 23ms ·
UTC 12:12
·
PVG 20:12
·
LAX 05:12
·
JFK 08:12
Developed with
CodeLauncher
♥ Do have faith in what you're doing.