1
9hills 2014-01-06 16:13:46 +08:00
既然你每分钟整点在抓,为什么商品14:35发布了,你14:38才会抓到呢?
|
2
vbs 2014-01-06 16:22:53 +08:00
秒杀?
|
3
pythonfan OP @9hills 现在就是怀疑缓存的原因,导致前端搜索列表更新有延迟,否则没道理啊,每分钟我都去这个列表抓取一遍的,但是商品详情页面显示的发布时间跟我抓到的时间差了2,3分钟。。。
|
5
xmover 2014-01-06 17:24:38 +08:00
抓回来lz怎么解析入库?
|
10
tempdban 2014-01-07 00:30:05 +08:00 via Android
scrapy用的是django的orm
dgango 的orm会缓存数据 各种数据库驱动也会缓存数据 |
11
keven 2014-03-26 00:23:19 +08:00
采集频率要更快
|