想写一个基于 DHT 网络的磁力链接爬虫,参考网上的实现写了一个。刚开始运行的时候还行,可是最近几天遇到了怪事,每次启动爬虫都获取不到 peer 发出的 announce ,添加调试信息发现获取的 ip 数一直保持在 1261 个左右,不再改变。如果超过 1261 这个数值就很快到达 10000 ,然后能成功获取到 announce ,刚开始以为是局域网的原因,所以转到了阿里云上用独立 ip 测试,发现了是一样的结果,也只能获取 1261 个左右 ip ,各位对此有什么见解吗?
另附上主要参考的 dht 爬虫代码:simDHT,各位也可是试下看是否遇到相同情况。
1
firemiles OP 测试发现每次 1261 个 ip 是一样的
|
2
firemiles OP 我发现把 simDHT 里的 ip 队列容量从 200 改成 20000 有一定效果,可以增加打破 1261 这个上限的概率。
|