nodejs 实现 磁力链接资源搜索 前端： vue 后端： koa2 + MongoDB + Elasticsearch
lueying · ssstk · 2018-06-20 10:12:00 +08:00 · 4494 次点击这是一个创建于 2347 天前的主题，其中的信息可能已经有所发展或是发生改变。
项目简介
- 此项目仅用学习交流技术使用 不做商业用途。
- 前端站点 项目效果预览 http://findcl.com
- 源码地址 https://github.com/ssstk/findcl
- 后端脚本 磁力链接获取 磁力链接解析 入库 Mongodb 定时同步 Elasticsearch
- 源码地址 https://github.com/ssstk/manget2torrent
- 无意读到 @keenwon 的 node 磁力搜索引擎的文章，感觉非常有意思，同时也谢谢能把项目分享出来 @keenwon 的项目地址antcolony 实现方式 还是有很大的不同 从获取磁力 到解析磁力
上线
- 2018-06-01 网站正式上线。域名是 http://findcl.com，
- 两台 VPS （都是某些云做活动买的 配置低）
- 第一台部署了 FindCl 站点本身（ koa2、nginx ）和单个节点的 Elasticsearch
- 第二台部署了磁力链接爬虫
- Mongodb 数据库在阿里云（目前有 300W 数据库，每日新收录 3W+的数据）
项目依赖
- DHT BT 资源爬虫 磁力链接解析 dhtspider
- 前端站点 torrent-stream
- Mongodb 数据库
- 中文搜索 Elasticsearch.js
- 定时执行 Mongodb 与 Elasticsearch 的数据同步
- koa2
- ...
存在的问题
- torrent-stream 解析磁力链接缓慢 需要好几秒 P2P 网络没有资源时还有可能解析不到
- dhtspider 爬虫 由于服务器带宽是 1m 所以跑到时间长就把带宽跑慢了 现在的做法就是搜集一些磁力链接暂停爬虫 解析完毕之后再启动爬虫
 |
1
oska117 2018-06-20 11:16:54 +08:00 via Android
不错，谢谢分享，研究一下
|
 |
3
isevenfox 2018-06-20 14:23:19 +08:00
star 一波～ 感谢
|
 |
5
freemagico 2018-06-20 22:38:29 +08:00
已 star，请问爬虫是从哪里爬磁链的？
|
 |
6
lueying OP @freemagico 这里是磁链到爬虫脚本 是加入 DHT 网络 获取到 hashinfo 附上 js 脚本地址 可以瞅瞅 跑跑试试
https://github.com/ssstk/manget2torrent/blob/master/src/spider/index.js |
 |
7
hezhile 2018-06-21 10:03:05 +08:00  1
搜索结果的排序依据是什么呢？
可以按照收录日期排序码？ |
|
8
lueying OP @hezhile 现在是 Elasticsearch 的自己查询的排序
现在正在添加最新收录排序 有问题欢迎建[issue]( https://github.com/ssstk/findcl/issues)交流。哇哈哈 |
|
9
lueying OP github issue 地址 https://github.com/ssstk/findcl/issues
|
 |
11
wanwan 2018-06-22 15:50:51 +08:00
这类网站比较多啊。
|
 |
13
artandlol 2018-06-23 08:27:13 +08:00 via iPhone
Docker 化的项目更受欢迎
|
|
15
artandlol 2018-06-23 11:35:35 +08:00
@sstzma #14 过奖了，小菜一枚。 配合 https://www.v2ex.com/t/383801 这个使用 味道更佳
|
 |
16
Desiree 2018-06-23 14:54:02 +08:00
请问这些数据是从哪里来的？
|
|
17
lueying OP @Desiree 是加入 DHT 网络 获取到 hashinfo 再解析 hsahinfo 获取 BT 种子信息 可以了解下 BitTorrent 协议
这里是磁链到爬虫源码 https://github.com/ssstk/manget2torrent/blob/master/src/spider/index.js |
|
19
lueying OP @duola ES 团队不推荐完全采用 ES 作为主要存储，缺乏访问控制还有一些数据丢失和污染的问题。ES 没有事务，而且是近实时。成本也比数据库高。但是它的优势在于索引后，方便搜索，这是 mongodb 等数据库干不了的。
所以，搜索的时候使用 Elasticsearch，进入具体的资源页面，就直接从 mongodb 里取数据。 当然 小项目玩玩 用什么感觉都无所谓了～ |
 |
22
jinzhe 2018-06-26 15:40:56 +08:00
搜索了下“藏”
|
Select Language