存储大量的文件(每个文件 10Mb 左右)该选用哪种数据库?有哪些可选方案,优缺点是什么? 希望大家不吝赐教
1
paulw54jrn 2016-08-31 17:56:17 +08:00
如果用云的话就是存 S3(或对应的服务上), 然后 meta data 存数据库用于检索.
自己搭的话可以 HDFS, 可以 NFS + RDBMS |
2
VeryEase 2016-08-31 18:01:07 +08:00
二进制文件为什么要存数据库.... 如果真要这么做的话,可以考虑下 mongodb , 以前做过某款产品,开发版就是这么干的,后来放弃这种做法了。
|
3
lhbc 2016-08-31 18:04:48 +08:00 via Android
身为程序员
“大量”这种词就不应该说 |
4
e8c47a0d 2016-08-31 19:14:53 +08:00
为什么要存在数据库里……
|
5
hanxiV2EX 2016-08-31 19:21:47 +08:00 via iPhone
存文件,数据库只存路径
|
6
zhuangzhuang1988 2016-08-31 20:18:41 +08:00
|
7
whatot 2016-08-31 20:32:12 +08:00
在几乎所有情况下,都是应该减少数据库内部的数据量。
你这样使用数据库完全就是在浪费数据库的能力。 存文件还是用对象存储,元数据放数据库。 |
8
htfy96 2016-08-31 20:34:39 +08:00
建议 GlusterFS 。 mongoDB 稳定性。。 https://news.ycombinator.com/item?id=9912842
|
9
purrgil 2016-08-31 20:45:15 +08:00
什么叫大量?
2T 硬盘就叫大数据? |
10
lcsoft 2016-08-31 21:03:04 +08:00
很好奇,除了要索引文件内容做全文搜索,还有哪些原因需要把文件塞到数据库里?
|
11
kingoldlucky 2016-08-31 21:11:26 +08:00
对象存储 ~~ 文件和元数据分开放 现在大互联网公司都这么干 对于海量小文件也适用
|
12
lianxiaoyi 2016-08-31 21:15:51 +08:00 via Android
这种东西毫不犹豫丢阿里云 oss 或者七牛啊!然后数据库装唯一标识!用数据库存储,你考虑过数据库带宽的感受没?
|
13
tjxjj 2016-08-31 21:20:13 +08:00
真和数据库压根没啥关系。数据库最多放个索引和元数据,核心还是你这些文件是否要考虑分库,分目录和带宽(如果经常要用的话,如果是图片还需要创建低分辨率的图片等等)
|
14
Powered 2016-08-31 21:23:05 +08:00 via Android
有目录的文件夹->自建分布式文件系统
没有目录的单个文件->对象存储 |
15
carmark 2016-08-31 21:32:31 +08:00
[seaweedfs]( https://github.com/chrislusf/seaweedfs)
|
16
msg7086 2016-08-31 23:20:59 +08:00
文件系统就是一个数据库。
|
18
dsg001 2016-09-01 10:04:49 +08:00
几千万<100K 文件硬盘扛不住,压缩后扔到数据库
|
21
lhbc 2016-09-01 12:41:56 +08:00 via Android
|
22
efurture 2016-09-01 13:48:41 +08:00
文件系统,数据库存路径
|