如题，我想通过把本地的个人文档（主要是 pdf ，md ，doc 文档）同步到云端，创建一个在线的个人知识库。在网上看了一些方法，在云端创建，需要上传本地的文件，但是我本地文件比较多（几千个，主要是一些论文）且经常更新，不可能每次问问题都全部重新上传一次。在本地部署，只能使用参数量较小的蒸馏模型。并且个人认为大模型的未来还是在云端的，不太可能每个人都本地搭建一个。所以问题来了：
现在有没有什么平台可以使用满血的开源大模型（比如 deepseek ，千问等），同时提供一定的存储空间（不需要很大，几个 GB 就行）？这样能够把自己的文档同步到云端，并且模型自动读取，以此实现通过本地调用 api 就能得到一个满血的个人知识库。
 |
1
liu731 15 天前
可能你在说 RAG ，但是这个代价（ Money ）有点贵哦。
|
 |
2
nicholasxuu 15 天前
几 GB 的数据量，随便哪个云，云盘或者 oss ，都很便宜的，几乎可以忽略不计。
大模型如果是直接用开源的，估计很多云平台可以直接按量租，不便宜但也可能还能承受，至少不是买机器的天文数字。 这些数据怎么给大模型用是个技术问题， 作为 context 全部丢给它的话，token 处理量巨大。 用这些数据提前微调模型的话，需要一些更强机器的训练费用，最终效果未知。 是不是要搭配 RAG 使用？ |
 |
3
virusdefender 15 天前
阿里云百练之类的？
|
 |
4
jackey007 OP @nicholasxuu 您说的对，最大的问题是怎么把数据给大模型。
|
 |
5
loading 15 天前
AFFINE
|
 |
7
buynonsense 14 天前
我所知的
1 monica 可以免费用 deepseek,然后有一个备忘录功能好像是 md ，适合小笔记记录的 2 obsidian 的一个插件 https://github.com/brianpetro/obsidian-smart-connections |
 |
8
uyoungco 14 天前
lobechat
|
 |
9
musi 14 天前
难的是数据检索，目前仅靠向量和关键词检索并不能很好的召回数据
|
 |
10
huzhizhao 14 天前
难的不是怎么达到这个目的。
而是召回普遍比较烂 |
|
13
jackey007 OP @buynonsense 您可能理解错了，我要的不是记录，而是我给 ai 一堆材料，他能根据这些内容和我聊天
|
|
14
musi 14 天前
@jackey007 #11
你可以简单的理解为“针对用户的问题对知识库进行搜索的结果”，实际上目前的 RAG 对数据的检索基本达不到满意的效果。 所以从 GPT3.5 出来的时候一直在吹的 AI 客服之类的到现在还不能很好的落地，一方面是 LLM 幻觉严重，另一方面是企图用 RAG 降低 LLM 幻觉并没有取得很好的成效。 |
|
15
huzhizhao 14 天前
|
|
16
huzhizhao 14 天前
|
Select Language