@lyping 如 2L 所说，拆成问答对，越细越好。这个工作量很庞大。
RAG 的效果依赖于检索，如果每次都能检索出少量且精准的内容，一起提供给模型参考，效果会好一些。

大多数领导想要的：资料扔给大模型让他学，然后多了个内部专家给你们用。
一般人实际能实现的：检索资料库，检索结果追加到提示词里，一起扔给大模型。
前者实际操作需要微调训练，成本巨高，技术难度也大，最终效果不一定好。对的数据集要求很高。
后者实际是个退而求其次的思路，搞 RAG ，成本低，容易操作，但实际并没改变大模型原本的性能，每次都得引用，而且没“记忆”，同时搞这个事情对资料库的整理要求极高，实际性能也不咋地，大概率搞了之后效果稀烂。
结论：别对 AI 期望过高。

就算没 AI 加持，卷技术也没前途

这有啥好劝的，不痛一次不长记性。
痛一次之后，只会嫌备份少了。

不是，你们以前没用过 gr ，gr 当初为啥死了？

@BeautifulSoap 所以，3000 多的有推荐的吗？

这有啥可悲不古的？买二手别老想着捡漏，真有漏能轮得到你？但凡多刷几条，你也该明白正常价是多少。

1T 正常二手盘价格应该在 300 左右，这价格能坑死你。

@Variazioni 多尝试呗。多带出去和别的小朋友一起玩，会对别的小朋友的玩具感兴趣不？总有发现的。

别的玩具呢？先从简单的玩具开始玩啊，多搞点玩具。巴掌大的小车，俺都买了几十个了，一套一套买，还有各种积木，娃都喜欢玩，不需要追大牌，娃对玩具喜新厌旧，只要是新的，都喜欢，1 块钱的竹蜻蜓都能玩好几天。还有其他各种玩具，遥控车、吸盘枪、毽子、甚至魔方，娃都喜欢，关键是，每个新玩具最初都得陪娃一起玩，别期望能玩的溜，技巧什么的一点点教，不教也行，只要玩开心了就好。有时候，给他叠个纸飞机，娃都能高兴的玩半天
我家娃还没到四岁，现在游戏就玩 3 个，马里奥赛车、马里奥排队，还有健身换，娃都 160 级了，我才 22 级。。。马里奥赛车我们经常一家三口一起玩，从之前一直第 12 名，到现在能跑到第五名，当然了，他不在乎名次，只觉得好玩。
每次有新玩具，娃都超级开心，睡觉都要抱着睡，看着娃开心，比啥都强。

受限于带宽，丐版 16G 够用了，跑个 7B 嗖嗖的，11B 也能跑。
再大的模型，增大内存 M4 虽然也能跑，但那个速度，就开始难以忍受，远不如独显。

俺觉得，WSL 挺好用的。网络、驱动啥的，都不用折腾。

补充：关键还是考虑下你需要多大显存。
16G 显存，可以选 4060ti ，贵一点的 4070tis 也可以，或者你等 50 系也行。再便宜，就是可选 v100
24G 显存，3090 其实也不错，带宽够高。
搞 CPU 推理，内存带宽上不来，都是邪路，别折腾了，就选 N 卡。

@nocae 我在用双卡 2080ti 22G ，32B 模型大概每秒 20+token 吧，再大就没试了。日常用的最多还是 14B 模型。其他至少还没遇到不支持的东西。我还在用 6 代平台，是旧电脑升级上来的，升级了内存、电源、主板、显卡、机箱。总共花了不到 6k 吧。你要上新平台双卡 2080ti ，7K 应该也能搞定。

那句话怎么说来着？活该你看正版。

感觉精力全花在折腾上了，划不来划不来。