V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
Milicense
V2EX  ›  问与答

小白请教下 deepseek 本地部署有什么优势吗?以及个人一点设想

  •  
  •   Milicense · 2 天前 · 673 次点击

    Q1:

    看网上有博主介绍可以在本地部署 deepseek 来训练模型什么的,于是很好奇本地部署和像 chatgpt 一样直接在线使用有什么特别的好处吗?

    我大概了解了一下,比较多被提及的好处是隐私性,还有什么其他好处吗?

    Q2:

    本地部署后的训练模型的意思是像 chatgpt 里显示那样,与他对话越多,ai 越能更了解我的意图,以后能更快更准确的为我做出回答的意思吗?

    那如果是这样的话,我看 deepseek 本地部署最少要求 16G 显存,那么一张 4060ti 16G 起步或者 4070 搞一套也就是大几千,我比较喜欢音乐,我不断的给他听我喜欢的音乐告诉他我喜欢的原因,以及我不喜欢的音乐和不喜欢的原因,长此以往,他是不是可以为我挑选更符合我口味的音乐,并且与我探讨对某音乐的不同看法? 音乐搭子?

    我记得可能一年左右我发过帖子问过做个自己的 ai 这种,大家说光硬件要 6 位数起步的费用,如果我上面说的成立,那岂不是可以做个自己的 ai 兴趣搭子了?

    cuebyte
        1
    cuebyte  
       2 天前
    你的问题很多,但都给人比较非技术的感觉,不知让人从何说起。

    如果不打算深入研究的,还是直接用网页版吧。
    Milicense
        2
    Milicense  
    OP
       1 天前
    @cuebyte #1 因为我就不是做技术的,只是个单纯的数码爱好者,小白😂
    yshtcn
        3
    yshtcn  
       1 天前 via iPhone
    问题 1:本地部署就是不会断线、免费使用、可调使用参数、并且能发挥 100%的能力。在线就是规模大,但无论是网页端、应用端还是 api 都会面临审查和额外措施,只是程度的区别。

    问题 2:无论哪种,模型都不会越用越了解使用者,模型依然是固定的程序。所有大模型的记忆功能都是第一个回答中的额外措施的一部分,即它保存了之前的对话或者要点
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1637 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 01:08 · PVG 09:08 · LAX 17:08 · JFK 20:08
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.