V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
yuhuan87692
V2EX  ›  程序员

公司准备搭建一个本地 deepseek,请问是租阿里云的服务器还是组个机器合适?

  •  
  •   yuhuan87692 · 5 天前 · 384 次点击

    主要可能需要根据公司现有资料训练一下,然后让他生成文章,回答问题这些。 这些需求的话,32b 模型能满足吗?如果组个机器,双 2080ti 22g 版合适吗,还是需要更好点的配置?

    xjh1024
        1
    xjh1024  
       5 天前
    macmini m4pro 大内存就够你这个需求了,自己在 已有设备上先试一下 ollama 看多少 b 能满足你的需求
    给个参考,m4 + 32g 跑 16b 速度 一个人用可以接受
    catamaran
        2
    catamaran  
       4 天前
    阿里云的服务器可不便宜,如果确定要搭建可以考虑自己买台服务器托管到数据中心,特别是偏远地区的数据中心会比较便宜。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5951 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 02:34 · PVG 10:34 · LAX 19:34 · JFK 22:34
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.