有本地部署了 DeepSeek 671b 的大佬吗？用了啥配置？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

如题，自己试着本地部署 32b 的版本，就是巨慢，降智厉害，用不了几下不想用了，有大佬本地部署了满血版的吗，用的什么配置机器，能达到什么速度，跟官方对比如何，有没有能实现联网功能的？

3 条回复 • 2025-02-14 14:32:59 +08:00

Chism

10 天前 via iPhone

油管有人试过，需要 10 个英伟达 5090

selfless

10 天前

@Chism 部署的量化版本的吧？ 320GB 部署不了满血的

volvo007

8 天前

等下个月 2 张 A800 到了就开搞