看到 llama.cpp 项目支持 AMD GPU ( https://github.com/ggerganov/llama.cpp/blob/master/docs/build.md#hip )
AMD 官网看到支持 https://rocm.docs.amd.com/projects/install-on-windows/en/latest/reference/system-requirements.html
东哥那边查一下价格,24G 显存不到 7~8k 。就是不知道跑起来效果怎么样。
![]() |
1
liu731 7 天前
4090 宝刀未老
|
![]() |
2
terence4444 7 天前
马上 9070 就要宣布了,如果可以的话稍微再等一下看看。
|
![]() |
3
lusi1990 7 天前 via Android
凑合
|
![]() |
4
by 7 天前 via Android
AMD 显卡在 Windows 系统只配当个亮机卡
|
5
paranoiagu OP 谢谢各位,别的网友继续继续
|
![]() |
6
txx 7 天前
我用 7900xtx 半年了
优点是显存大,能跑很多 20G+ 的模型了,比如各种 32b ,打游戏也没问题,确实比同价位的 4080S 香 缺点是无论 Linux 还是 Windows ,掉驱动情况严重,一旦掉驱动就要重启,Linux 下因为显卡驱动崩掉了,重启还会 hang 住,需要硬重启。 如果你只是拿来玩玩那没啥问题,如果追求 SLA ,那还是算了 |
7
paranoiagu OP @txx 谢谢,掉驱动有点怕啊,支持多卡后跑 70B 模型吗?
|
![]() |
9
javazero 7 天前
同问,配好了 9800x3d ,5090 抢不到。想找个卡过渡一下
|
![]() |
10
coderlxm 7 天前 via Android
我用了一年多从来没掉过驱动,每天高强度打游戏。
|
11
paranoiagu OP 刚才草草在 7840HS 笔记本上试了一下 780M ,跑 deepseek-r1:7b ,13token/s ,速度可以。但是应该没法跑更大模型了。
|
12
paranoiagu OP 两张 7900xtx ,应该可以跑 deepseek-r1 70B 模型吧
|
![]() |
13
txx 7 天前 via iPhone
@paranoiagu 70b 直接用 groq 啦
|
![]() |
14
2000wcw 7 天前
79XTX=湊合.......🤣🤣🤣
|
![]() |
15
secondwtq 7 天前
确实可以跑,效果也凑合。
你如果只是想跑 LLM 的话也可以买 3090 。 |
16
xz410236056 5 天前
@by 你多久没用 A 卡了??? 7900 XTX 跟 4080s 性能差不多。
|
![]() |
17
endsock 3 天前 via Android
从 4080s 换到 7900xtx ,非光追的情况,游戏方面的优势比 4080s 强,afmf 超棒,大模型 ds 32b q5 量化随便跑,生成速度很快,效果很不错。现在 wsl 也支持 pytorch rocm 了,模型训练也没有问题,6000 块买的,兼顾了跑 ai 和游戏,还要啥自行车,就算 9070 发布,16g 的显存可跑不了 32b ,那跟 4080s 这种的没啥区别,对大模型来说就是残废
|
![]() |
18
endsock 3 天前 via Android
上面说的掉驱动问题根本不存在,拿到卡第一件事重新安装系统,如果有 intel 核显的,不要安装 intel 核显驱动,并在断网状态下把 windows 自动安装驱动的功能关掉,然后联网 amd 驱动直接安装最新版本并更新到最新版本,非常稳定,所有掉驱动的都是因为系统残存 nv 驱动或者存在 intel 核显驱动造成的,amd 对不同显卡品牌的驱动兼容性做的不好
|
![]() |
19
endsock 3 天前 via Android
做好上面的步骤之后,上 b 站看降压超频的教程,按照教程调试好电压与频率,这下发热和耗电的问题也解决了,调试好之后会发现 xtx 真是一张好卡
|
![]() |
20
endsock 3 天前 via Android
最后要注意,电脑的电源最好是 atx3 的,如果不是电源要大于等于 1000w
|
21
paranoiagu OP @endsock 谢谢反馈,6K 性价比不错,可惜目前涨价了
|
![]() |
22
xunmiqun 2 天前
@paranoiagu #11 680m 也可以😌
|
23
paranoiagu OP @xunmiqun 我试过 780M ,确实可以
|