V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
song135711
V2EX  ›  Local LLM

帮忙看看这个 DIY 装机配置大模型入门怎样

  •  
  •   song135711 · 2 天前 · 851 次点击
    • CPU 1099

    英特尔 | i5-12600KF

    • 显卡 1999

    七彩虹( Colorful )战斧 GeForce RTX 3060 DUO V2 12G L 1777MHz GDDR6 电竞游戏光追电脑独立显卡

    • 主板 1299

    华硕 | TUF GAMING B760M-PLUS WIFI II

    • 内存 849

    阿斯加特( Asgard ) 32GB(16Gx2)套 DDR5 6000 台式机内存条 RGB 灯条-女武神·瓦尔基里Ⅱ代 [ C28 ] 极夜黑

    • SSD 硬盘 769

    致态( ZhiTai )长江存储 2TB SSD 固态硬盘 NVMe M.2 接口 Ti600 系列 (PCIe 4.0 产品)

    • 电源 154

    大水牛( BUBALUS )额定 650W 劲强 650 台式电脑主机电源(支持 4060 显卡/主动式 PFC/12CM 风扇/智能温控/支持背线)

    • 机箱 99

    长城( Great Wall )本色 K13 升级版电脑游戏机箱( ATX 主板/240 水冷位/U3/玻璃侧透/宽体/8 风扇位/4080 显卡)

    17 条回复    2025-03-06 12:05:18 +08:00
    ipfox
        1
    ipfox  
       2 天前
    游戏机还是大模型鸡啊
    song135711
        2
    song135711  
    OP
       2 天前
    @ipfox 想用来入门大模型
    XuDongJianSama
        3
    XuDongJianSama  
       2 天前   ❤️ 1
    14600kf+微星 z790-p ,也就 2300
    后面缩肛了就降点频率

    你买的矿卡吗,30 系默认矿。如果就是要买矿卡可以买卡诺基,翻新矿质保 2 年

    内存可以换金百达能便宜 200
    CraftDeadMRC
        4
    CraftDeadMRC  
       2 天前
    如果想再扣出一点成本,3060 换成 2060 12G 版(差距不大但省很多),12600kf 换成二手散片。主板换成铭瑄的(不换也行)。固态还是换成 TiPlus7100 吧,我记得 Ti600 是 QLC (不是不能用就是没啥性价比)。电源可以换个好点的,毕竟可以不止一台机用(假如需求继续提升,前面的都得换但是电源好歹可以不用换)
    12G 看你想用什么模型,对于现在的很多应用来说都太小了,只是入门可以挑丐的,反正深入了都得换
    CodeAllen
        5
    CodeAllen  
       2 天前
    u1s1 ,这个配置不如看看闲鱼二手整机
    我去年底 4200 出的,12600k+z690+64G+2t+3070Ti+750 瓦先马黑洞电源
    3060 太老了,如果图显存的话不如 Intel 的 A770 有 16G ,如果要 CUDA 还不如 4060 ,8G 和 16G 都跑不了多大模型,差别不大。
    或者看看淘宝的蝰蛇峡谷小主机,12700h 性能约等于 12600k ,带了 16G 显存的 A770m ,准系统 5000 左右吧,自己加内存和固态就能用了。
    XerWandeRer
        6
    XerWandeRer  
       2 天前   ❤️ 2
    你看看我最近出的一台主机(也是买来“入门大模型”的

    后来就发现:
    1. 消费卡本地部署的模型基本上没啥用,我后来为了一些特定的任务做了些微调。但是其实线上租用的解决方案也足够好用了(要啥卡都能有
    2. 还是打游戏好
    3. 生图/视频可能还是自己有一台方便,但即使是我的 4070TiS 16GB 显存,Flux 也很艰辛,更别提视频模型了
    cbythe434
        7
    cbythe434  
       2 天前   ❤️ 1
    入门大模型❌
    入门 3A✅
    JensenQian
        8
    JensenQian  
       2 天前
    显卡换 4060 ,
    主板可以换个插点的,intel 可以上便宜的 d4 内存
    电源换个好点的
    至少五毛钱一瓦,你这个太吓人了
    magicfield
        9
    magicfield  
       2 天前
    显卡可以考虑 4060ti-16G
    maximdx
        10
    maximdx  
       2 天前
    大模型入门为何不适 mac mini 呢?
    shijingshijing
        11
    shijingshijing  
       2 天前   ❤️ 1
    主板贵了,换 MSI 或者技嘉的,内存容量比速度重要,真的做大模型,省下来的钱全部加到显卡上去,显存要大。
    再抠一点,电源换航嘉的吧,估计价格差不多,但比大水牛应该更靠谱,再抠一点不如直接二手品牌机的大功率电源,台达、LiteOn 代工的那种。
    song135711
        12
    song135711  
    OP
       1 天前
    谢谢各位老哥给的建议,决定上 4060ti 。
    但是溢价挺多的,就找了 pdd 上的七彩虹的硬件旗舰店买了整机的硬件,小计 7200.
    i7 14700KF + RTX 4060Ti 16G + DDR5 主板 + 16G 内存 + 1T SSD + 水冷散热 + 机箱
    XuDongJianSama
        13
    XuDongJianSama  
       1 天前
    @song135711 凄惨红的主板、内存、电源啥的,都挺丐的,但如果店铺靠谱给保也行,主板是 z 字开头的板吗,不是 z 板的话后续不能调 cpu 频率可能直接用不了,147 大概率用久了是要缩肛的,16G 内存大部分情况也够但上 32 也加不了多少钱
    catamaran
        14
    catamaran  
       1 天前
    @song135711 #12 i7 配 16g 内存,2025 年怎么也得 32 起步吧
    HojiOShi
        15
    HojiOShi  
       1 天前
    CraftDeadMRC
        16
    CraftDeadMRC  
       23 小时 48 分钟前
    @song135711 如果想大换,建议换 AMD ,intel 在 13 代开始全部阉割 avx512 ,12 代仅有编码较前的可以关小核开 avx512 。比如 vllm 、llama.cpp 都有支持(虽然没有也无伤大雅,但 14 代属实不合适……)
    假如愿意用 linux ,或者 windows 开 wsl (用 ollama 我记得可以直接 win ),然后用 rocm 的话,A 卡也不是不行
    真的图个 16G 显存,最近有 MI50 16G 计算卡六百几,约等于 3060 ,而且有显示输出。
    (当然真心想要很强图形性能可以当我前面都在放屁)
    song135711
        17
    song135711  
    OP
       12 小时 41 分钟前 via iPhone
    谢谢老哥们提醒,内存会再买块 16g 的。有三年质保
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1672 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 16:47 · PVG 00:47 · LAX 08:47 · JFK 11:47
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.