V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
leconio
V2EX  ›  分享发现

用树莓派跑了一下 deepseek

  •  
  •   leconio · 6 天前 · 1627 次点击
    树莓派 5 ,8G 内存,CPU 运算。
    跑了下 r1 1.5b 和 7b
    7b: 速度慢的要死,一条消息跑了快 5min ,大概 1s 出 2 个字。
    1.5b: 速度还可以,类似 o1 的速度(直觉上)。3 条消息以后,要思考挺久,几乎是不能用的状态。

    使用 ollama 推理
    综上,几乎是不能用的状态。
    9 条回复    2025-02-04 16:30:54 +08:00
    ddup
        1
    ddup  
       6 天前 via Android
    有毒,树莓派能干这事?
    ochatokori
        2
    ochatokori  
       5 天前
    大过年的还是太闲了
    zagfai
        3
    zagfai  
       5 天前
    1s 出两个字可以了。。。那还不错哦
    zooo
        4
    zooo  
       5 天前
    还是太闲了
    leconio
        5
    leconio  
    OP
       5 天前 via iPhone
    @ochatokori
    @zooo 哈哈哈哈
    leconio
        6
    leconio  
    OP
       5 天前 via iPhone
    @ddup jeston 应该能干,我好奇树莓派用 1.5b 模型能不能做到即时回复的标准,就试试。
    ddup
        7
    ddup  
       5 天前 via Android
    @leconio 嗯,派那点性能,能跑起来都很惊奇了 哈哈
    JackyYang
        8
    JackyYang  
       5 天前
    NB ~
    siyushin
        9
    siyushin  
       3 天前
    电子表上试试?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5267 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 07:57 · PVG 15:57 · LAX 23:57 · JFK 02:57
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.