V2EX › Livid 的所有回复 › 第 2 页 / 共 1425 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8 9 10 ... 1425

❮

❯

6 天前

@344457769 谢谢反馈，这个收录已经去掉。

如果你之后看到有其他博客有类似的行为，请告诉我，我会去掉收录。

6 天前

@344457769 收到，我现在去看一下。

8 天前

@nrtEBH exo 如果在内网的几台机器上启动，会自动组成一个群集。

只是，用一堆小机器跑超大模型这件事情可能本身就比较扯。

11 天前

11 天前

@drymonfidelia 那个账号已经被彻底 ban 。

11 天前

@xqzr 5 楼的账号已经被彻底 ban 。

11 天前

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

11 天前

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

这里有 128G 的 M4 Max 用户么，谁能试试 Q8_0 在 M4 Max 上能有多少 t/s

11 天前

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

@TonyG
@vfx666

2021 年的 M1 Max MBP 64GB 内存。

LM Studio 会自动检测能跑的版本 Q3_K_L：

https://i.v2ex.co/z8K8Ox6T.png

实际跑起来之后大概能有 3.8 t/s：

https://i.v2ex.co/fjzZO5m6.png

12 天前

@lyl2016
@vsitebon

6 楼的账号已经被彻底 ban 。

13 天前

@humbass
@lisongeee

1 楼用 AI 回复的账号已经被彻底 ban 。

13 天前

@Gears 谢谢，那个用 AI 回复的账号已经被彻底 ban 。

1 2 3 4 5 6 7 8 9 10 ... 1425

❮

❯