它会走代理，注意把它列入 Direct

你能不能忍受发热的情况下它可能会降频，会卡住以及转圈圈，如果不能接受，那就扛不住。

@swmjjy #20 行吧，我承认对刚发的 GitHub 了解不多。

我刚拿你这个 GitHub 内容发给让 ChatGPT 询问了解；
它一开始表示不可能，所以我直接采纳了需要 3360G 这个答案；

后来表示你只要 3W 预算就能跑，我回去问 ChatGPT 表示你是不是算错了，它纠结了半天算了半天直到现在才告诉我它承认算错了，确实 PC 24G 显存和 300G 多内存，是理论上可以跑。

为我刚刚没理解你发 GitHub 答案抱歉。
@swmjjy #21

@swmjjy 所以我说的是提供这个搭建 672B 4Bit 设备的可能。
至于 API 还是美团上能不能点个外卖还是什么 8Bit ，我就想问问，「按能买到的 Mac Studio 512G 预算下，能做到跑大模型的有哪些 PC 或 专门设备？ 」你扯 API 云的是为了想答赢我吗？

好，你赢了。

——————

承认这个 Mac 能跑 672B 有多难？

@tanrenye 所以这是可选项，你当然可以买云服务器超强性能，然后自行买 Mac mini ，也可以的。

我说的是它能提供这个搭建的可能。
退一步讲，Mac 128G 能搭建 70B 就能足够满足使用的情况下，也没多少 70B 显卡能跑的吧？

所以我说的是：它能做，在一定预算内可选。
普通人有钱买 67K 块 Mac 512G ？也不是没可能。

我观察一些网友对 Mac 的想法有点奇怪。

我就问一下，按能买到的 Mac Studio 512G 预算下，能做到跑大模型的有哪些 PC 或 专门设备？ 2080Ti 魔改显卡交火配置 8 卡电脑？还是上百万的 H100 Nvidia 专业显卡服务器？

4Bit 精度量化部署本地的情况下只能唯一可选。
为什么？因为没有 8Bit 或 16Bit 公开。
（ 8Bit 应该能跑，但也太极限了）
我估计 70B 按 8Bit 也能跑？

DeepSeek 为何成功？是因为它降低了成本。
更有可能搭载在部署本地上跑。也使其在 Mac 上搭建更为可能。

Mac Studio M2 Max 64G 跑过 70B DS ，能跑。只是找不到实用性价值（都是用 API 和 ChatGPT 聊天）。

DS 问多了也会把我搞抑郁，不敢问了。所以 128G 肯定能跑。只是得问一下实用性的价值在哪里而已。iOS Craft 已经支持离线下载 DS 可以用 AI （估计 Mac 也能）。

后面估计可以玩更好玩的玩法，只是现在还没有。

感觉应该可以跟 Apple 举报，让这个 App 连同企业帐号全报废。

有公网就走公网，免费的确实有时候很麻烦的。

你们好吵。

Sony 电视机 或一些国产电视机都自带有安卓系统的。装这些国产在国产系统也完全没有问题。
实在没有安卓系统，也可以用投屏的方式去投 ATV ，1080P 投也够用了。
连这些都懒得弄，那你要么下个盗版咋的那些不就得了了。

哔哩哔哩 也能在 PS5 上安装和播放。这不是问题。
爱腾在国外有国际版 App ，也不是问题。

问题在哪？他们让吗？别太纠结这个能不能装的问题。
以上都装不了，你直接跑看盗版算了。

@buynonsense 统一内存，内存可当显存使。

@giganet
@hutng
用 Mac Studio M2 64G 的现身说法。
性能确实不够看，但用 Mac 的人搞大模型，估计就是纯粹用来下个 DeepSeek 之类的放本地跑跑。
我也用了 70B 跑，很流畅。秒出答案，速度跟现有的 ChatGPT 差不多。（我在终端问的，没有用 Docker 搭载的 OpenWeb UI ）。

我用了 DS 70B 和 QWQ 32B 测试，70B 稍慢一些但速度也正常，但是因为稍微敏感一点的问题（比如这网站为什么不能访问？）就直接说对不起我在学习。换了 QWQ 32B 测试，速度正常甚至感觉快一些。也能回答这个问题。

至于 GPU 是不是飙到 108 度，可能有风扇，60 度不到？
70B 占 40G 左右内存，32B 仅占满 15 ～ 20G 内存。
问了几个分钟了。

可能有些人喊有什么用。
千兆局域网，机械硬盘你只能最多 100MB/s
2.5 或 万兆局域网，机械硬盘能顶 200+MB/s 跑。

当然 SSD 能跑最多 1GB/s 的万兆。但是这又不在预算范围。

我上 10G ，因为现在全局域网已通 2.5G 。10G 也不在话下。

这是纯粹的伤敌一百，自损一万 。

绑卡支付？

并->别
@wclebb #36

@Qazxcv123 #35 你还能解析吗？
是的话我回退上一个版本。

我这次确实没有 ASUS ，并说有没有，它还自动给我关闭了。

只有 Mesh 组网是优解。