@lithiumii 还真不行，个人用其实 2x3090 最划算，Mac 的问题在于速度实在是太慢了。
别看 NVIDIA 的显存不大，但个人项目如果模型不大，全参数训练完全没问题。如果模型大的话，NVIDIA 有 bitsandbytes 和 flash attention 这些生态，又能省显存又能提速。

用 Lora 、Dora 这类方法来微调模型的时候，基础模型的权重其实可以保持在量化状态，只要能推理就行。但 Mac 用不了 bitsandbytes ，反而需要巨大显存（内存）+缓慢的速度。

哪怕能用 MPS 后端来跑（无论上层框架是什么）且没有兼容问题，对于训练任务，提速效果都不好。一般也就比 CPU 跑快 1~2 倍，苹果的 ANE 是完全用不上的（好像是因为不支持反向传播，我不太确定）。

大内存的 Mac 几乎就是 llama.cpp 推理专用机……如果只用过这个，确实会觉得在家里训练不了什么模型。

至于大公司的例子，他们都有一大堆 A100 （ A800 ）、H100 （ H800 ），当然不会用消费级显卡来跑，而且 NVIDIA 的许可协议在几年前就专门规定禁止将消费级显卡运用于数据中心等用途了。这不代表普通消费者不能这么干。