Apple 发布新的机器学习框架 MLX

[Rorysky]

https://github.com/ml-explore/mlx

是一起维护 pytorch 不方便？

自主知识产权，旨在打破 Facebook pytorch 卡脖子的现状？

大家还知道其他信息么？

[nomagick]

Torch 卡没卡 Apple 脖子我不知道，但 Apple 可卡的是用户的脖子

[idealhs]

@nomagick 😅我寻思没人逼谁买苹果吧

[zealotxxxx]

这里面的东西，与其说是跟 pytorch 冲突，还不如说是跟 sklearn 重复

[AA5DE3F034ACCB9E]

@nomagick 你要是这么想，百度、vivo 啥的，也都在卡用户脖子？

[565656]

别惦记你那逼生产力，谁特么用 4060 跑机器学习，直接扔点钱给 R 星，让 GTA6 上 m3max 首发，带动的销量妥妥的

[aeli]

卡脖子的是 nv 吧，反正几个大厂里，就 Apple 没有批量买 NV 家的显卡，以前的仇恨带到 ai 时代了。

[Glauben]

@565656 #5 GTA6 25 年出，都 m5 了，我觉得有戏。不上 PC 的情况来看，上 mac 可能都 27 年了，m7 了。可以一上

[SkywalkerJi]

apple 那芯片性能真的跑得动训练吗

[cwyalpha]

Transformer language model training.
Large-scale text generation with LLaMA and finetuning with LoRA.
Generating images with Stable Diffusion.
Speech recognition with OpenAI's Whisper.

大模型、SD 、语音都支持了，个人玩家是差不多够用了把

[ShadowPower]

PyTorch 卡 Apple 脖子？
目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
把 PyTorch MPS 后端做得更完善一些，比重新开发一个框架有用多了。

用这个框架，写的在 Mac 上跑通了，但是性能不太够，想部署到 NVIDIA 显卡上训练，要重新写一遍？
有多卡/多机支持吗？

[ShadowPower]

目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
把 PyTorch MPS 后端做得更完善一些，比重新开发一个框架有用多了。

用这个框架，写的在 Mac 上跑通了，但是性能不太够，想部署到 NVIDIA 显卡上训练，要重新写一遍？
有多卡/多机支持吗？

PyTorch 并不会卡 Apple 脖子。如果自身没有优势，兼容已有的生态才能活下来。

[ShadowPower]

突然发现发重复了，补了一句

[wateryessence]

MLX is a NumPy-like array framework designed for efficient and flexible machine learning on Apple silicon, brought to you by Apple machine learning research.

[Pierson]

感觉像明年 AI 相关更新的副产品。如果是真的可以期待明年的新系统有：LLM Siri ，Generaating Image （相册？新 app ？） Speech recognition （更好的听写？自动字幕？）

[DIMOJANG]

我感觉这个项目大概率是 Apple 内部项目用的框架，开源出来也只是为了方便开源社区借鉴里面的细节（比方说完善 MPS 后端）

[APEC]

厨子怕是还有啥大招要出吧

[neopenx]

看起来目前只是一个跑一些简单的 metal compute kernels 的练习作品，连 MPS routines 都没 dispatch
Python API 山寨 PyTorch 不说，还相当简陋。

[LeonParker]

pytorch 是什么情况不太清楚
但现在 tensorflow 的 metal 支持显然就只是勉强够调试，离能用还差很大一截😅

[qweruiop]

问题是，他 mac 又没有服务端的产品。。。开发者把这个框架调通了。。。然后呢？
总不可能买一堆 ultra 或者笔记本丢机房的嘛。。。

[bailitusu]

`import mlx as torch`