最近发现一个很好的学习群,主要一起学习机器学习里面的 cuda 和性能相关的知识。 更新频度比较佛系,大概两周一个 lecture 。视频在此: https://www.youtube.com/@CUDAMODE 讨论区在 discord 上面: https://discord.gg/cudamode
涉及的知识例如:
学的东西也挺实用的,如果想做和 LLM 相关的,哪怕不会 C++,学学怎么写 triton kernel 也是很好的,这样也可以看懂一些流行的推理框架比如 vllm 是怎么写自定义算子加速的。
1
slayer 103 天前
感谢分享,最近想转这个方向,问问老哥现在做什么呢?
|
2
dayeye2006199 OP @slayer 做预训练
|
3
slayer 103 天前
@dayeye2006199 #2 6 啊,我准备看看推理方向的
|