收录于 VXNA 的 5 个网站
 |
LividRemember the bigger green 🏢 V2EX / Builder V2EX 第 1 号会员，加入于 2010-04-25 21:45:46 +08:00今日活跃度排名 2 具有管理社区的权限
|
livid.iweb.eth.limo
| 20241230 - vLLM + Qwen2.5-Coder-32B-Instruct 驱动的新的标签系统 V2EX 站点状态 • Livid • 3 小时 0 分钟前 • 最后回复来自 musi | 10 |
| Balatro.exe 游戏开发 • Livid • 11 小时 9 分钟前 • 最后回复来自 nrtEBH | 18 |
| google-genai / Gemini 2.0 的 Python 调用，实在是太简洁了
5 Google • Livid • 15 小时 45 分钟前 • 最后回复来自 crocoBaby
|
44 |
| NVIDIA Jetson AGX Orin 64GB Developer Kit 的一张官方产品照
3 NVIDIA • Livid • 1 天前 • 最后回复来自 malenie
|
41 |
| macOS 或者 Windows 上用什么方法可以让一个网站像这个视频里这样显示在一个无边框的窗口里？ 浏览器 • Livid • 12 天前 • 最后回复来自 korvin | 47 |
| txt.dev · 一个很精致有趣的设计 设计 • Livid • 8 天前 • 最后回复来自 ariza | 27 |
| Llama 3.3 70B Local LLM • Livid • 19 天前 • 最后回复来自 beginor | 21 |
| exo + MindMac = 完全跑在 localhost 上的接近 ChatGPT 的体验
1 Local LLM • Livid • 19 天前 • 最后回复来自 Livid
|
15 |
| GitHub Copilot for Xcode
2 GitHub Copilot • Livid • 61 天前 • 最后回复来自 ShinichiYao
|
4 |
Livid 最近回复了
4 小时 43 分钟前 回复了 Livid 创建的主题 › V2EX 站点状态 › 20241230 - vLLM + Qwen2.5-Coder-32B-Instruct 驱动的新的标签系统 |
7 小时 8 分钟前 回复了 Jinnrry 创建的主题 › 宽带症候群 › 求一个在线的 tcpping 网站 |
7 小时 20 分钟前 回复了 8600166 创建的主题 › V2EX › 回复留言需要满足注册 1002 天？什么原因？ |
已经调整，请再试试。
7 小时 22 分钟前 回复了 8600166 创建的主题 › V2EX › 回复留言需要满足注册 1002 天？什么原因？ |
谢谢反馈，是误伤。
我现在调整这条规则。
我现在调整这条规则。
8 小时 15 分钟前 回复了 Livid 创建的主题 › V2EX 站点状态 › 20241230 - vLLM + Qwen2.5-Coder-32B-Instruct 驱动的新的标签系统 |
8 小时 38 分钟前 回复了 Livid 创建的主题 › V2EX 站点状态 › 20241230 - vLLM + Qwen2.5-Coder-32B-Instruct 驱动的新的标签系统 |
另外一个考虑就是因为这里大部分的内容，估计和 Coder 的训练内容也是重合的。
8 小时 39 分钟前 回复了 Livid 创建的主题 › V2EX 站点状态 › 20241230 - vLLM + Qwen2.5-Coder-32B-Instruct 驱动的新的标签系统 |
@yangyaofei 也试过 Llama 和 QwQ-32B-Preview
Llama 会在输入是中文内容的情况，依然给出英文结果。
QwQ 的输出结果大部分情况下太自由发挥了。
Qwen2.5-Coder 的结果是最稳定的。
Google 的 Gemini 2.0 效果也很好，但是免费额度和频率限制不太够用。
Llama 会在输入是中文内容的情况，依然给出英文结果。
QwQ 的输出结果大部分情况下太自由发挥了。
Qwen2.5-Coder 的结果是最稳定的。
Google 的 Gemini 2.0 效果也很好，但是免费额度和频率限制不太够用。
10 小时 59 分钟前 回复了 Eleutherios 创建的主题 › 问与答 › 求推荐匿名博客 |
3 天前 回复了 huaweigg 创建的主题 › Local LLM › 通过雷电网桥连接三台 Mac（m1p/m2/m4）测试 Exo cluster 运行 Qwen 2.5 Coder 32B 结果 |
所以理论上，M2 或者接下来的 M4 的 Ultra 版本，在运行 LLM 的时候差不多可以有 4 系卡的算力。
3 天前 回复了 huaweigg 创建的主题 › Local LLM › 通过雷电网桥连接三台 Mac（m1p/m2/m4）测试 Exo cluster 运行 Qwen 2.5 Coder 32B 结果 |
RTX Ada 6000 x 2
Select Language