paranoiagu 最近的时间轴更新 paranoiagu 最近的时间轴更新 |
paranoiaguV2EX 第 100352 号会员，加入于 2015-02-26 13:10:48 +08:00 |
| 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样 Local LLM • paranoiagu • 5 天前 • 最后回复来自 tool3d | 7 |
| N 卡又贵又断货，买块 AMD Radeon RX 7900 XTX 凑合一下怎么样？ 硬件 • paranoiagu • 43 天前 • 最后回复来自 xiaogui | 24 |
| 美团、大众点评的 app 风控现在这么严格吗？ 问与答 • paranoiagu • 143 天前 • 最后回复来自 iminto | 10 |
| 跑 SolidWorks 需要什么样的配置？ 硬件 • paranoiagu • 235 天前 • 最后回复来自 ISVStar | 4 |
| 明御 WEB 应用防火墙 如何找回密码？ HTTP • paranoiagu • 249 天前 • 最后回复来自 paranoiagu | 3 |
| 荣耀 magic6 pro 还是 小米 14 pro 或其他？ Android • paranoiagu • 317 天前 • 最后回复来自 paranoiagu | 21 |
| K40 刷的 PixelOS 更新版本后，大量国内银行类 app 挂了，这算是谁的锅？
1 Android • paranoiagu • 89 天前 • 最后回复来自 paranoiagu
|
15 |
| 券商外包 中级 Java 内推 酷工作 • paranoiagu • 2024-03-14 17:11:12 PM • 最后回复来自 paranoiagu | 7 |
| Freenom 上注册的 .cf .tk 域名，今天忽然不能解析了 域名 • paranoiagu • 2024-02-13 15:46:12 PM • 最后回复来自 Remember | 11 |
| 过年了，免不了走亲访友，有啥可以买的呢？ 问与答 • paranoiagu • 2024-01-31 11:58:18 AM • 最后回复来自 paranoiagu | 13 |
paranoiagu 最近回复了
2 天前 回复了 kisshere 创建的主题 › 硬件 › 国内 4090 显卡 96G 魔改版什么时候上市？ |
@cat9life 怎么可能
2 天前 回复了 hades97 创建的主题 › Windows › 千万不要把 windows 唯一的管理员账户禁用！ |
今天复制粘贴差一点把所有内核都清掉，含在用的那个🌚
5 天前 回复了 lisongeee 创建的主题 › 分享发现 › GKD 上架 Google Play 封闭式测试邀请 |
Z3UueWFuZmVuZ0BnbWFpbC5jb20=
谢谢
谢谢
9 天前 回复了 xz410236056 创建的主题 › 职场话题 › 被强迫写鸿蒙怎么搞 |
@cgpiao 应该没有适配，你这个可能不是纯血鸿蒙的文档
9 天前 回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样 |
9 天前 回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样 |
上面修正--------ollma ---> ollama
9 天前 回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样 |
发现 unsloth/QwQ-32B-GGUF 、unsloth/gemma-3-27b-it-GGUF 也都支持 ollma ，然后再拉下来跑了一次，还是 llama.cpp 完胜。
都是 Q4_K_M 量化版本。
@parad 温度调到 0 了。llama.cpp 是通过--n-gpu-layers 64 参数，全部加载到 GPU 了，ollama 自动的。看 GPU 占用，应该也是全 GPU 了。
都是 Q4_K_M 量化版本。
@parad 温度调到 0 了。llama.cpp 是通过--n-gpu-layers 64 参数，全部加载到 GPU 了，ollama 自动的。看 GPU 占用，应该也是全 GPU 了。
11 天前 回复了 qazwsxkevin 创建的主题 › 硬件 › 似乎是没有 NVME（M key 接口)转 SATA 接口的产品 |
nvme 转 sata 是需要芯片的
11 天前 回复了 xtx 创建的主题 › 小米 › 不争吵，也不站队，理性且客观地讨论 su7 这件事。 |
这种改道对向车道的修路，应该是几公里外就开始放雪糕桶引导车流才对。不知道实际情况怎么样。
Select Language