首页 注册 登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  paranoiagu  ›  全部回复第 1 页 / 共 52 页
回复总数  1025
1  2  3  4  5  6  7  8  9  10 ... 52  
❮ ❯
14 小时 38 分钟前
回复了 multiarrow 创建的主题 › 程序员 › 大家是否不太需要 Java 版本的 AI 开源项目？
关注，
1 天前
回复了 darryZ 创建的主题 › 汽车 › 今年有买车计划，但不是很急，可以先花五六千买辆二手车，然后走国补吗？
还有一个问题：明年还送绿牌吗？
1 天前
回复了 paranoiagu 创建的主题 › OpenAI › [分享] 分享一个抓取微博热搜榜单，并用 AI 解释具体内容的 telegram 频道
@faker5276 https://t.me/xhqcankao
1 天前
回复了 paranoiagu 创建的主题 › OpenAI › [分享] 分享一个抓取微博热搜榜单，并用 AI 解释具体内容的 telegram 频道
@fx0719 ollama
1 天前
回复了 paranoiagu 创建的主题 › OpenAI › [分享] 分享一个抓取微博热搜榜单，并用 AI 解释具体内容的 telegram 频道
@fx0719 自己 ollma 部署的。
1 天前
回复了 paranoiagu 创建的主题 › OpenAI › [分享] 分享一个抓取微博热搜榜单，并用 AI 解释具体内容的 telegram 频道
@AndrewHenry 观察了 2 天，纯粹娱乐一下。大部分都是八卦。
4 天前
回复了 kisshere 创建的主题 › 硬件 › 国内 4090 显卡 96G 魔改版什么时候上市？
@cat9life 怎么可能
5 天前
回复了 hades97 创建的主题 › Windows › 千万不要把 windows 唯一的管理员账户禁用！
今天复制粘贴差一点把所有内核都清掉，含在用的那个🌚
7 天前
回复了 lisongeee 创建的主题 › 分享发现 › GKD 上架 Google Play 封闭式测试邀请
Z3UueWFuZmVuZ0BnbWFpbC5jb20=

谢谢
12 天前
回复了 follow 创建的主题 › 汽车 › 油车不能智驾吗？
竟然没飘过沃尔沃
12 天前
回复了 xz410236056 创建的主题 › 职场话题 › 被强迫写鸿蒙怎么搞
@cgpiao 应该没有适配，你这个可能不是纯血鸿蒙的文档
12 天前
回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样
@parad 谢谢。

目前看来还是 llama.cpp 靠谱，ollama 的有点就是 2 个模型自动切换，llama.cpp 要手动执行命令。（显存只够跑一个模型）
12 天前
回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样
上面修正--------ollma ---> ollama
12 天前
回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样
发现 unsloth/QwQ-32B-GGUF 、unsloth/gemma-3-27b-it-GGUF 也都支持 ollma ，然后再拉下来跑了一次，还是 llama.cpp 完胜。

都是 Q4_K_M 量化版本。

@parad 温度调到 0 了。llama.cpp 是通过--n-gpu-layers 64 参数，全部加载到 GPU 了，ollama 自动的。看 GPU 占用，应该也是全 GPU 了。
13 天前
回复了 qazwsxkevin 创建的主题 › 硬件 › 似乎是没有 NVME（M key 接口)转 SATA 接口的产品
nvme 转 sata 是需要芯片的
14 天前
回复了 xtx 创建的主题 › 小米 › 不争吵，也不站队，理性且客观地讨论 su7 这件事。
这种改道对向车道的修路，应该是几公里外就开始放雪糕桶引导车流才对。不知道实际情况怎么样。
14 天前
回复了 2232588429 创建的主题 › Android › 安卓微信不支持点击关闭图片吗？
侧滑（返回）、点图片后向下拉。都可以关闭的。
19 天前
回复了 sunhanfl 创建的主题 › 计算机 › 笔记本选购求推荐
一定要带个显卡
24 天前
回复了 jinglian 创建的主题 › macOS › nrg 镜像文件怎么打开？
改成 ISO 就行了吧
29 天前
回复了 jiandan123 创建的主题 › 问与答 › 国外有类似“抖音极速版”和“快手极速版”这样看视频可以赚现金的软件吗？
为什么 iOS 的 抖音极速版没有赚钱功能？
1  2  3  4  5  6  7  8  9  10 ... 52  
❮ ❯
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3024 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 33ms · UTC 14:49 · PVG 22:49 · LAX 07:49 · JFK 10:49
Developed with CodeLauncher
♥ Do have faith in what you're doing.