V2EX › Chihaya0824 的所有回复 › 第 1 页 / 共 30 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8 9 10 ... 30

❮

❯

20 小时 32 分钟前

回复了 pixcai 创建的主题 › 随想 › 感觉大部分人有点毛病，但又不知道是哪里的毛病

有没有可能，不知道=我不想花时间在你身上（ doge

13 天前

回复了 LazyCatCloud 创建的主题 › NAS › 求推荐 100-200 元的程序员想要的礼品？和 NAS 沾边的也行

rtl8167 USB 5G 网卡
绝对和 NAS 沾边，谁不想让网速更快一点呢（

16 天前

回复了 seatifa 创建的主题 › 问与答 › 求一个使用网页远程控制 windows 的方法

pikvm 直接外部接入，最折腾友好也最贵
便宜可以看 https://sipeed.com/nanokvm
体验平衡可以看 jetkvm

27 天前

回复了 crac 创建的主题 › Local LLM › ubuntu + 双 N 卡本地部署 DS-R1，性能优化请教

R1-Llama-70B-Distill-Q5KM-GGUF
VLLM
单次（类似 ollama ）
Avg prompt throughput: 0.0 tokens/s, Avg generation throughput: 28.3 tokens/s, Running: 1 reqs, Swapped: 0 reqs, Pending: 0 reqs, GPU KV cache usage: 0.4%, CPU KV cache usage: 0.0%.
双卡并发（并行 12 个请求）
Avg prompt throughput: 0.0 tokens/s, Avg generation throughput: 98.7 tokens/s, Running: 12 reqs, Swapped: 0 reqs, Pending: 0 reqs, GPU KV cache usage: 2.7%, CPU KV cache usage: 0.0%.
差不多 3 到 4 倍的样子

30 天前

回复了 LGA1150 创建的主题 › 宽带症候群 › [未测试] 绕过上海电信白名单限速

野生的 kmod 出现了，这个性能怎么样啊，可以无脑给所有流量 setmark 吗？

34 天前

回复了 zhangchaojie 创建的主题 › 奇思妙想 › [这个想法值得做吗？] 一个聚合问各种大模型的应用

我最后还是自己去所有主流平台冲了钱，然后 open-webui 一把梭
点上面的那个加号就能同时和很多模型聊天，有时候会对比本地和 api 模型的结果，还挺有用的
https://i.v2ex.co/qKQ5nVMVl.png

36 天前

回复了 mcsddjyd 创建的主题 › Local LLM › Deepseek R1 671B 本地部署方案

4*8*24=768G
这显存应该够，为啥只能部署低精度的...
神奇，ray+vllm 不能用，ray list nodes 正常吗？
那要不试一下 llama.cpp rpc mode?
https://github.com/ggml-org/llama.cpp/blob/master/examples/rpc/README.md

38 天前

回复了 Saikix 创建的主题 › 宽带症候群 › 礼问，深圳现在宽带还有哪家新开户能搞到公网 IPv4 的

电信好像便宜的都没有了，现在只能加钱
而且原有的好像移机或者换套餐都会消失，所以买别人的也没有了

43 天前

回复了 unii23i 创建的主题 › 问与答 › 视频生成 ai 有本地的替代品吗

有，hunyuan video ，wan2 ，hunyuan t2v 4090 跑 720p 10 秒 10 分钟以上（视频时间越长生成时间越长）还跑的是 4bit gguf ，质量也不如他们跑的好。

51 天前

回复了 scienhub 创建的主题 › NVIDIA › 5090 买哪个品牌合适？

事实是现在原价根本买不到，5000 一张大把
所以哪个黄牛加价低买哪个算了

52 天前

回复了 klo424 创建的主题 › Local LLM › 求 DeepSeekR1 性价比硬件推荐

如果要自己微调完全可以，但是首先你要准备数据集（这个部分是最花时间的）
非常可能的是你会发现调完之后很可能会出现变笨或者变没有思考的情况，因为你的数据集里没有 CoT 相关的，所以你还要把模型重新 align 回有 CoT 的状态
用 unsloth 的话要调比如说 14b 的话，怎么都要个 24g vram 吧，那买个 3090 就可以
当然也可以选择更小的，但是低于 14b 真的没什么实用价值
不过依我看步子最好不要一次性迈太大，部署玩明白了再去做训练也不迟，要玩训练那根本就和推理要求的不是一个级别的
可以参考的项目[这里]( https://huggingface.co/ValueFX9507/Tifa-Deepsex-14b-CoT-Q8)，大概是一个正经的项目（
上面的模型就算这样也要 8 张 H20(!!!!!110 万 CNY)，所以 op 可以再看看自己到底想要什么

52 天前

回复了 klo424 创建的主题 › Local LLM › 求 DeepSeekR1 性价比硬件推荐

买 api 得了，老实说，同时实现 1+2+3 ，不太可能，特别是 1
预算再少也要花 10k-14k 吧，那种预算下根本不可能有水冷，而且你要买的还是二手服务器，那不能说是噪音小，只能说是天天起飞

55 天前

回复了 Ayaya233 创建的主题 › 职场话题 › 被 hr 疯狂催入职

@Ayaya233 好好好，听劝好

57 天前

回复了 saltydc 创建的主题 › 问与答 › 有什么小巧的 65w 充电头？

酷态科那个挺好带的，而且便宜

64 天前

回复了 0631Alex 创建的主题 › 买买买 › 25 年了，求推荐 27 寸 4K 显示器，预算 3000 内

雷鸟 u9 之前国补完 3300 ，画质挺好的亮度也很亮。
但是问题是他的 kvm 做的特别差，有各种各样的问题，还有就是电脑关闭显示器偶尔会有无法唤醒显示器的情况，必须强制关机，如果可以等到 3000 左右的话可以考虑。

73 天前

回复了 kandaakihito 创建的主题 › 生活 › 回家吧，不要再纠结了。

又 go 又 vtb 但仍然有对象，其实已经超过超级多人了（不是

92 天前

回复了 kemistep 创建的主题 › 生活 › 小年了，如何厚脸皮要钱

反过来借同样的钱（

99 天前

回复了 Peter500 创建的主题 › 宽带症候群 › 全屋升级万兆内网有什么实惠的方案吗？

@terrancesiu 这种两口的万兆国产一大堆的，而且很多也没有风扇，我记得哪里看到过<200 cny 就能买到 4 口 2.5 + 2 口 10gsfp

99 天前

回复了 Peter500 创建的主题 › 宽带症候群 › 全屋升级万兆内网有什么实惠的方案吗？

正好，最近因为某产品的关系也升级了，说说踩的坑
除非是硬需求，不是很建议升级万兆，主要原因就是太热了，导致需要风扇太吵了
万兆纯电(RJ45)买过 tplink/兮克/unifi ，最后就 unifi 一家没有风扇不会吵。剩下的 tplink 是离谱的噪音，基本上不是有专门机柜或者房间完全可以放弃。然后兮克的软件不是最好的，但是声音会比 tplink 好很多，因为风扇是调速的风扇，不过我买的那款有个问题就是商品详情页说支持 1/2.5/5/10 ，实际上软件上 5Gbps 会出显示不支持的 bug ，实际上还是能使用的
最推荐还是这个，但是完全和实惠没关系，只能说是贵但是相对好的解决方案
unifi:https://store.ui.com/us/en/products/usw-flex-xg
缺点是如果不是已经用的 unifi 的方案的话需要装一个他们软件才能调整交换机，无 webui
然后兮克是用的纯电 8 口的那个，1000 左右 cny 就能拿下性价比很高，但是还是有噪音问题
最好的解决方案应该是这个：
https://www.qnap.com/en-us/product/qsw-im3216-8s8t
缺点就是贵了，还有国内买不到，美国下面这里已经预售了
https://www.bhphotovideo.com/c/product/1869847-REG/qnap_qsw_im3216_8s8t_us_fanless_managed_switch_rack_wallmount_layer_3.html
16 口，小体积，完全被动散热，完美，不过不知道长期使用稳定性怎么样

这次换万兆的主要罪魁祸首就是 RTL8157 这个芯片了(USB 5GbE 网卡)，目前有了这个一般的机器也能愉快的使用 5G 网，但是在 5gbps 的 usb 下实测只能跑 3.3 ，10gbps 下没这个问题，最好还是能够用 10g 口，比如说 aqc113c 这种传统方案，基本上跑满 10g 没问题

TLDR:如果不是必须要那么快速度建议用 2.5G ，现在基本上便宜解决方案都不是特别适合家用，会比较吵。或者不要用 RJ45 用 sfp 也可以规避这个问题

1 2 3 4 5 6 7 8 9 10 ... 30

❮

❯