目前好像感受到了 openwrt 作为主路由的无力感

[dengj3355]

之前觉得旁路由有些多余，现在准备抛弃主路由了
目前使用 N4120 ，内存 8GB 作为主路由，这个配置应该也不算差
部署了太多的东西，经常会断流几秒钟，一断流就会影响到家里的所有设备
目前的想法是买一个 mac mini m4 32GB 作为旁路由和本地大模型服务器
1 、部署 ollama 32b 这个规格的大模型，并且部署 open webui 这类的交互界面
2 、虚拟机安装 openwrt 作为旁路由
3 、使用 docker 部署 home assistant 、adguard home 这类软件
4 、部署一个 nas ，但是目前没想好方案，是用虚拟机部署 truenas 这类还是轻量级的 filebrowser 这种
5 、安装 frpc 方便出门在外能访问家里的大模型（这个好像开销不大）
有没有大佬实操过，这些东西 32g 内存能跑起来吗？

[Vneix]

1.本地部署 32b 大模型是刚需吗？
如果不是，买 api 或者用免费的在线服务可能更好。

2.喜欢折腾的话，推荐主传统硬路由+旁软路由的方案。
主硬路由保证家人/智能家居不断网，软路由作为旁路由接自己折腾的服务，比如 3 提到的。

3.略。

4.买品牌 NAS 做存储。
好处是外观好看、系统好用、现在有补贴价格比自组也贵不到哪去、有保修、有免费的远程技术支持。
软路由上需要访问 NAS 的程序远程挂载存储访问就行。
存储和折腾分离，这样折腾的机器崩了也不影响存储的数据。

5.同 1 。

以上只是个人意见，实际还是按照自己的喜好来。

[aqx]

主路由用 tplink 的我对你的帖子看看都费劲，好费脑子呀。

[szdosar]

😂确实，当动手力水平配不上雄心的时候，容易发生混乱的情况

[dengj3355]

@Vneix 我主要是想着如果我想的这些可以 all in boom 的话，用 mac mini 是非常有性价比的方案，大模型也不是刚需，我合计了一下，如果买个群晖，入门级的 2000-3000 ，不如再加 3000 买个 32g 的 mac mini ，甚至不用 3000 ，国补+教育 32+256 只需要 5200 ，还能顺带部署大模型，和做旁路由，简直性价比高到炸了（当然前提是这么多要能跑起来）

[datocp]

路由就去做路由该做的事，

[dengj3355]

@szdosar 主要是跑了太多 docker ，理论上在掌控之中，但是理论就理论在没有理论，然后就想换设备，既然都换设备了为何不整个 nas 呢，既然整 nas 了，为什么非要整品牌 nas 呢？直接 all in boom 吧，既然都 all in boom 了，为什么不部署一个大模型呢？然后开始找机子，发现没有合适的，然后看了看手中的 macbook ，直接上京东看 mac mini😂

[brcefy]

路由当好路由就行了，我用的 n3050 完全没问题，其他扔虚拟机 linux 里面就行

[totoro625]

坚持简洁至上
内存 8G 的主路由，只保留梯子和路由功能即可，任何乱七八糟的软件都不用安装，最大程度保证可靠性，最多加一个 adguard home ，然后设置每天凌晨重启一下

[chenbin36255]

路由机只跑 openwrt+clash 网关+wg/ddns 用 lxc 容器 很稳

[YsHaNg]

为啥非要 mac mini 这并不是个好的服务器 各种服务公网访问开端口 nginx 反代

[conn457567]

我目前是主路由加支持 docker 的 nas 作为常在线的服务，mac 有需要才开机

[likelylee]

赞同楼上两位，我是 r5s 跑 openwrt ，启用了 openclash 翻墙、adguardhome 做 dns 和禁用广告、kms 来激活内网 windows 和 office 、ddns 到 cloudflare 解析、vpn 和 tailscale 都是用来回内网，剩下服务类的都在 nas 上 docker 部署。平时非常稳定，我可能想起来的时候会手工重启一次，通常两次想起来间隔都在 2 个月多吧。

[Yespeter]

主路由不要装太多东西，让它干该干的事情，我目前是一台 n100 8g 的 PVE ，装了 op 、黑群、两个 Adg lxc 容器，其余项目全跑在一台 64g 5500u 的 unraid 上，从未出现过断流等情况，另外用 mac 做服务器感觉太奢侈🤣

[SakuraYuki]

我已经把 openwrt 优化掉了，现在是硬路由+mac mini 网关+n100 nas/服务器

[youthfire]

跑本地模型必要性需要考虑。我用的 M3 Max 96GB+mlx ，性能肯定比 32gb+ollama 好太多吧。实测别说 32b ，70b 的回答质量效果，尤其是速度比起 api 那是差太多了。

[vergilgao]

说说我的方案
N100 主路由 openwrt 只跑 homeproxy + msd_lite + nginx 这三个基本服务，然后新建一个 lxc 容器，配置为 rootless ，我选择的是 fedora
然后容器里面安装 podman ，通过 systemd + podman 来部署其他服务，比如 homeassistant mqtt z2m （这些都是用的 macvlan 模式）
然后还有一台独立的 i5-10400 装了 unraid 的 nas ，用于家庭影音和跑 PT 上传

[Greenm]

有没有想过不是 openwrt 的问题，而是你跑的其他太多容器和应用的问题呢？

路由就该单纯做路由，甚至有条件的话存储和应用也应该分开，我这样做 openwrt 就没出过问题，当主路由跑起来稳定延迟低。

[lnbiuc]

@chenbin36255 请问左侧显示 IP 是怎么做到的

[magic3584]

我之前用 N1 刷了 openwrt 跑旁路由，又一个 N1 刷电视盒子，在电视上看 ytb 。
由于我手动指定节点，如果节点挂了的话，我还要登录去切换节点。我不在家家人就不会弄。

后来换了新电脑后，旧电脑就放家里了，再搭个 HDMI 连电视看，节点挂了随时换，就把俩 N1 都拆了

[jtshs256]

这确认是部署的服务导致的断流？先看看网卡是不是传奇断流王？

[2han9wen71an]

@lnbiuc 标签

[niubilewodev]

32G Mac Mini 跑 32b 的模型很吃力，个人觉得几乎不可用。
32G 只有 24G 的 VRAM ，模型加载完就要接近 20G ，可用上下文少的可怜。
而且 M4 的内存带宽，跑 32b ，预估不足 5 token/s 。

[laminux29]

11 代 i7 ，流量大了，OpenWRT 都扛不住。你用了 N4120 ，单核只有前者的 1/3 性能，多核只有前者的 1/10 。扛不住很正常。

N4120 这种低端机器，包括 N100 、J1900 等，只是垃圾佬与公众号喜欢鼓吹的低价小玩具。他们发文的思路是，低价，可以用。但好不好用，性能怎么样，他们只字不提，因为提了就没人点赞了。

就像 Deepseek 满血版，铺天盖地的 MacMini 512G 、x79 洋垃圾等等，都能跑，但你仔细看看这帮自媒体，有谁写了 tokens 生成速度。

[Feeling22]

路由器干路由器的活，openwrt 只保留必要的服务，所以设备通过交换机接入 openwrt 。

把各种乱七八糟的服务搞个小主机剥离出来，Mac Mini 也好、x86 小主机也罢
32G Mac Mini 实测跑 32b-4bit 量化模型基本算能用吧，不能更多了

[timeance]

旁路由不挺好的吗，你上面提到的这些服务都很适合放在旁边，例如 LLM 、home assistant 、adguard home

[dengj3355]

@jtshs256 哈哈不是，现在我重装了，只保留了路由和梯子，完全没问题

[chenbin36255]

@lnbiuc 有一个插件可以显示 lxc 容器的 ip 然后虚拟机的 ip 是自己打标签的

[yaleyu]

和 openwrt 有毛线关系？

[dengj3355]

@yaleyu 对哦，表达不准确，是我的装有 openwrt 系统的路由器在我瞎折腾下出现的问题

[SilentlyYc]

我用一个 N5105 做了个爱快做入户第一站，拨号，DHCP 都是他，然后再爱快里面开个虚拟机装 openwrt,只做梯子，然后后面接了一个硬路由，只做 AP 。然后需要梯子的设备网关指向 openwrt, 不需要的默认网关即可，这个在爱快里做静态 mac 就行了。然后再有个设备跑 linux ，我的所有服务都在这台机器里，这样既不影响家里人上网，也满足我自己的需求。