DeepSeek 出来以后我个人在互联网上总是会刷到一些本地部署的相关内容，不明白意义何在
 |
1
chiaf 23 小时 21 分钟前 via iPhone
不联网，针对性优化。涉密是其中一个考虑。
|
 |
2
wolffcat 23 小时 18 分钟前 via Android
本质就是和极客一样，明知道蒸馏模型还跑不快最多陪聊机器人还要折腾一番，我想起来搞爱快的那帮人往往没有具体实际的需求。
|
 |
3
sujin190 23 小时 17 分钟前 via Android  1
目前来看能多花钱就是最大意义，后面说不好
|
|
4
wolffcat 23 小时 16 分钟前 via Android
庙小妖风大，池浅王八多。
|
 |
5
whileFalse 23 小时 6 分钟前
教他涩涩
|
 |
6
F798 23 小时 2 分钟前 via iPhone
解除封印
|
 |
7
mumbler 23 小时 1 分钟前
只要真想好好用 AI ，必然会遇到数据安全问题，特别是企业应用
严格说 cursor 这种工具有很大安全隐患，内部 api ，算法，key ，数据全要给云端大模型看，不能依赖商业公司自律，迟早需要用本地部署模型替代的 |
 |
9
NoOneNoBody 22 小时 51 分钟前
1. 涉密，假如贵司所有工作报告都经 AI 润色，贵司所有项目的文档都经 AI 管理方便查阅
2. 专用，贵司的项目有垂直深度，需要 AI 适应很多特殊领域术语和文档 3. 自主，本地 AI 是自己控制，联网则受制于人 |
|
10
wolffcat 22 小时 49 分钟前 via Android
@LanhuaMa 好吧，我恩山夸张的见得多了，才几十平米搞光纤传输无线 AP ，爱快这边图形化连命令行都没有（刻板影响），我亲身经历在学生时代有人在选修课发群里炫耀一个老旧电脑 300 瓦装爱快，这个 b 恶心坏我了。
|
 |
11
Fule 22 小时 48 分钟前 9
我想看看我的显卡显存和 GPU 全部吃满的样子……让我觉得我这大价钱没白花……
|
 |
13
hafuhafu 22 小时 39 分钟前 1
那种视频是在纯粹在借热度引流吸引人。
不过本地部署确实是个很实用的需求，只不过目前对于个人或一般企业而言部署一个好用的成本太高了。参数低的没啥用，参数高的又部署不起。 场景也挺多的，企业涉密是一方面。 对于个人而言还有各种敏感词审查以及隐私方面的问题，以及官方的各种限制。 我之前有弄个联网搜索的工作流，我就不敢把搜索结果丢国内的 API ，太危险了...像 Github 上有一些专注于各种国内敏感词的仓库的 SEO 还特别高。被封号了还是小事。丢本地 LLM 就不用考虑这些了。 |
 |
14
billytom 22 小时 30 分钟前
1 、国内是最不安全的，那几个公司都有把你数据当成他们数据的思想
2 、国外稍微安全些，但就是怕那天突然全面东西分离突然就失联了 = 自己建对于稳定的业务长远的考虑大的，特别是 guojia 级的企业，是必须的 |
 |
15
plasticman64 22 小时 24 分钟前
已经有部分地方公安在本地部署 Deepseek 了
|
 |
16
julyclyde 22 小时 17 分钟前
说好听点叫练手
说不好听就是自主知识产权 |
 |
17
gpt5 21 小时 55 分钟前
很多云服务比如 azure 也提供本地部署，不光是 ai 。
|
 |
18
iorilu 21 小时 34 分钟前
大公司很多服务都要求本地部署的, 随便啥东西, 更别说什么银行等国企了
|
 |
19
momo1pm 20 小时 42 分钟前
你先定义下部署啥样的，不是满血的就别说了
|
 |
20
paopjian 20 小时 35 分钟前
核心是卖课啊, 现在视频平台什么火了先想想他们是不是要卖课了, 要不然就是引流, 企业真需要自己部署的早去买服务或者调研了, 我就见过一个套皮 dify 的, 号称全流程自研, 结果买个云服务两毛钱都抠搜
|
 |
21
Librola 20 小时 28 分钟前
以前本地部署是为了搞涩涩，现在 grok 出来以后涩涩随便写，就再也没有自己部署过了。
|
 |
22
duanxianze 20 小时 26 分钟前
大公司和政府才需要，就是为了不连外网
|
 |
23
psllll 20 小时 26 分钟前
因为 服务器繁忙，请稍后再试
|
 |
24
aliveyang 20 小时 19 分钟前 1
因为酷
|
 |
25
lovedebug 20 小时 11 分钟前
意义在于我实现了本地部署 AI ，然后继续用 API
 |
 |
26
zy5a59 18 小时 21 分钟前
现在大部分本地部署 DeepSeek 的，都是引流然后做知识付费的，本质就是蹭一波 DeepSeek 的流量。
|
 |
27
LaTero 18 小时 17 分钟前
有些企业有需求，但是那些视频都是营销蹭流量的，忽略即可。它们练 DeepSeek R1 到底有多大都不知道，随便弄个 14B 的蒸馏小模型糊弄一下，反正目标观众也不会真的去试，毕竟他们看这种视频只是为了情绪价值，顺便骂一下英伟达。
|
 |
28
laydown 18 小时 17 分钟前
等待未来。
|
 |
29
dddd1919 18 小时 7 分钟前
如果将来开源 AI 能支持多模态，就可以用盘里的老师们制作出更适合自己的学习资料，这个公网 AI 是绝对没法办到的
|
 |
30
lthon 18 小时 4 分钟前
自定义也可以算一个理由吧
|
 |
31
xvan 18 小时 1 分钟前
toG 都得私有化部署
|
 |
32
tsja 17 小时 51 分钟前
应付领导对 DeepSeek 的喜爱
|
 |
33
nomagick 17 小时 49 分钟前
本地运行的模型，不受 《生成式人工智能服务管理暂行办法》 的约束
|
 |
34
wangyzj 17 小时 41 分钟前
数据安全是很重要的一方面
|
 |
35
Eagleyes 17 小时 40 分钟前
自建 NAS 的意义在哪里？
本地存储好处是，你永远不用担心资源被下架。 |
 |
36
Baymaxbowen 17 小时 38 分钟前
我们的系统客户都是银行，全部都是内部系统，这种只能通过本地部署来实现
|
 |
37
fivee 17 小时 33 分钟前
现阶段一个明显的意义就是能够让地方政府或者事业单位合理花钱
|
 |
38
lpxxn 17 小时 26 分钟前
让我的 gpu 跑满，心里不是很爽的
|
 |
39
germain 16 小时 28 分钟前 1
很多地级政府都在推本地部署“一体机”，最多跑个 30B 的模型，采购费用大家都懂。
|
 |
40
edony 16 小时 14 分钟前
2B 场景下，安全问题也是重要的考虑之一。
对企业而言，最重要的是内部数据，你永远无法保证外部的服务会不会保存和利用你的数据。例如，你怎么确定豆包/kimi/千问/DS 等等不会根据你提交的“我出生 xxxx 年 xx 月 xx 日 xx 时 xx 分 xx 秒，身份证号是 yyyyyyyy ，帮我算一下我 2025 的运势”来定向推送广告呢？更何况你给大模型的还有 fine-tune 的时候那些重要的领域数据甚至机密数据。所以企业的做法宁可错杀也不放过 —— 所有的都要掌握在自己手里宁可花点钱自己部署。 |
 |
41
craftx 16 小时 8 分钟前
1. “安全”
2. 宏观经济发展需要 3. 懂的都懂 |
|
42
craftx 16 小时 7 分钟前
不知道有没有人听说过 当年某地方 gov 采购一批 iphone 当 u 盘
|
 |
43
civetcat 16 小时 5 分钟前
平时碰到比较多的大概就是网络问题，隐私问题，以及各种产品本身的限制，本地部署可以很方便的解决这些问题，没有任何限制，可以随意折腾适合自己的。目前本地部署的门槛还是太高了，性能也稍微弱一点
|
 |
44
uncat 15 小时 44 分钟前
本地 4 块 3090 。
2 块 3090 部署的 qwen coder 2.5 q8 ，VPN 组网（ wireguard ）后，作为沉浸式翻译的翻译后端 + openwebui 后端。看论文/文档很爽。 另外 2 块 3090 部署的 qwen coder 2.5 q8 ，VPN 组网（ wireguard ）后，作为 vscode continue 的后端（体验一般）。 因为 continue 会导致 ollama 模型重新加载，所以就独立部署了 2 个 ollama 服务端（每台主机 2 张卡）。 |
 |
45
Felldeadbird 15 小时 42 分钟前
你可以自行调教自己的 AI ，前提你有技术和硬件。
大部分公司都没这个能力。然而不少公司却追求：本地部署，生怕错过了时代风口。 |
 |
46
chanChristin 15 小时 34 分钟前 via iPhone
内部微调
我朋友他们公司买了 20 张 4090 10 张 h20 专门训练，针对自己的业务内部训练。 |
 |
47
pinocc012 15 小时 22 分钟前
公司政策是禁止任何数据上互联网，当然也就不能用任何公网的云服务
|
 |
48
dayeye2006199 11 小时 12 分钟前
99%的情况都没啥意义。搞台大点的机器，ollama run 一下不叫本地部署。
数据安全隐私这些东西，最好是靠法律法规来保障。 |
 |
49
Revenant 11 小时 1 分钟前 1
原因
 ) |
 |
50
ccdjh 6 小时 17 分钟前
其实是有意义的。公司会遇到财务与业务的不对等信息，库存与资金的不对等信息。有些业务员能通过延迟拖欠几十万款项，有些库存的折旧或变卖，能中饱私囊的。信息的公开并不等于老板或决策层能读懂的。不用过万，但凡过千的数据，都需要总结才能读懂。
AI 能让减少缩短这个时间差。让老板和决策层更清晰的知道信息，能压缩到几分钟的事情。 因为工作的拖延性，处理一项事情，拉长几天，或者一个星期以上是很常见的。 AI 可以综合处理，提高决策效率，而且不会有根据自己的利益，对事情的描述的人为偏袒。 |
 |
51
billwang 5 小时 34 分钟前
开源了就有人开始“创新”了。某些单位好像部署一套以后就是自己开发的一样，LD 面子也有了，下面政绩也出来了。
|
 |
52
yianing 5 小时 20 分钟前 via Android
2000 块跑满血 671b ，垃圾佬的快乐
|
 |
54
dododada 4 小时 56 分钟前
公司上了规模就会有数据安全的要求，一个是自身发展的需要，一个是安全合规的需要
|
 |
55
skytenlc 4 小时 49 分钟前
政务信息
|
 |
56
yufeng0681 4 小时 37 分钟前
企业，单位老生常谈的泄密，隐私保护解决了， 就能迎来一大批的商业化项目 [忽悠上面领导做项目的核心痛点被解决了，可以开始捞钱了]
|
 |
57
clemente 4 小时 24 分钟前
LOCAL FIRST
|
 |
58
levelworm 4 小时 22 分钟前 via Android
涉密加回答更加精准吧？
|
 |
59
clino 4 小时 12 分钟前
你如果是负责公司安全的人员，或者是某个业务的领导，可能会对因为使用云 api 导致内部信息泄漏的事故负责背锅，那么你在做出放行使用云 api 的时候会不会思虑再三？
更别说涉及政府机关内部信息这种更敏感的了。 这和某个干活的人，知道自己涉及的信息没什么要紧的就随意使用是很不一样的。 |
 |
60
CodeAllen 4 小时 12 分钟前
最大的优势就是隐私保护，对于企业来说，尤其是涉密企业，事儿可以不干但千万不能泄露信息。
而且企业的数据，比如内部文档、内部代码，给到外部系统做处理，原则上外部系统是需要保护客户隐私，实际上能不能保护到位那是另外一回事儿，数据不出域是最稳妥的。 |
 |
62
levn 4 小时 1 分钟前
1 内容审查
2 保密 3 速度与延迟 4 可以自定义化设定，可以运行自定义的模型、冷门的模型或者微调模型 5 不会因为在线模型换代而破坏稳定性和一致性 |
 |
63
MYDB 3 小时 38 分钟前 via iPhone
在线满血版都不能满足我的正确率，更别提本地部署了，非热门领域现阶段还是自己查资料靠谱
|
 |
64
DigitaIOcean 3 小时 20 分钟前
形式保密不一定保密
但形式不保密则一定不保密 |
 |
65
ShadowPower 2 小时 42 分钟前
我猜 OP 想问的是：
个人本地部署 AI 的意义在哪里 其实真正的答案是：玩 对于 deepseek 这样的模型，有个好玩的地方。本地部署的话可以在任何位置继续生成，所以有时候可以把思维过程给改了，手动结束思考，然后看看它会回答什么。 |
 |
67
pkoukk 2 小时 34 分钟前
楼上的估计没怎么部署过..
整过 sd 和 llm 的告诉你，为了 GHS ！ |
 |
68
spacebound 2 小时 23 分钟前
今年政企行业相关软件开发都在削尖了脑袋搞 DeepSeek 接入，都要体现 AI 的能力。
那好了，遇到的第一个问题就是能不能本地化部署、能不能上信创环境。 |
 |
69
EndlessMemory 1 小时 18 分钟前
不用付钱
|
Select Language