各位爷爷，我这算虚无主义吗？有病？关于 AI 的一些认知和想法

[8520ccc]

我偶尔会想到 AI 以后的发展什么的，然后就有一些想法 想要表述（也不算非常频繁 emmm 就是偶尔）

这是一种病吗？（因为我很少见到我这样的情况，即使在各个论坛） 下面是我的想法

---

现在 AI 确实只是一个辅助工具，但是它和人的区别在于，虽然人脑的智能程度很高，学习能力也很强，但是算力太低了，并且算力扩展效率太低了（例如同一个专业领域，要扩展一份算力就需要一个人从小开始学习基本知识，建立基本的认知后，再去学习专业相关的知识，至少需要 16-30 岁（甚至更久）才能完成扩展！并且最主要的是受限于人类的寿命限制，一个领域的专家也只能维持最多 40 年的有效算力……并且虽然人类可以协作，始终是会有成本的！ 也是因为有限的算力，所以我们一直想要提高算力的利用率，创造了很多工具，尽可能降低生产过程中对大脑算力的依赖，因为它们的成本太昂贵了……所以有了很多工具，有了电脑，有了 AI……然后相对大脑 AI/大模型 的优势在于 它可以一直学习，并且算力扩展简单（只要能源和资源，就可以无限叠加…… 而且，我认为 AI 迈向奇点的速度是越来越快的，螺旋加速…… 假设把 人类技术进步比作一辆车，那么算力，储存能力，信息传输能力都是这辆车的引擎，而我们现在最大的瓶颈是算力，AI 提高了一些我们的算力，算力提高加快了引擎的动力，加快了 AI 的发展……

其实就是一个滚雪球的过程，人类出现这么多年，技术爆炸也就最近几百年的事，就是因为之前几十万年无论是算力，储存能力，信息传输能力，都太弱了，所以导致三者的进步速度都非常慢！而一旦到达“奇点”，就会开始爆炸式增长了！因为其实一项的提升会促使另外两者的进化速度也提升，反过来也是，进入了 螺旋加速的过程。 而现在 AI 也是……

其实一旦到达 AI 的奇点后，人类存在也真的没有什么意义了，因为我认为我们存在最底层的欲望和需求是由躯体的构架，神经元链接等方式“算”出来的，相当于我们也只是一台精密的“生物”计算机，我们内置了系统，我们的行动受限于系统，系统给我们设置了需求与欲望，我们现阶段没有办法去修改它们（因为目前技术不足以完全解析这台计算机的底层架构）， 而一旦真的实现 AI 奇点，无论是算力，储存能力，信息传播能力，都能以一个恐怖的速度推进，那么解析我们的系统架构必然是手到擒来……那么……彼时 我们的需求，欲望，所有的一切都是可以自定义的…… 那么人类存在的意义是什么？

[cmdOptionKana]

@Chuckle 你要吃饭，AI 也要充电啊，都是生存意识，补充能量，本质是一样的。汽车从燃油机换成电池，还是汽车。

至于 AI“觉醒”后可能成为人类的敌人，这个问题也已经有很多人探讨过了。

[CarryOnHxy]

看完未来简史也有像你这样的担忧，除了人工智能咱们还有好多潘多拉魔盒还没打开，比如基因工程、赛博仿生人，任何一项真正去展开推进，说好听点就是实现自我进化，难听点就是自己革自己的命，至于是否展开要取决这世界精英那百分之二十中的百分之二十，现状可能吗？全球化面临解体阶段，精英们忙着拉二胡——自己顾自己了，所以咱们不需要杞人忧天了

[sillydaddy]

我也遐想了一通，希望能带给你一丝安定：
/t/998589

主要的论点是：存在人工智能的社会，也是由个体组成的，是多元的。人工智能也是有限的，人工智能社会的发展也会受到各种成本的制约。

[southsala]

你觉得破碎虚空和破碎大石差多少？破碎大石之后就破碎虚空了吗？用现在的小说差了忆忆点，但是在早年就是差了一点