shendaowu

右上角的记事本。

@mumbler #31

1. 我之前还真基本上将大语言模型和大模型等同了，我的错。但是大预言模型应该是唯一整合了不同领域知识的大模型吧？而其他的能操作现实的大模型都是具体领域的吧？如果是的话这是否能说明什么？比如大模型无法整合不同领域的知识进行创造之类的。这算是我的“垂死挣扎"吧，我已经没有能说服你的希望了，我的信念也基本被改变了。我的信念基本等同于观点，但是我不喜欢观点这个词。

2. 你是在阴阳我还是真那么想的？

@mumbler #27

第一段的对我的反驳我基本接受了，我之前没想到。但是还有个问题，就是这些大模型好像都局限于特定领域吧？然而很多创新需要跨领域。现在的大模型能自己尝试不同领域的知识吗？

应该是我理解不达标，你好像没有思想等同于现实的意思。我觉得想象难更多是因为大部分人没有专门训练过，或者天生没有那个动力，或者无法忍受那种不确定和瞎想的状态。

@shendaowu 见笑了，看错了，3700 T 时 3.7 P 。

@mumbler #27 所以你认为思想等同于现实了？那我们应该是没法讨论了。我还是详细搜了一下，人脑的算力有的估计为 2P FLOPS 。好像高于 gpt-4 使用时的算力 3700 TFLOP ，但是好像远低于训练时的算力 2.15e25 。

@mumbler #19 你说的这个东西指的是概念还是物理对象？按照我的理解创新需要同时操作这两者，但是大预言模型在操作物理对象的能力上应该几乎为 0 ，或者有可能也被限制了。我前面说了，我认为语言是对现实的有损压缩，不完全等同于现实，没有实践的思考大概率只是空中楼阁。我还是看不懂你是怎么得出大模型比人擅长排列组合这个结论的。我觉得你说的那些东西不能支持你的结论。当然我说的这些东西也不是很能支持我的结论，但是我没说我的结论很可信。我猜人脑的排列组合可能还包括监控的功能，不然可能就是所有组合都发送给意识处理了。当然只是猜的而已。不知道大模型有没有这个能力，至少为感觉它的监控能力不怎么样。不知道你说人脑排列组合的效率低是不是从工作记忆的角度来看的，或者是从神经元传递信息的速度的角度来看？但据估算仅考虑神经突触，人脑的算力应该也是比大模型大的。这个我搜了一下，没搜到什么，不太可靠，不想详细搜了。人的工作记忆只是人脑功能的一小部分，不能代表人的上限。

@duanxianze #11

虽然我基本认同你的结论。但是你说的细节我有点不同意，我还是比较相信人脑可能利用了量子力学的机制来实现思考的。我前段时间好像看到一篇报道说大脑可能是通过量子力学的方式实现同步的。我理解可能类似时钟信号吧。据说现代 CPU 也会遇到时钟难以同步的问题，很难处理，GPU 可能也类似吧。想要实现强人工智能，要么人类能够有效利用量子力学，要么设计出一种全新的生命让其自行演化，要么可能是人脑根本就没用多少量子力学的机制。我想不到其他情况了。

还有更玄乎的，所谓连接集体意识。这个我感觉可能只是幻觉，不太可信。可能不是这个名字，大意就是你是一个终端，可以连接盖亚那种服务器的意思。我问了一下 deepseek 也没得到什么确定的答复。

另外神经元之间通信不是纯电的，是混电的。

@mumbler #3

这位朋友你是怎么得出大模型可以进行排列组合的结论的？据我所知大模型的记忆力一般就是上下文的大小。就算是这个记忆力我也无法理解它可以进行排列组合。或者你的意思是它可以在人工神经网络中排列组合？

根据我自以为是的可能是创新的经验来看，这个排列组合可能会遭遇组合爆炸，并不是两两匹配就行了。很多创新的关键概念不止两个。我怀疑人脑可能有专门处理排列组合的“硬件”，但是可能无法通过意识访问。这个对应点子凭空冒出来，没有有意识思维的过程。另外想象和实际一般是会有一些差别的，毕竟语言应该是对现实的有损压缩。因此需要通过实践不断纠偏，我理解大模型基本没有实践的能力。我以外行的脑子思考，如果想要不断实践并纠偏的话，可能需要不断训练，这个成本可能很高。使用大模型一般应该都是使用训练好的模型。

@shendaowu #8 写完才发现没审好题，见笑了。