Ilya Sutskever 说过 压缩即智能，把 llm 当作一个压缩后的算法和数据的模型，其中蕴含的信息，很难超过其原始输入的压缩前的数据，前段时间的涌现即是模型蕴含了原始数据外的一些知识，这个是一个可以关注的点或者就是拟合松一些就是所谓的涌现？

作为 chat 是基于 llm 的模型进行微调后的（风味不通的冰淇淋）

所谓的数学背后更多的是抽象和推理，而不是单纯的文字预测，llm 在文字预测方面能力很强，也许尺寸在大几个层级，我们初高中的数学题目都被涵盖进原始数据集中去就会解了，但数据有没有这么多，在堆尺寸性能是否在有较大的提升都存疑，成了一个经济是否合算的问题，因此需要进行新模式探索与发现，这是一个最好的时代，这是一个最坏的时代

llm scaling laws 还可以指导后续 llm 发展吗?