[讨论] 机器学习一直发展下去可以实现真正的智能吗?

[threebr]

我一直对人工智能很感兴趣, 奈何现在大多数的人工智能还停留在投入多少人工就具备多少智能的水平. 那有朝一日, 当我们投入了足够多的 "人工", 可以实现像人一样的, 真正的智能吗?

回答这个问题前, 我们需要先思考了一下什么是人所具有的智能, 或者说人和现有的机器学习的思路有什么不同, 为此我考察了一些深度学习的框架:

1. 最基础的 BP 神经网络. 基本思路是将目标看作目标空间中的未知函数, 我们设计出一个非线性的函数, 通过梯度下降不断修正参数, 使函数和目标函数越来越接近. 后来的 RNN, CNN, Transformer 都没有跳出这个思路, 区别只是选择的非线性函数不同, 和输入的参数不同 (比如 RNN 的输入包含了历史输出, Transformer 的输入包含位置信息 Position Embedding). 这样我们就把一个优化问题转化成了函数拟合的问题.

2. 生成对抗网络的效果很神奇, 但本质上还是函数拟合.

3. 强化学习的思路要更进一步, 现在最成功的例子就是阿尔法狗. 围棋的收益只有在最后的输赢, 在这之前都没有直接的收益奖励. 但通过马尔可夫过程和蒙特卡洛的方法 (这里的数学原理我还不太明白), 可以将最后的收益一步步回溯回去.

接下来我的想法很民科, 所有机器学习的方法都是需要一个给定的目标, 然后将目标转化成可以计算的数字, 然后我们设计出一种模型. 这个模型可以自发的朝目标输出靠近, 也就是学习. 但目标始终是人给出来的, 这些模型不能自己创造目标. 俗话说提出问题比解决问题更重要, 而机器是没办法提出问题的 (也就是提出目标). 机器所做的事情永远都是为了目标服务的. 即使它在某些方面展现出来了超越人类的水平 (比如围棋), 但这只是在复杂度上超越了人类, 其目标永远是不变的.

人可以提出问题, 然后解决问题, 但重点是提出问题. 这也是为什么产品经理是产品经理, 码农是码农, 产品经理可以发现问题, 然后让码农去实现 (先不论问题的质量如何). 我们不应该低估发现问题的能力, 或者说提出目标的能力, 因为这种能力是机器学习做不到的. 这也是人和机器学习的思路不同的地方, 如果不改变现在机器学习的思路, 是永远发展不出和人一样的智能的.

[IanPeverell]

个人感觉，机器学习的应用可以取代所有非创造性的岗位，比如驾驶员、车床操作员等。但是因为系统是收敛的趋于稳定，所以很多需要发散性思维的工作比如艺术创作，还是需要人。比如机器学习现在可以模仿梵高模仿毕加索，但是机器学习还不会自创比如印象派野兽派立体主义这类的艺术流派。

[Raymon111111]

@IanPeverell 现在也有自动写歌的程序, 而且双盲分辨不了那种

多数"创造性"并没有那么创造.

[saulshao]

我希望可以实现真正的智能。
其实，我们现在还没弄明白到底什么才能叫做"真正的智能"。
但是我觉得机器学习完全可以代替人类的推理过程，其主要优点就是思考速度和记忆能力与人类比较都不是一个数量级的。

[native]

人工智能并不是像人一样拥有主观意识。人工智能可以解决经验问题。

[jecshcier]

其实目前所有的人工智能都是设定好坑，用大数据进行填坑的行为。和真正的人工智能（比如 对人类的语言沟通）其实并不是同一个东西。搞搞某个领域上很专精的产品还行

[100knights]

人如何基于自己的智慧创造一个和自己一样思考能力的机器呢? 如果不需要进行解释可能实现, 复杂系统涌现出智能, 但是无法解释

[bulbzz]

建模需要大量的数据 数据来源 数据合规 又是一个问题

[SuperMild]

在围棋战胜人类之前，我不看好 AI

在围棋战胜人类之后，我不敢小看 AI 的发展。

要知道，象棋战胜人类，那完全是靠计算速度。从那次之后，一直有很多人专门研究电脑围棋，甚至有定期的国际比赛，但直到阿法狗出现之前，电脑围棋一直是战 5 渣。

阿法狗是突然出现的，就像任何领域的科技一样，突然就会有一个突破。所以未来几十年内，AI 又突然有大发展并非不可能。

[czhfrank]

讨论这个问题，先要定义什么是智能。而这个定义是个哲学问题。

[songhui4123]

不能，就像充气娃娃永远没法跟女人比

[threebr]

@czhfrank 你说得对, 但我认为从科学的角度来看智能还是挺明确的. 如果说生物依靠基因突变随机地演化, 那么智能就是有目的地进化 /进步.

[threebr]

@SuperMild 阿尔法狗其实不是突然出现的, 基本的方法也早就有了, 主要还是靠大量工程师调参和大量的计算量实现的

[okwork]

弱人工智能是会一直进步的，弱人工智能一定会越来越强。在单一能力方面很多都比人强了，但是你还是不能说机器比人更聪明。

人总可以和机器说：你下围棋比我厉害，那我们比比打游戏； AI 打游戏也比人厉害，那我们比比开汽车，要是 AI 自动驾驶比人厉害，那我们比比铁人三项，铁人四项，铁人五项，铁人六项... AI 卒。

[starsriver]

肯定能。很困难。人可能要灭绝。

[gccdchen]

感觉更多像统计回归,但是这个很有用.现在数据只会越来越多,例如,在医疗范围,等数据可以覆盖一辈子,按计算机普及也是 2000 年,现在才过了 19 年...到时人类应该更长寿吧..

[gccdchen]

人类更长寿应该可以做出更智能的东西吧

[594kJ]

如果智能是一个函数的话，我觉得可以。
但计算机科学界对此的看法不一。
有人认为智能只需要“学习”（指机器学习）就能达到，比如 Yann Lecun ；
也有人认为目前的机器学习只能学习到浅显（ shallow ）的智能行为，比如 Davis Ernest, Hector Levesque。
上面也有同学提到了，其实科学家们对于什么是“真正的智能”，还没有一个 well-defined （良定义）的定义。
起码目前对于人工智能特别是机器学习来说，还有不少难题，比如推理和常识知识。

[zhangqilin]

机器学习=统计

[threebr]

@zhangqilin 还有规划

[threebr]

@594kJ 谢谢分享

[crazykylin]

真正的智能如果真的实现了, 人离灭亡也不远了, 因为机器如果学会了创造, 它必定不会停滞在一个阶段, 而是以超过人类想象的速度进步, 等机器造出人类无法理解的东西的时候, 人类就没有存在地必要了.

[threebr]

@crazykylin 是的，那时人类就需要思考自身存在的意义

[TobiahShaw]

我个人观点，如果有错请大佬指正：
机器学习（分类器部分），尤其是神经网络，感觉上像是{与、或、非、异或}的另一种实现方式，就像忘了在那本书上看到的“数据就是逻辑”。但是书上又类比为神经元，或者神经点位的激活路径，看起来又很像仿生结构。个人在这方面也比较困惑。对机器学习能否实现智能持消极态度。

[threebr]

@TobiahShaw 你说得很对，神经网络和生物的神经元中数据和运算是一体的，这和冯诺依曼体系不一样

[mikoshu]

感觉 ai 还是基于统计 一些创造性的东西应该还是没办法把