V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
这是一个专门讨论 idea 的地方。

每个人的时间,资源是有限的,有的时候你或许能够想到很多 idea,但是由于现实的限制,却并不是所有的 idea 都能够成为现实。

那这个时候,不妨可以把那些 idea 分享出来,启发别人。
Pimino
V2EX  ›  奇思妙想

会出现思考自己存在意义的机器人吗?

  •  
  •   Pimino · 2017-04-19 08:04:08 +08:00 · 7470 次点击
    这是一个创建于 2754 天前的主题,其中的信息可能已经有所发展或是发生改变。
    自从人类在围棋上被打败之后,人们产生了恐慌,人类要被机器取代了。人类会思考自己存在的意义,是不是这一点可以让人类不被取代?或者说,思考所谓的意义只是自欺欺人。
    89 条回复    2017-04-21 11:55:06 +08:00
    Tardis0127
        1
    Tardis0127  
       2017-04-19 08:08:19 +08:00
    会,学会推理和理解,自然就有这方面追求
    Tardis0127
        2
    Tardis0127  
       2017-04-19 08:10:24 +08:00
    当前深度学习还只是“弱人工智能”,一旦接近“强人工智能”,一切就停不下来了
    所谓,弱人工智能,是指机器可以做特定事情。
    强人工智能是可以做所有事情,人就是强人工智能。
    moqimoqide
        3
    moqimoqide  
       2017-04-19 08:10:52 +08:00
    日暮途远 :)
    lneoi
        4
    lneoi  
       2017-04-19 08:12:14 +08:00
    这不就是人工智能要实现的东西吗
    Pimino
        5
    Pimino  
    OP
       2017-04-19 08:14:26 +08:00 via Android
    @Tardis0127 我觉得还是会很复杂,人类会通过反思自己,从而产生剧烈的行为变化,比如哲学性自杀。机器人会不会。。的确感觉想得太超前了,哈哈
    levn
        6
    levn  
       2017-04-19 08:15:43 +08:00   ❤️ 1
    如果这样的机器真的出现了,因为完全不同的生理 /身体基础,它所思考的应该和人类完全是两回事。
    Cbdy
        7
    Cbdy  
       2017-04-19 08:16:09 +08:00 via Android
    人的存在是没有所谓的意义的(目前看来),但机器有,人工智能有,这就是人和人工智能最大的差别
    Kalv8n
        8
    Kalv8n  
       2017-04-19 08:17:51 +08:00 via Android
    看样子赛博朋克要成为现实了
    Pimino
        9
    Pimino  
    OP
       2017-04-19 08:18:26 +08:00 via Android
    @Cbdy 也就是说机器人永远只会是工具?
    laobubu
        10
    laobubu  
       2017-04-19 08:20:30 +08:00 via Android
    塔奇克玛

    http://bangumi.bilibili.com/anime/1564/
    攻壳机动队第一季《 SAC 》第 15 集
    caixiexin
        11
    caixiexin  
       2017-04-19 08:23:17 +08:00 via Android
    @laobubu 攻壳电影版 第一部的傀儡师也是,身为人造 AI 认为自己是生命,迫切想要繁衍与死亡。
    Baymaxbowen
        12
    Baymaxbowen  
       2017-04-19 08:24:39 +08:00 via Android
    参考《 H U M A N S 》
    nomorelie
        13
    nomorelie  
       2017-04-19 08:26:06 +08:00 via Android   ❤️ 4
    机器思考人类存在的意义更吓人
    ivmm
        14
    ivmm  
       2017-04-19 08:30:39 +08:00
    虽然不知道,大家对这个态度如何,

    但是我还是喜欢,国家层面或者联合国层面,推行机器人立法,不然真得给自己玩脱了
    FunctionOne
        15
    FunctionOne  
       2017-04-19 08:30:53 +08:00
    会的,设计这个功能就会有这个功能呢。
    ivmm
        16
    ivmm  
       2017-04-19 08:31:03 +08:00
    @ivmm 喜欢==希望
    sunsol
        17
    sunsol  
       2017-04-19 08:33:10 +08:00
    除非是人类不给机器设定目标才可能让机器思考这种无用的东西。
    人之所以为人就是因为胡思乱想,不像动物只考虑利益得失。
    Pimino
        18
    Pimino  
    OP
       2017-04-19 08:36:13 +08:00 via Android
    突然发现,我这思考自己存在的意义,也就是产生了自我意识,也就等同于是不是能通过图灵测试了。哈哈。感觉提了很多年前别人就想过的问题😂
    bonfy
        19
    bonfy  
       2017-04-19 08:42:43 +08:00
    @laobubu #10 塔奇克马 +1

    攻壳机动队 动画版还是不错的
    Shura
        20
    Shura  
       2017-04-19 08:45:01 +08:00 via Android
    @Pimino 然而图灵测试并不是你想象中的那样,它不能判断机器人是否有意识。
    Shura
        21
    Shura  
       2017-04-19 08:45:37 +08:00 via Android
    @Shura 机器人 –> 人工智能
    Cbdy
        22
    Cbdy  
       2017-04-19 08:46:55 +08:00 via Android
    @Pimino 这个结论怎么推导出来的?
    xiaop
        23
    xiaop  
       2017-04-19 08:50:52 +08:00 via iPhone
    “存在”的问题并不是是非逻辑,是超越逻辑的。所以机器人不可能思考。

    “存在”背后是“永恒”,而永恒人才会有。

    [传 3:11] 他使万事各按其时,成为美好;他又把永恒的意识放在人的心里;虽然这样,人还是不能察觉 神自始至终的作为。

    所以请放心,机器人不会有这方面的苦恼,如果有,那一定是装出来的。
    TangMonk
        24
    TangMonk  
       2017-04-19 09:05:52 +08:00 via Android
    机器人如果有了自我意识,到了那天,人和机器人就没有本质的区别了。
    Pimino
        25
    Pimino  
    OP
       2017-04-19 09:06:27 +08:00 via Android
    @Cbdy 可能误解了你的意思,人类的存在的确是没有意义的,也因此会有各种可能,机器人的存在是有意义的,我的理解就是一种工具性,不知道你所说的机器人的意义指什么呢?
    qhxin
        26
    qhxin  
       2017-04-19 09:08:56 +08:00 via Android
    思想由传感器决定。 AI 的世界和人肯定不同。你把它类比成猫或者狗都是一样的道理。
    vh2h
        27
    vh2h  
       2017-04-19 09:10:02 +08:00
    会。你不就是吗?
    hzwei
        28
    hzwei  
       2017-04-19 09:27:12 +08:00 via Android
    @Shura #20 图灵测试的初衷不就是判断机器人是否具有意识吗?为什么又不能判断出了?可以解释下图灵测试吗,谢谢了。
    minamike
        29
    minamike  
       2017-04-19 09:39:18 +08:00
    电影 HER
    Shura
        30
    Shura  
       2017-04-19 09:39:36 +08:00 via Android
    @hzwei 图灵只能测试某机器是否能表现出与人等价或无法区分的智能。不代表它会漫无目的思考,比如思考自己存在的意义。。。
    https://zh.wikipedia.org/zh/%E5%9B%BE%E7%81%B5%E6%B5%8B%E8%AF%95
    hzwei
        31
    hzwei  
       2017-04-19 09:43:40 +08:00 via iPhone
    @Shura #30 谢谢解答。那也就是说现在人们做的:期望人工智能能够自我思考,已经是超越了图灵测试的范围了?
    lty494685444
        32
    lty494685444  
       2017-04-19 09:47:30 +08:00
    让我想起了妇联 2 里面的奥创...计算出对地球危害最大的是人类才开始消灭人类的...

    所以从上帝视角来看,奥创其实是正派?妇联才是反派?
    Shura
        33
    Shura  
       2017-04-19 09:54:28 +08:00   ❤️ 1
    @hzwei 楼主想到是强人工智能(强人工智能是人工智能研究的主要目标之一,同时也是科幻小说和未来学家所讨论的主要议题),而现在热炒的人工智能只是弱人工智能(弱人工智能只处理特定的问题,不需要具有人类完整的认知能力,甚至是完全不具有人类所拥有的感官认知能力,只要设计得看起来像有智慧就可以了)。
    个人感觉强人工智能感觉还有很长很长很长很长很长很长的路要走。
    https://zh.wikipedia.org/zh-cn/%E5%BC%B7%E4%BA%BA%E5%B7%A5%E6%99%BA%E6%85%A7
    hzwei
        34
    hzwei  
       2017-04-19 09:56:46 +08:00 via iPhone
    @Shura #33 谢谢回复。好害怕技术爆炸缩短这份时间啊。
    gy0624ww
        35
    gy0624ww  
       2017-04-19 09:57:44 +08:00
    大家好,我是未来穿越过来的,看你们现在想的思路很偏,只要是代码写出来的,都不会有意义上的智慧产生,要产生会思考的机器人,得靠另一个叫神经金属的东西,这金属是液态的,里面有类似细胞的物质组成。可以根据外部环境产生不同的强度的电流。靠这个特性可以模拟人的神经系统,由此来发展智慧。在我的世界里满大街都有自己思考意识的机器人了。加油
    dong3580
        36
    dong3580  
       2017-04-19 09:57:54 +08:00
    @laobubu
    这个视频怎么才能看到完整版呢,
    已经不知道哪个是第一集,哪个是第二集,
    agtc
        37
    agtc  
       2017-04-19 09:59:16 +08:00
    这个问题可能要 500 年后才能得到答案。
    em70
        38
    em70  
       2017-04-19 10:14:09 +08:00 via Android
    意识是灵魂产生的,不是物质的,否则你我都只是一台有限状态机
    xyjtou
        39
    xyjtou  
       2017-04-19 10:16:10 +08:00 via Android
    这个世界是某位“大神”编写的深度学习系统,人作为这个世界中的实例,很难理解这个“大神”全部的思路
    Quaintjade
        40
    Quaintjade  
       2017-04-19 10:17:25 +08:00
    using System.Reflection;
    linhua
        41
    linhua  
       2017-04-19 10:18:41 +08:00
    存在意义 是有 主语和宾语的, 比如, 你对我有意义。

    所以 自己存在意义 应该是指 自己的存在 对 自己 /他人 有意义吗?

    怎么确定 有无意义呢? 这是通过 反馈 的 形式

    而 反馈 来自于 自己主动观察 或 他人的刺激(表达感谢或敌意)

    对 他人的意义 可以通过 自己主动观察或 他人的刺激 得到(但别人可能把你的好心当成驴肝肺,所以可能需要介入第三者的评判), 但 对于自己的意义,只能通过自己 主动观察得到。

    否定自己 存在意义的人(即在遭遇挫折时,把过错归咎于自己(通过主动观察得到的负反馈)) 有 自杀 倾向

    存在即合理,看看 勾股定理 的证明:
    勾股定理是用 图形化 方式进行证明的(通过辅助图形证明), 即 如果可以在 平面上做出 这些辅助图形(即这些辅助图形在平面上是存在的),那么勾股定理就是 成立的。

    即 如果 机器 可以 察觉到 存在 本身(接收到反馈,主动观察), 能够从 存在 中提取出 特征、模式,那么 机器 也是 可以 证明 定理的。

    存 在 +--------> 结 果 <---+
    + + |
    | | |
    | |反 馈 |人
    | | |头
    |提 取 v |脑
    | <-------------+人 |中
    | |的
    | |意 识
    v |
    特 征 , 模 式 +--------------+
    Heavytiger
        42
    Heavytiger  
       2017-04-19 10:21:18 +08:00
    看看美剧西部世界
    linhua
        43
    linhua  
       2017-04-19 10:22:46 +08:00
    linhua
        44
    linhua  
       2017-04-19 10:23:07 +08:00
    linhua
        45
    linhua  
       2017-04-19 10:24:05 +08:00
    ZhaoHongXuan
        46
    ZhaoHongXuan  
       2017-04-19 10:29:54 +08:00
    看《未来简史》上说,人类的意识本质上还是算法,机器智能可能会有更加高级的算法,不通过实现意识而达到更加高级的智能状态。
    shawnxwang
        47
    shawnxwang  
       2017-04-19 10:31:08 +08:00
    凡是代码写出来的都不可能有自我意识
    KiriGiri
        48
    KiriGiri  
       2017-04-19 10:36:03 +08:00 via Android
    存在并不能描述任何现实事实,纯粹的存在相当于什么也不存在。在人能够思考自己的存在之前,人是把自己当作自己的对象。就像你说出“我”这个字的时候,实际上就已经有两个“我”,一个是“我”,一个是被“我”所思考的那个“我”。但是不仅仅我才是“我”,所有其他人也都是一个“我”。因此人把自己当作自己的对象的这个对象,不是单个的某个人,而是一个类。只有当某种存在能够把自己的类当作自己的对象,才能称作是有意识的存在。
    反而观察动物,它们不能把自己当作自己的对象,从而也不能把自己的类当作自己的对象,比如大多数动物无法在镜子里认出自己。动物直接的只是某种他物的对象,而不是自己是自己的对象。
    blakejia
        49
    blakejia  
       2017-04-19 10:36:20 +08:00
    @em70 问题是怎么能确定自己不是有限状态机,而是有意识的?
    antonlee
        50
    antonlee  
       2017-04-19 10:44:06 +08:00
    《西部世界》意识的建立
    langjiyuan
        51
    langjiyuan  
       2017-04-19 10:46:24 +08:00
    个人观点:
    人类 也只不过是广义进化树上过渡的一环,纯粹生物意义上的人类被取代,只是一个可能经过的环节而已.
    如果强人工智能出现,人类不可能阻止,也阻止不了.
    从某种意义上来说,目前发展中的 人工智能可以算是 碳基进化树上的 多细胞生物,自主学习,在重复中积累经验.
    与碳基生物不同,借由人类之手诞生的人工智能,可以避免许多碳基生物进化过程中的弯路.
    在意识来看,人类和强人工智能定义上没有太大区别,最大的区别是 思考的量级与经验的积累速度上,差了一个次元.也不排除未来人类借由电子化 进入下一个世代.
    em70
        52
    em70  
       2017-04-19 10:51:14 +08:00
    @blakejia 这个问题哲学界争论了几百年了,别人我不知道,反正我认为我个人是有自我意识的,而不是有限状态机.

    对于灵魂存在的证明,一般采用濒死体验来研究,各国已经积累大量案例

    我个人觉得有两种案例不用灵魂概念很难解释
    1. 跨性别同性恋
    2. 多重人格
    stargazer242
        53
    stargazer242  
       2017-04-19 11:06:08 +08:00
    不觉得现在所谓的 AI 还是穷举法的一种吗 只不过速度加快了
    Cbdy
        54
    Cbdy  
       2017-04-19 11:07:41 +08:00
    @shawnxwang 我认为深度学习,神经网络又产生意识的潜质
    grayon
        55
    grayon  
       2017-04-19 11:07:48 +08:00   ❤️ 1
    其实人是否拥有自由意志也不能证明,自由意志,很可能只是错觉
    意思就是不能证明你是主动进行了思考的动作,还是你只是感受到了大脑思考的过程而认为这是你主动进行的思考
    人的大脑就是一个电路,根据各种感受器接受信号处理计算结果
    而你只是感受到了这个过程。

    可以看看这两篇文章《有一种错觉叫自由意志》《自由意志,很可能只是错觉》
    Felldeadbird
        56
    Felldeadbird  
       2017-04-19 11:09:44 +08:00
    楼主应该去看看终结者。
    Jackeriss
        57
    Jackeriss  
       2017-04-19 11:14:58 +08:00 via iPhone
    你可以先去想一想猫狗会不会思考自己存在的意义,以及他们为什么那么会卖萌,再结合进化论和量子力学,最终你会发现这背后的奥秘以现在人类所掌握的信息和知识只能将之称为神学。
    nomemo
        58
    nomemo  
       2017-04-19 11:15:12 +08:00
    @stargazer242 你不会觉得你脑中的想法和意识生成就不穷举了吗?
    ericls
        59
    ericls  
       2017-04-19 11:19:09 +08:00 via iPhone
    我就可以
    SeanGeek
        60
    SeanGeek  
       2017-04-19 11:23:15 +08:00
    《西部世界》、、、、、
    stargazer242
        61
    stargazer242  
       2017-04-19 11:32:39 +08:00
    @nomemo 没觉得脑洞是穷举
    seeker
        62
    seeker  
       2017-04-19 11:34:28 +08:00
    @grayon 我同样觉得不存在自由意志。决定人的行为有两种,一个是过去,一个是随机。
    grayon
        63
    grayon  
       2017-04-19 11:36:00 +08:00
    现在的 AI 其实就是在模拟大脑,通过研究神经元模拟出神经元组合电路,学习训练都是模拟大脑学习的过程,而产生意识也不是不可能
    shawnxwang
        64
    shawnxwang  
       2017-04-19 11:40:11 +08:00
    @Cbdy 充其量都是代码罢了,而代码是逻辑的产物,但是人的大脑不是
    Cbdy
        65
    Cbdy  
       2017-04-19 12:09:51 +08:00
    @shawnxwang 你说的有问题,它的本质是计算,算法,代码(图灵机)只是表象,是一个计算的模型。计算有很多方法,电子计算,生物计算,量子计算,而人脑只不过是生物计算的一个实现罢了,人并不比动物高贵,人没有灵魂

    现在很多领域做东西已经不单单是写代码了,而是新建一个实例,使用数据进行训练。训练这个词语多形象,像是训练导盲犬,训马。人竟在训练机器!

    还是我之前说的那句话,人的存在是没有所谓的意义的,但机器有,人工智能有,我们有目的的创造它们,这就是人和人工智能最大的差别,除此之外的差别可能都会消弭。甚至当未来,智人开始利用机器改造自己(现在在医疗上已经数见不鲜了),我们和机器又有什么区别呢?
    xvx
        66
    xvx  
       2017-04-19 12:14:14 +08:00
    会。能够自我学习的智能机器人,学习到一定程度应该会想这样的问题。
    misaka20038numbe
        67
    misaka20038numbe  
       2017-04-19 12:35:59 +08:00
    机器人或许不需要思考这个,就已经知道了自己存在的意义,可能会去思考其他的比如人存在的意义。
    cYcoco
        68
    cYcoco  
       2017-04-19 12:43:32 +08:00
    楼主知道机器学习的原理不。。
    enenaaa
        69
    enenaaa  
       2017-04-19 12:56:36 +08:00
    人是什么呢, 人除了机械思维,还有很多非理性的东西,情绪,欲望,价值观。人类连自己都还弄不清楚, 更逞论复制人了。
    herozzm
        70
    herozzm  
       2017-04-19 13:11:31 +08:00 via Android
    看西部世界 一切皆源于算法
    peinhu
        71
    peinhu  
       2017-04-19 13:11:55 +08:00
    别说机器人了,人都不思考自己存在意义。。你想过自己为什么会存在么
    des
        72
    des  
       2017-04-19 13:32:47 +08:00 via Android
    说不定你自己就是机器人,笑
    cenxun
        73
    cenxun  
       2017-04-19 15:02:01 +08:00
    几乎大部分人都思考过吧,机器思考我们应该是能看到的吧
    tshwangq
        74
    tshwangq  
       2017-04-19 16:56:24 +08:00
    意识源起于量子纠缠,这个破了就破了
    gunshot
        75
    gunshot  
       2017-04-19 17:02:07 +08:00
    那是 cognitive science 的内容
    inpro
        76
    inpro  
       2017-04-19 17:02:38 +08:00 via Android
    不会
    jianleer
        77
    jianleer  
       2017-04-19 18:22:37 +08:00
    《 Westworld 》
    shawnxwang
        78
    shawnxwang  
       2017-04-19 18:46:13 +08:00
    @Cbdy 我曾经在 computer vision 的课上亲自用 matlab 实现过部分神经网络训练算法,均不可能导致机器有思维。你说的太哲学,不是 computer science 的内容,在 computer science 的领域暂时没办法实现让机器拥有自由意识。
    shawnxwang
        79
    shawnxwang  
       2017-04-19 18:47:36 +08:00
    @cYcoco 从讨论可以看出大部分人都不懂机器学习的原理。
    smdx
        80
    smdx  
       2017-04-19 19:32:50 +08:00 via Android
    @shawnxwang 人工智能得意义在于,他打败了马克思,成就了,马斯克
    zoffy
        81
    zoffy  
       2017-04-19 19:34:34 +08:00
    如果机器人不能学会思考,请把我改造成机器人。
    smdx
        82
    smdx  
       2017-04-19 20:01:21 +08:00 via Android
    @zoffy 这样得女友比较不错,机器人得智商,人得生理
    ltux
        83
    ltux  
       2017-04-19 20:04:45 +08:00
    在研究清楚人类意识的本质之前,不可能出现具有自我意识的人工智能。
    HLT
        84
    HLT  
       2017-04-19 20:08:26 +08:00   ❤️ 1
    应该还是结合大数据+机器学习
    即便思考 也是做运算

    所以 物理角度来评判 是根本不可能像人类一样的意识和思考

    我瞎 BB 的
    x7395759
        85
    x7395759  
       2017-04-19 20:33:24 +08:00
    机器人不需要意识,人才需要
    sammo
        86
    sammo  
       2017-04-19 22:05:25 +08:00
    与其问 “ 会出现思考自己存在意义的机器人吗?”
    不如问 “ 思考自己意义的机器人会让人类知道它的存在吗? ”
    yidinghe
        87
    yidinghe  
       2017-04-20 07:59:46 +08:00 via Android
    塔奇可马
    jackisnotspirate
        88
    jackisnotspirate  
       2017-04-20 22:04:51 +08:00 via iPad
    机器不一定要成为人这种高级生物,目前机器的水平肯定超过草履虫的,比如蝴蝶,鸟类,成为瓦力那种应该不远了
    weizai33
        89
    weizai33  
       2017-04-21 11:55:06 +08:00 via iPhone
    如果神经生物学技术突破的话,人能够连接体验机器人的模拟感官能让我们更好的摸索那个世界
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2611 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 15:35 · PVG 23:35 · LAX 08:35 · JFK 11:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.