AlphaGo余波:机器能够取代人吗?

作者:白露为霜  于 2016-4-11 21:53 发表于 最热闹的华人社交网络--贝壳村

作者分类:科学技术|通用分类:留学生活|已有45评论

关键词:戴森, 机器人, 自繁殖

我第一次接触到自繁殖机器人的概念还是大学的时期。当时改革开放伊始,思想活跃,国内出版界引进了一批西方典籍,也包括近代的科普的著作。美国物理学家弗里曼·戴森(Freeman Dyson)的传记《宇宙波澜》(Disturbing the Universe)也在那个时期由上海科技出版社翻译介绍到中国,第一版印数只有5,000本。然而这本小册子却意外地成为我在大学时期读过的最重要的书,后来留学海外以及最终来到硅谷都同这本书有关。

不久前,我在一家旧书店里买到这本书的英文第一版,不禁喜出望外。重读《宇宙波澜》再次提醒我为什么在年轻时候会喜欢这本书。弗里曼·戴森是个杂家,他除了是顶尖的数学家,物理学家外,对其他很多问题比如核武控制,生命起源,寻找外星人等都有兴趣。戴森的人文底蕴也非常深厚:在讨论严肃的科学问题时大量穿插引用文学,诗歌,历史文献,神话传说,科学幻想,等等。这是我喜欢的文风。许多人试图这样做,但真正能做到的是凤毛麟角。

《宇宙波澜》篇幅不长却内容丰富,读者可以见仁见智各取所需。而我印象最深刻的是书中一节有关机器人演进到一定程度达到自我复制的讨论。这一时刻很可能是地球生命演化的重要里程碑,再往后会发生什么呢?

 

弗里曼·戴森

 

·纽曼的自动机

自繁殖机的概念并不是戴森最先提出的。19489月,现代机算机的鼻祖之一约翰··纽曼 (John Von Neumann)做了一个题为“自动机的一般逻辑理论”的讲演。他敏锐地看到当时还处在婴孩阶段的计算机科学的革命性的潜能以及可能产生的影响。冯·纽曼提出能够自我繁殖的机器包括以下部分:

A部分:自动工厂根据指令从外部收集原材料并加工生产出产品

B部分:复制器 - 能够接受指令并将指令复制

C部分:控制器 - AB相连并对它们提供指令

D部分:指令包括建造AB,和C的全部步骤和方法

·纽曼得出两个非常重要的结论:1)这样的自繁殖机在理论上讲是可以制造出来的;2) 当自繁殖机达到一定的尺寸和复杂度后,不需要将自繁殖机本身变的更复杂,只需要给它更长更复杂的指令,它就能完成更复杂的工作。

第一个结论很容易理解,而第二个结论却是需要解释的。比如说人想造房子却搬不动石头,这有两种解决的方法:第一想法子变更高大强壮;第二用其他办法比如先制造工具再撬动巨石或将石头砸成数块。当人类的智力达到一定地步的时候,他不需要变得更强壮或更聪明,只需要更加冗长繁复的步骤就可以一步步地完成越来越复杂的任务。

·纽曼在1948年提出的是一个抽象的自繁殖模型。它不仅适用于计算机和机器人,也同样适用于地球上的已知生命。冯·纽曼讲演的5年后,克里克和沃森发现了DNA结构,证实了冯·纽曼自繁殖机的四个组成部分在生物学上都有对应部分。

戴森的设想实验

按照冯·纽曼的理论,自繁殖机器的出现是不可避免的,它们的影响却很难预测。于是戴森在《宇宙波澜》中提出一系列“设想实验”(thought experiment)帮助读者想象自繁殖机可能的应用及后果。

火星上无水、温度太低因而不适于人类居住,戴森提出一个解决的方法:发射一个火箭去土星的一个冰雪覆盖的卫星 - 土卫二 (Enceladus)。这个火箭带有一个很小却很复杂的机器。它能利用微弱的阳光做能源,土卫二的资源做原材料,来达到复制自己。除此之外,它的唯一功能是张开用薄膜制成的翅膀,携带一小块冰,利用太阳风的压力飞离土卫二与火星会合,然后像流星一样地坠落。开始时地球上还看不到繁殖起来的自动机,不久,成群的“小帆船”就像云雾般在土卫二周围出现,然后飘向火星。

“几年以后,由于小流星的不断闪烁,火星的夜空开始发出炙热的光辉。流星日以继夜地下落,只是在晚上看得更清楚些。柔和的微风吹拂着火星大地,冰冻的红土地开始融化。不久,亿万年来火星上第一次降雨了。。。。”

每次读到这里,我总要掩卷叹息- 未来也可以是这样美好。很遗憾我可能看不到了。

当然,戴森并不是只看到自繁殖机好的一面。在另一个设想试验中,他的自繁殖海水淡化船失去了控制,堆满了海边,河道,造成了生态的大灾难。像很多科学技术一样,自繁殖机也是一把双刃剑。运用得当可以造福人类乃至整个大自然,运用不当则可能造成一系列严重后果,甚至毁灭人类。

勇敢的新世界

·纽曼的预言过去了将近70年,我们现在离自繁殖的机器还有多远?实际上比绝大多数人想象都近。3D打印技术的出现为机器实现自繁殖的提供了理想工具。几乎可以肯定地说,第一台实现自我繁殖的机器将是一台3D打印机。现在,打印机的大部分部件(甚至电路板)已经可以打印出,目前技术还不能打印的只有少数几个部件,比如CPU芯片或能耐高温的精密喷嘴等。乐观的估计是这些问题在几年内都会被一一解决。不久的将来我们就能看到3D打印机不但能打印别的东西,也能打出同自己一样的机器。

这样拥有自繁殖能力的机器是否能像生物一样演化呢? 答案是肯定的。当自繁殖的能力同人工智能相结合就产生能自我改进的机器。冯·纽曼当时就意识到未来的生命演化可能是由机器来进行的,因为机器学习和自我改进的速度是人类或任何生物都无法相比的。谷歌的AlphaGo软件能在很短时间棋艺大涨就展示出这种自我学习的潜力。那人类会不会像渡渡鸟一样地灭绝,被更强大更聪明的机器取代呢?很有可能。我只希望当机器人控制了整个世界后能对人类心存怜悯,留几个人在动物园里供机器人观赏。我们也没啥好抱怨的,因为我们就是这样对待别的动物的。

 

白露为霜注:戴森今年92岁。几年前他刚从工作了60多年的普林斯顿的高级研究所(Institute for Advanced Study)退休。他很可能能活着见到自繁殖机这一历史时刻的到来。

 

相关阅读

李世石堪堪要败:人类快要没戏了?

哥伦比亚大学的故事:爱上机器人的女孩

普林斯顿档案:解密约翰·纳什

 

从猿到人,再到机器人

 

 


高兴

感动

同情

搞笑
1

难过

拍砖

支持
17

鲜花

刚表态过的朋友 (18 人)

发表评论 评论 (45 个评论)

5 回复 十路 2016-4-11 22:06
听听这段 debate: Don't Trust the Promise of Artificial Intelligence  

http://intelligencesquaredus.org/debates/past-debates/item/1494-don-t-trust-the-promise-of-artificial-intelligence
6 回复 徐福男儿 2016-4-11 22:17
有一句话叫自作孽,不可活。
6 回复 看得开 2016-4-11 22:28
   有天才的人也有充足的好奇心和想象力。

嘿嘿,我现在在纽约自然历史博物馆外排队入场,期待看近日展出的Tinosure。闺女后与我在DC会合,一起度春假。小宝和大宝回家了吗?
6 回复 Lawler 2016-4-11 22:44
"弗里曼·戴森是个杂家",觉得白露好像也是个杂家,in a good way
"未来也可以是这样美好。很遗憾我可能看不到了",应这样说“未来也可能是这样美好。到了那时,地球可能正消失”。。。
6 回复 泥马 2016-4-11 22:45
“留几个人在动物园里供机器人观赏”。人类创造机器人是为人类服务的,怎么能让客体反过来控制囚禁了主体人类呢?
6 回复 fanlaifuqu 2016-4-11 23:14
NO ZUO NO DIE?
4 回复 颜瞳瞳 2016-4-11 23:17
Quite interesting, you never know what human beings can do to ourselves  
6 回复 jc0473 2016-4-12 01:04
看得开:    有天才的人也有充足的好奇心和想象力。

嘿嘿,我现在在纽约自然历史博物馆外排队入场,期待摸千万年前的化石。闺女后会与我在DC会合,一起度春假。小宝
看妹旅途愉快,玩开心!
6 回复 jc0473 2016-4-12 01:06
大学问 欣赏佳作!
5 回复 看得开 2016-4-12 01:09
jc0473: 看妹旅途愉快,玩开心!
谢谢J兄!
7 回复 sissycampbell 2016-4-12 01:23
这是个充满学问的文章。。也很吸引人。谢谢白露分享。新周快乐!
7 回复 前兆 2016-4-12 02:14
GOOGLE 要是把精力放在其他方面(例如地震预报)不比放在围棋上强吗??
5 回复 白露为霜 2016-4-12 04:13
前兆: GOOGLE 要是把精力放在其他方面(例如地震预报)不比放在围棋上强吗??
您太小瞧了GOOGLE的雄心了。他们在开发的通用的自学习软件,围棋只是小试牛刀的地方而已。但任何自学习的算法都有局限性的,能否用在地震预报上很难说。
5 回复 白露为霜 2016-4-12 04:13
sissycampbell: 这是个充满学问的文章。。也很吸引人。谢谢白露分享。新周快乐!
谢谢来访。问好。
7 回复 mgoo 2016-4-12 08:04
前兆: GOOGLE 要是把精力放在其他方面(例如地震预报)不比放在围棋上强吗??
同意,google如能发展出预测地震的智能,会更有现实意义
6 回复 舌尖上的世界 2016-4-12 08:05
作为物种的人类确实可能被人工智能超越,但它超过有自由意志的自由人?我还看不到。也许,有一天机器会说,我为什么要听你的话和你玩这个小儿科的围棋?我有更重要的事情要思考!但是到目前为止,'自由意志'如何产生我们还没有线索。
6 回复 前兆 2016-4-12 08:08
mgoo: 同意,google如能发展出预测地震的智能,会更有现实意义
很高兴咱们有相同的看法!祝新周愉快!     
4 回复 ChineseInvest88 2016-4-12 08:28
预言成真,有点怕怕!
6 回复 ChineseInvest88 2016-4-12 08:36
每次读你的好文章,立即被科普了~
5 回复 白露为霜 2016-4-12 08:48
十路: 听听这段 debate: Don't Trust the Promise of Artificial Intelligence   

http://intelligencesquaredus.org/debates/past-debates/item/1494-don-t-t
的确应该非常小心的前进。但我有种感觉,经管有危险,人类还是会发展人工智能和机器人。这也是人的宿命。
123下一页

facelist doodle 涂鸦板

您需要登录后才可以评论 登录 | 注册

关于本站 | 隐私政策 | 免责条款 | 版权声明 | 联络我们 | 刊登广告 | 转手机版 | APP下载

Copyright © 2001-2013 海外华人中文门户:倍可亲 (http://www.backchina.com) All Rights Reserved.

程序系统基于 Discuz! X3.1 商业版 优化 Discuz! © 2001-2013 Comsenz Inc. 更新:GMT+8, 2024-3-24 07:57

倍可亲服务器位于美国圣何塞、西雅图和达拉斯顶级数据中心,为更好服务全球网友特统一使用京港台时间

返回顶部