波音737连续坠毁,原来是人工智能在惹祸!

作者:8288  于 2019-3-13 15:35 发表于 最热闹的华人社交网络--贝壳村

作者分类:网络文摘|通用分类:热点杂谈|已有19评论

何毅 2019-03-11 08:59:03

昨天坠毁的这架波音737max8,和去年底印尼坠毁的那架波音737max8一样,都是刚服役不到半年的新机。真实的原因可能是,飞机的自动驾驶系统做出了错误的判断和操作。

波音737连续坠毁,原来是人工智能在惹祸!

实际上,波音早已经说了其自动驾驶系统存在致命缺陷,需要驾驶员注意,但估计飞行员们不是都认真领会了波音的警告。

这是个隐藏很深的bug,隐藏很深的功能(bug),全名是“AOA传感器数据错误导致的自动驾驶断开后飞行员手动飞行情况下为了防止飞机失速自动触发的飞机水平尾翼配平子程序”

飞行员往往要自己发现飞机在俯冲,才发现机翼被A程序动过了;更加坑爹的是,根据设定,A程序只有在飞行员手动驾驶的时候才会启动。也就是说,在飞行员已经关闭自动驾驶仪,认为自己在完全控制飞机的时候,A程序还是会偷偷的操纵飞机,并让飞机俯冲....

作为人工智能系统,A程序认为做事一定要负责,不达目的誓不罢休。

所以它不仅自说自话让飞机俯冲,还会在飞行员命令飞机停止俯冲后,每隔5秒钟,再次自动让飞机进入俯冲.... 如果飞行员再把机头抬起来,5秒钟后,A程序就把再机头按下去,让飞机俯冲,这样拉起来,按下去,拉起来,按下去......如此反复,开展一场“人机大战”。

致命a程序可以关闭,但是操作指南太庞大,一时半会找不到怎么关闭,并且飞行员往往不知道是a程序在暗中捣鬼。

这是一场让飞行员莫名其妙而又无可奈何的人机大战,自动驾驶要俯冲,人要上拉。

实际上这是波音737max第三次故障,去年12月,挪威采购的波音737max8回国途中出故障,但紧急迫降成功,降落在伊朗,那次没载乘客。

波音公司仅仅在11月6日修改了飞行手册,并没有做进一步处理,而这个事故罪魁祸首-机动增强系统,还原样保留,并未做任何设计修改,从狮航事故看来,这个系统存在严重的设计缺陷,飞机有2套攻角传感器,其中任何一套出故障,这套系统完全不能排除故障设备,而系统倾向于使用最恶劣的往往是最不可靠的数据做指引,按照最大的攻角来触发,触发之后自动推杆10秒钟,然后改平,这个系统导致了JT610飞机反复进入死亡俯冲,导致机毁人亡!

所以,在我们追捧人工智能技术的时候,这场决策主导权的变更,可能为人类带来的负面影响,也正在慢慢体现


高兴

感动

同情

搞笑

难过

拍砖

支持
9

鲜花

刚表态过的朋友 (9 人)

发表评论 评论 (19 个评论)

1 回复 8288 2019-3-13 15:37
希望不要再发生。这个事故就是就程序控制权和手动控制权优先级问题,一旦触发,人工干预无效,结果可想而知。人工智能,作为辅助可以,完全依靠,极端情况就麻烦了。世界上复杂的,怎么可能程序完全可以取代人?
2 回复 sweets 2019-3-13 16:43
8288: 希望不要再发生。这个事故就是就程序控制权和手动控制权优先级问题,一旦触发,人工干预无效,结果可想而知。人工智能,作为辅助可以,完全依靠,极端情况就麻烦
双刃剑啊!
1 回复 一笑奈何 2019-3-13 17:29
不管什么原因,希望不要再有类似的事情了
1 回复 何以静待 2019-3-13 17:30
一笑奈何: 不管什么原因,希望不要再有类似的事情了
+1
2 回复 离开的木偶 2019-3-13 17:30
一笑奈何: 不管什么原因,希望不要再有类似的事情了
讲的对
3 回复 來美六十年 2019-3-14 00:11
8288: 希望不要再发生。这个事故就是就程序控制权和手动控制权优先级问题,一旦触发,人工干预无效,结果可想而知。人工智能,作为辅助可以,完全依靠,极端情况就麻烦
人工智能不應代替人的大腦
3 回复 徐福男儿 2019-3-14 00:12
人工智能遠不到可以完全信賴的地步。
3 回复 夕明 2019-3-14 00:19
人工的智能控制了人。
2 回复 qxw66 2019-3-14 04:09
软件太垃圾!
1 回复 南沙2 2019-3-14 08:43
草菅人命的波音公司,上月23日在美国休斯敦刚失事的767货机也是差不多情况
1 回复 buxiangzhangda 2019-3-14 18:44
不能完全依赖智能
0 回复 8288 2019-3-15 02:34
qxw66: 软件太垃圾!
老印干的好事
這么重要的系统交给外行来做不合适
0 回复 8288 2019-3-15 02:39
徐福男儿: 人工智能遠不到可以完全信賴的地步。
阿三做的软件
1 回复 8288 2019-3-15 02:41
南沙2: 草菅人命的波音公司,上月23日在美国休斯敦刚失事的767货机也是差不多情况
想省钱赚多点找阿三做系统现在反而赔大发了
0 回复 tea2011 2019-3-15 04:18
昨天订机票破天荒的先看机型
0 回复 jc0473 2019-3-15 06:34
8288: 希望不要再发生。这个事故就是就程序控制权和手动控制权优先级问题,一旦触发,人工干预无效,结果可想而知。人工智能,作为辅助可以,完全依靠,极端情况就麻烦
为什么没有在达到危险高度时的自动保护机制呢
1 回复 8288 2019-3-15 07:37
jc0473: 为什么没有在达到危险高度时的自动保护机制呢
印度阿哥的思路以为是在做window 10  
回复 8288 2019-3-15 12:17
sunnylan: AI还需要时间去验证,需要更先进的技术去支撑,也许前景好的,但是希望不要再用人命去实验,自动驾驶汽车同理
同感
回复 jc0473 2019-3-16 12:56
8288: 印度阿哥的思路以为是在做window 10   
嘻嘻,地灵灵

facelist doodle 涂鸦板

您需要登录后才可以评论 登录 | 注册

8288最受欢迎的博文
  1. 在美国65岁以上可以享受这么多福利 [2016/06]
  2. 【中国大牌明星的淫乱演唱会 尺度堪比18禁】 [2013/12]
  3. 華人濫用福利遭調查被遣返 [2018/01]
  4. 再来说在美国如何看免费的中文电视 [2016/01]
  5. 北美超市里那些看不懂的Cheese种类及吃法 [2016/01]
  6. 在美国养老有哪些福利 [2015/09]
  7. 看清美國超市那些令人目眩的牛奶! [2016/08]
  8. 2015新婚姻法!看完都沉默了!(那个贪官脑残想出来的) [2014/12]
  9. 吃完的芒果别扔 [2016/05]
  10. 美國老年人優惠大合集 [2017/08]
  11. 美官方:中国驾照在美国各州使用细则 [2015/09]
  12. 中国开始偿到道德伦丧的恶果,展会场面惨不忍睹 [2018/07]
  13. 美国自驾游最完美路线 [2015/07]
  14. 逛旧金山湾区9个风情小镇 [2016/05]
  15. 出门需带好绿卡或护照2016年起多州驾照不能再搭乘美国国内航班 [2016/01]
  16. 外國上海人: “作孽,外國待久了,人戇掉了。” [zt] [2010/06]
  17. 穷人为什么怀念毛泽东,富人为什么崇拜毛泽东,一些人为什么疯狂吹捧毛泽东? zt(转载 [2010/04]
  18. 郑博士:“生命在于运动”是严重误导 [2012/05]
  19. 帮朋友的孩子拉票请投12号....谢谢! [2014/12]
  20. 看别人不顺眼 是自己修养不够 (转载) [2011/01]
  21. 揭秘上海江苏路285弄 [2012/07]
  22. 金曲情牽半世紀演唱會 [广东话] [2012/05]
  23. 晒晒我家的阳台 [2010/09]
  24. 尚未有人能在10秒钟内一字不差的念完,不信 你可以试试 [2010/11]
  25. 31年过去了 那令人刻骨铭心的岁月..3月8号 [2010/03]
  26. 欢迎新朋友春苗 ( 季家凰 ) [2010/04]
  27. 忆旧——即将消失的上海卢湾区 [2011/07]
  28. 久违的朋友你在何方? [2011/11]
  29. 发人深省的文章,与好友分享! [zt] [2011/01]
  30. 毕业了 [2012/06]

关于本站 | 隐私政策 | 免责条款 | 版权声明 | 联络我们 | 刊登广告 | 转手机版 | APP下载

Copyright © 2001-2013 海外华人中文门户:倍可亲 (http://www.backchina.com) All Rights Reserved.

程序系统基于 Discuz! X3.1 商业版 优化 Discuz! © 2001-2013 Comsenz Inc. 更新:GMT+8, 2019-3-16 13:17

倍可亲服务器位于美国圣何塞、西雅图和达拉斯顶级数据中心,为更好服务全球网友特统一使用京港台时间

返回顶部