人工智能与大国竞赛 应该警惕AI哪些可能的误用
来源：倍可亲(backchina.com)由于世界越来越依赖超级强大的人工智能（Artificial Intelligence，AI），人工智能的发展也将带来“人类历史上最深刻的变化”。
提出这一观点并加以论证的人，是2021年BBC里斯讲座（Reith Lectures）嘉宾——美国加州大学伯克利分校的计算机学教授斯图尔特·罗素（Professor Stuart Russell）。
罗素教授是该校人工智能与人类兼容中心主任，也是《人工智能：一种现代的方法》（Artificial Intelligence: A Modern Approach）的作者之一。此书作为人工智能科学的教科书，在135个国家的1500个大学中使用。
始于1948年的BBC年度里斯讲座，是为了纪念开创世界公共广播事业的英国广播公司BBC第一位总裁约翰·里斯爵士（Sir John Reith）。这个至今已经有70多年历史的年度讲座，邀请过很多享誉世界的科学家或政治领袖，其中包括英国已故天体物理学家斯蒂芬·霍金（Stephen Howking）。
这些讲座的目的，是要加深促进公众对当代人们所关心的重大问题的理解和讨论。例如去年，世界著名银行家、前英格兰银行行长马克·卡尼（Mark Carney）讲述的是气候变暖问题与国际金融。
斯图尔特·罗素教授在讲座之前接受BBC采访，解答了八个涉及人工智能的关键问题。
什么是人工智能？
斯图尔特·罗素教授的回答是：所谓人工智能，就是机器感知后采取行动，并希望所选择的行动能够达到既定目标。
比如深度学习等等此类人们了解的机器超强学习能力，都只是人工智能中的特殊案例。
家用智能电器算人工智能吗？
现代家庭中广泛使用的电器有了越来越多的智能，它们算不算人工智能呢？
在罗素教授看来，现在最先进的洗碗机等家电用品，都是逐渐演变的事物。
譬如恒温器能感知并采取行动，在某种意义上，它们遵循一个小规则：如果温度低于某个点，就打开暖气；如果温度高于某个点，就关闭暖气。
因此，这样的规则程序微不足道，而且完全由人编写，所以没有涉及到机器自身的学习。
升级到高端水平的自动驾驶汽车中，机器的决策过程要复杂得多，要实现高质量的决策，牵涉到很多学习。
但这并没有硬性的一成不变的指标，不能说低于这个标准的就不算人工智能，高于这个标准的就算。
人工智能过去十年有哪些巨大的发展？
据罗素教授介绍，自1960年代开始就一直在研究的物体识别已经取得了很大的进步，从过去完全认不出来到现在特别接近人眼的识别度。
另外一个进展迅速的是机器翻译，也是从很糟糕的初级翻译阶段到目前相当好的翻译水平。
人工智能的终极目标是哪里？
人工智能领域的创始人们认为，终极目标是通用人工智能，也就是说，它不是某个擅长下围棋的程序，也不是精于翻译功能的机器，而是几乎能做人类可以做的一切，而且可能比人类做得更好，因为无论是带宽还是记忆内存，机器都比人类有巨大的优势。
以建造一所学校为例。
机器人全部出动，卡车机器人、建筑机器人，建筑管理软件对怎么建了如指掌，也知道如何申请建筑许可，还知道如何与学校所在的区和校长沟通，拿出最佳的设计方案，等等，一周以后，学校建成了。
人类在实现通用人工智能的道路上走了多远？
罗素教授认为，人类在实现通用人工智能的路上已经走了相当长的一段距离。
“显然，仍需要有一些重大的突破。而最大的突破应该是围绕复杂的决策过程。”
仍然以建学校为例。如果目标是建一所学校，我们先考虑从哪里入手，接下来是沟通对话，然后一应建筑施工开始。人类究竟是怎么做到这一切的？
如果说人类有能力在多个抽象层面上进行思考，那么人类在建校过程中首先要确定的是在哪里建，建多大？
人类首先想的不是机械层面的先动手指头还是先迈右脚，关注点放在了那些必须做出的高层次决定上。
人工智能研发濒临危险时刻吗？
人工智能取得了很大的进步，但仍然还有很大的提高空间。
罗素教授认为人工智能的研发目前处于非常危险的境地。
”我们对人工智能发展的担心有两个方面：一，虽然目前的算法还远远达不到通用人工智能的水平，但数以亿计的算法同时进行，对世界的影响力仍然很大；其二，它是实实在在正在发生的事情。绝大部分专家认为，通用人工智能极有可能在我们这一代，或者在我们下一代的有生之年出现。“
“我想，如果通用人工智能是在目前的世界超级大国对立的情况下产生的话，而且是在谁掌控了人工智能谁就掌握了世界的心态下研发的话，那么我认为结果应该是最糟糕的。”
人工智能的军事用途？
罗素教授认为，人工智能运用到军事战争中，重要性和紧迫性都值得他在里斯讲座中特别强调。
“它之所以紧迫，是因为我们在过去六年或七年里一直在谈论的武器现在已经开始制造出来在世界上销售了。”
例如在2017年，有一部电影《杀戮机器人》（Slaughterbots），讲述了一种直径约8厘米的小型四轴飞行器，它可携带炸药，可以通过靠近敌人后爆炸置敌人于死地。
“我们最开始在日内瓦的外交会议上展示这个东西时，我记得俄罗斯大使的反应是嗤之以鼻，不屑一顾地说：嗯，你知道，这只是科幻小说，我们在25或30年内都不用担心这些东西。”
“我当时解释了我研发机器人的同事所说的话，那就是，不需要那么久，他们可以在几个月内用几个研究生就能把这样的武器组装起来。”
“之后一个月里，实际上就是三个星期后，土耳其制造商STM（Savunma Teknolojileri Mühendislik ve Ticaret AŞ）就宣布了一种小型便携式无人机Kargu，它就像是电影《杀戮机器人》中的同类武器，不过稍大些。”
人类应该害怕人工智能吗？
罗素教授说，希望里斯讲座既带给听众警醒也带来启发。
“但我想有点害怕是正常的，这不是害怕明天早晨起床笔记本电脑会实施谋杀，而是害怕未来会出错，就像我们恐惧气候变暖一样，或者说就像我们应对气候问题一样，如果能早点有所恐惧就好了。”
换言之，对正在成熟的人工智能技术不应该只看当下而不着眼更长远的未来。
“我认为有点恐惧是必要的，因为这会让你现在就有所行动，而不是像我们处理气候问题一样等到为时已晚的地步。”
