AI教父离开Google 忏悔并警告人工智慧的风险

AI教父离开Google 忏悔并警告人工智慧的风险

　　“AI教父”辛顿（Geoffrey Hinton）于昨日（1日）证实，上周已经辞去Google的工作。辛顿接受《纽约时报》采访时坦言后悔毕生心血，并且警告AI可能变得比人类更聪明。辛顿是多伦多大学电脑科学系教授。

　　台湾ETtoday新闻网报道，75岁的辛顿在神经网络领域取得开创性成就，因而深刻形塑现代科技使用的人工智慧系统。他在Google工作逾10年并且参与AI研发计划，如今却开始担忧这项科技和自己在推动AI中扮演的角色。

　　辛顿担心AI可能削减工作机会，创造出一个许多人“再也无法分辨真相”的世界。他指出，AI惊人的发展速度已经远超出他与其他人的预期，“有一种想法认为，这个东西真的会变得比人类更聪明，一些人这麽认为，但大多数人觉得差得远了。我也曾觉得太离谱，我认为还差了30到50年，甚至更久的时间。显然，我不再这麽认为了。”

　　辛顿坦言，以前“我用常见的藉口安慰自己，如果我没有做，别人也会做的”，如今离职并不是为了批评Google，“我离开是为了谈论AI的危险，又不用考虑这会如何影响Google。Google的行为非常负责任。”

　　2021年，辛顿在孟买印度科技学院演讲时就曾表示，“我相信AI的快速发展将以一个我们不完全理解的方式改变社会，并非所有影响都会是好的。”他指出，AI将能促进医疗保健，同时也为致命自动化武器创造机会，“我认为，这个前景比机器人取代人类更直接也更可怕”，后者反而还有很长一段路要走。

　　去年6月，Google工程师勒莫因（Blake Lemoine）在网络公开对话纪录，宣称AI聊天机器人LaMDA具备感知能力，甚至就像一个“7、8岁的孩子”，但此说法遭到许多AI界人士强烈反弹，他也因为违反员工及数据安全政策被开除。

　　CNN写道，ChatGPT热潮进一步推动科技业的“军备竞赛”，OpenAI、微软及Google处于趋势前列，IBM、亚马逊、百度及腾讯也在研究类似技术。不过，越来越多立法者、倡议团体及科技业人士警告，AI聊天机器人可能散播假消息及取代人类工作。今年3月，特斯拉执行长马斯克与逾千名科技巨头连署发表公开信，呼吁停止训练AI系统至少6个月，理由是“对社会及人类的深刻风险”。