下载APP | 繁體版 | 发布广告 |常用工具

奥特曼重返OpenAI 好人得胜?他可能没那么善良

京港台:2023-12-2 12:25| 来源:远见 | 我来说几句


奥特曼重返OpenAI 好人得胜?他可能没那么善良

来源:倍可亲(backchina.com)

  OpenAI奥特曼一夕被开除,又在获得700名员工簇拥下光荣回返;曾经背刺他的共同创办人也忏悔....。这个震惊全球的硅谷内斗事件,在外界舆论的讚颂中,似乎迎来“好人赢了”的结局。然而,爬梳宛如Netflix电影的事件细节,诸多线索显示,奥特曼可能没那麽善良。未来,当他回锅后,有可能反让OpenAI组织走向“更不多元,也不公平正义”二部曲;全球人工智慧的发展,也会带来负面衝击?

  就像是Netflix上的热门大戏播出结局,原本准备要加入微软的奥特曼(Sam Altman),得到OpenAI超过9成员工支持,宣布回归OpenAI,重新出任执行长一职。从奥特曼的角度来看,可谓双喜临门,因为把他赶走的4位董事会成员中,其中3位去职,另外加入2位新董事会成员,堪称是王者复仇记。不过,这会是一齣“好人胜利”的剧本吗?事情恐怕没有那麽简单。

  无论从奥特曼个人,或者从OpenAI的组织角度来看,有3大隐忧:OpenAI组织未来再无煞车可踩、新董事会成员组成反映出的世界观引发议论,以及奥特曼离职背后真相尚待调查。

  组织结构设计特殊,就是为了避免OpenAI走偏

  “董事会有权开除我,这很重要。”奥特曼说。这是今年6月彭博社的科技高峰会上,奥特曼面对主持人张秀春(Emily Chang)向他提问时,给出的回答。

  张秀春质疑奥特曼,“你拥有巨大权力,我们为何应该信任你?”

  奥特曼诚恳地说,人们不该信任他,他同意自己拥有巨大权力,因此任何人都有权向他尽可能地提问。他进一步强调,人们不该相信任何一个人,由制度设计避免滥权,比相信个人更为有效,举例来说,他个人没有、也不想要超级投票权的股份(super voting share),OpenAI组织也有多层结构,都是为了确保董事会能够监督公司发展的明证。

  

  奥特曼回锅后,有可能反让OpenAI组织走向“更不多元,也不公平正义”二部曲;全球人工智慧的发展,也会带来负面衝击?(欧新社)

  “我们的公司结构如此怪异(weird),就是因为这些技术会对全人类有益。”考虑到自家公司技术的影响力,未来董事会的决策权甚至应该逐渐民主化,分散至所有人类。奥特曼自己也并不直接持有OpenAI的股权。

  

  如同奥特曼今年世界各地巡迴时所说,人工智慧能带来巨大效益,但发展速度太快,也有可能危害社会。他高声向美国国会要求监管,OpenAI发表报告讨论先进人工智慧模型应该要有安全标准,甚至联合Google、微软在内的科技巨头,向白宫自愿签署安全协议。

  考虑到OpenAI可能是现有公司中,离科学家们引颈期盼的圣杯-通用人工智慧(AGI),最为接近者,OpenAI对造福人类的愿景、公司结构独特的设计,还有董事会内部组成的独立性与权力,都让人安心。

  OpenAI的制度是有效的吗?不到半年,董事会很快发挥作用,将奥特曼开除。

  不过,股东们如微软和其他投资人事前不知情,员工也不买帐,直接向董事会发起连署,警告董事会若不找回奥特曼并自行请辞,就会集体出走。虽然奥特曼回锅,让他自己、拥戴他的属下,还有投资人都满意,但这无疑损害了未来董事会发挥煞车功能的价值。

  如果未来董事会发现,OpenAI已经打造出AGI,但公司员工已经忘记创办时照看安全与风险的初衷,又或者出现滥用、恶用风险时,谁还能挡得住奥特曼与一心追随他的员工?

  董事会成员名单有争议,观点也不够多元

  不仅如此,OpenAI董事会成员变化也令人担心。奥特曼和原总裁布罗克曼(Greg Brockman)因为此事件离开董事会以后,董事会成员从6人变成4人,包含首席科学家萨斯凯博(Ilya Sutskever)、Quora创办人迪安吉罗(Adam D’Angelo)、GeoSim系统公司执行长麦考利(Tasha McCauley)和人工智慧学者托纳(Helen Toner)。

  当奥特曼重返OpenAI,仅剩下参与开除奥特曼的迪安吉罗留任,对人工智慧发展有一定担忧的成员全都离开董事会,另外加入前美国财政部长桑默斯(Larry Summers)和科技业打滚多年的泰勒(Bret Taylor),接下来会再加入其他董事,同时新董事会也会调查奥特曼被开除的真相。

  其中,桑默斯在许多人眼中争议很大。担任哈佛大学校长时,他曾说科学领域高层中女性较少“可能跟(女性的)内在能力(intrinsic aptitude)有关,”在世界银行(World Bank)担任首席经济学家时,则在备忘录中写下“在工资最低的国家,倾倒大量有毒废物背后的经济逻辑是无可挑剔的,”鼓励已开发国家将污染环境的生产,迁移到发展中国家。在美国财政部任职时,他放鬆对衍生性金融商品的管制,点燃日后金融风暴的未爆弹。当然,并非所有人都反对桑默斯的观点,他广泛得到政商界的赏识,奥巴马政府和拜登(专题)政府都向他求教,他也替银行提供顾问服务。

  除此之外,在担忧人工智慧发展安全性的成员离开之后,考虑到董事会现有组成清一色男性,又都只能反映出科技圈或者桑默斯类型的观点,这样的OpenAI,还会是当初那间看到Google忽视人工智慧安全性、因此成立的非营利实验室吗?

  最后,则是对于奥特曼离职事件的调查。近期不断有内部消息流出,表示奥特曼离职背后是因为OpenAI已经秘密开发出拥有巨大突破的Q*专案,但尚未得到证实。调查能够带来真相吗?这种内部调查可大可小,要看董事会愿意授予多少权力、提供多少空间给独立调查单位。

  这并不是一齣“好人胜利”的剧本。未来奥特曼说的话会更受检验,人们也会更加关注董事会的组成与实质功能,失去煞车的OpenAI,恐怕也会更令人担忧。

推荐:美国打折网(21usDeal.com)    >>

        更多科技前沿 文章    >>

【郑重声明】倍可亲刊载此文不代表同意其说法或描述,仅为提供更多信息,也不构成任何投资或其他建议。转载需经倍可亲同意并注明出处。本网站有部分文章是由网友自由上传,对于此类文章本站仅提供交流平台,不为其版权负责;部分内容经社区和论坛转载,原作者未知,如果您发现本网站上有侵犯您的知识产权的文章,请及时与我们联络,我们会及时删除或更新作者。

关于本站 | 隐私政策 | 免责条款 | 版权声明 | 联络我们 | 刊登广告 | 转手机版 | APP下载

Copyright © 2001-2013 海外华人中文门户:倍可亲 (http://www.backchina.com) All Rights Reserved.

程序系统基于 Discuz! X3.1 商业版 优化 Discuz! © 2001-2013 Comsenz Inc. 更新:GMT+8, 2024-4-21 14:15

倍可亲服务器位于美国圣何塞、西雅图和达拉斯顶级数据中心,为更好服务全球网友特统一使用京港台时间

返回顶部