俄专家:人工智能对俄罗斯形成新威胁....
来源:倍可亲(backchina.com)近日,PolitGen 分析中心主任亚·伊格纳托夫斯基在俄罗斯《观点报》发文,对西方人工智能技术的最新发展及其未来前景进行了分析,并认为这将会对处在军事冲突和全面制裁下的俄罗斯造成更大冲击。现将该文编译如下,供参考。文章观点不代表欧亚新观察工作室立场。
“具有与人类匹敌智能的人工智能系统可能对社会和人类构成深远威胁”,这句话引自今年3月份发布的一封由数千名IT行业知名科学家签名的公开信,其中包括马斯克。人工智能将如何改变我们的生活,为什么它对俄罗斯来说尤其危险?
人工智能(AI)技术,连同虚拟现实和增强现实技术,正在急速发展。在未来几年,高科技将不可避免地进一步发展,并不仅仅局限于进入元宇宙的虚拟世界或增强现实中的可能性。技术不受限制的发展给世界各国和社会带来了一系列风险,俄罗斯也无法幸免。
后真相依赖
首先,人工智能技术的进步叠加虚拟化环境,可能会完全抹去真实与虚拟之间的界限。在过去15年里,随着web 2.0的发展,数十亿人对电子设备产生了强烈的依赖。人们普遍“沉缅于自己的小设备”,越来越多科学家和医疗机构承认对网络游戏和社交媒体的依赖是一种疾病。这种新型依赖尤其影响年轻人、青少年和儿童,并导致多动症(注意力缺陷多动症和过度活跃症)。
在未来几年,随着web 3.0技术完全融入并行数字现实,现实和虚构、真实和模拟之间的界限可能会消失,明确区分二者几乎不可能。在塑造公众舆论的过程中,客观的数据和事实最终会让位于情感挑衅和预先形成的判断,就像今天在几乎任何社交网络中对公众舆论的无情操纵一样。
长期以来,真相一直被“后真相”所取代。当人们意识到来自“巨魔工厂”和匿名电报网络等平台的影响时,点赞、转发和评论就已不再是客观的标准。
Web 3.0的作者试图说服我们,区块链技术的发展将使人们能够“完全拥有和管理他们创建的内容,并匿名发布他们的个人数据,从而使互联网变得更加公平和安全”。如果对此抱有怀疑,只要记住这句话:“谁付费,谁就订购音乐。“全球“BigTech(大型科技企业)”可以为存储信息、货币化、广告和数据提取提供任何平台,但它将始终对政治和社会活动加以控制。
世界上最富有的人之一马斯克在2022年春天收购了社交媒体Twitter,因为他“认为数字平台对文明发展很重要,在健康的环境中可以讨论不同的观点”。就在一年前,一些IT公司显然串通一气,作出了前所未有的决定,并将前美国总统特朗普(专题)撵出了社交网络。2022年2月至3月乌克兰特别军事行动开始时,俄罗斯社交媒体用户遭到了使用限制。
新趋势,新威胁
去年年底人工智能领域出现了新的趋势:深度学习神经网络的快速发展。Midjourney不仅可以绘制美丽的图像,还能够与人交流,甚至讨论世界观、社会、文化、政治和哲学话题。另一个例子是OpenAI公司的ChatGPT-4技术,它的创始人之一是马斯克。
到目前为止,与人工智能聊天和互动仍然属于专家和猎奇者的特权。但毫无疑问,在不久的将来,神经网络将以各种形式迅速闯入地球上大多数人的生活。
神经网络的快速发展似乎不会导致苏联科幻家所描述的光明未来。我们更有可能看到日本(专题)“盔甲鬼魂”,美国“终结者”和“黑客帝国“中的场景——人工智能获得自己的思想并将人类视作其威胁。
到目前为止,ChatGPT发布的某些内容看起来很荒谬,但该程序可以通过不断挖掘信息和大数据的积累自行更新,并查找和纠正不准确的答案,改善自身缺陷。
想象力为我们描绘了一幅可怕的画面,但这一切似乎并不像是幻想。毫无疑问,ChatGPT及其同类产品很快将能够以良好的水平编写任何文本:技术任务、法律文件、哲学论文、科学论文,人类与之交流也将更加轻松和愉快。
最重要的是,人工智能很快就会获得信任。人们会产生一种心理暗示:“这是人工智能,它说的一切都经过了计算和深思熟虑,这意味着它是正确的——因为它不会像人类那样犯错。”风险是显而易见的,大多数人很快就会相信聪明的计算机程序的说法和答案,而忽视任何其它意见和权威。即使人工智能的下一个版本突然宣布要剥夺某个人的权利,人们也完全可能会相信,因为它将会提供合乎逻辑和合理的论据。
令人欣慰的是,随着时间的推移,专家们开始敲响警钟。3月29日,马斯克、史蒂夫·沃兹尼亚克和1000多名其他人工智能专家和IT行业人士在一封特别的公开信中呼吁暂停研发比OpenAI最近发布的GPT-4更高效的人工智能系统。“广泛的研究表明,这种与人类竞争的人工智能系统可能对全人类构成严重威胁,”公开信中写道。此外,黑客还可能滥用ChatGPT等系统,这些系统可能被用于钓鱼、虚假信息和网络犯罪。
是的,可能很快就会有国家试图将神经网络的成就据为己有,要么创建或购买现有的类似网络,要么被迫使用主要跨国IT巨头拥有的现有网络。但是,如果政客们和政治家们开始倾听神经网络的声音,那等待我们的结局将远比奥威尔在著名的反乌托邦作品《动物农场》和《1984》中所描述的场景还要严重。
人工智能最终不会变成老大哥,而是变成大家长——一个对自己和世界一无所知的学龄前儿童,遇到任何问题都要跑去问爸爸。显然,在这种“信息贫民区”中,任何替代意见将不再被需要,许多职业将会消失。
俄罗斯面临的风险
在与西方激烈对抗、面临制裁压力和优先关注特别军事行动的情况下,俄罗斯面临无法为民众制造出高质量人工智能产品的风险。同样,俄罗斯也没能及时制造出高质量的国产笔记本电脑、平板电脑、智能手机或电动汽车。这直接导致了国家部分丧失技术和经济文化主权。
人工智能聊天机器人将很快成为人类所有智力活动不可或缺的日常助手。在缺乏高质量的同类产品的情况下,普通俄罗斯人在使用这些技术时可能面临潜在的意识形态压力。例如康奈尔大学的科学家们认为,chatgpt系统带有来自旧金山(专题)湾区程序员的偏左和”绿色“议程的政治倾向。
一些专家,尤其是知名认知心理学家杰弗里·辛顿预测ChatGPT型人工智能的下一个发展阶段是个性化。
“当前ChatGPT的世界观是基于所有人在互联网上认识的平均值构建的。个性化的ChatGPT将通过其在多个互联网来源上的学习获得世界观。每个这样的子集都将反映具有特定世界观的人对世界的看法。例如,“ChatGPT民主党人”会给出不同于“ChatGPT共和党人”的答案,”辛顿说。
值得思考的问题是,人工智能会通过使用某一方信息空间中的控制装置来获得权威吗?在信息战的条件下,俄罗斯的人工智能系统不应只是类似的系统,而应至少体现俄罗斯社会接受的价值观和态度,同时考虑到我们的民族、文化和宗教多样性。而今天,我们甚至不能完全理解“Yandex”公司开发的语音助手《爱丽丝》(您知道她也会画画吗?)的能力,俄罗斯人每天要向她提出1800万个问题。
不要成为机器的奴隶
当前,我们正面临着未知的挑战,这要求我们迅速进行思考。毫无疑问,技术使我们的生活变得更加方便和舒适,但我们也为此付出了极高代价。看似方便的人工智能助手可以瞬间具备不可替代性,然后成为人类社会不可或缺的组成部分。正如哲学家赫伯特·马尔库塞所说:“机器是一个为使他人成为其奴隶而服务的奴隶。”
今天,人类一只脚已经踏入了数字深渊,但另一支脚仍然站在罪恶的地球上,并因没有下定决心而不停颤抖。我们这个时代所有有思想的人的任务似乎是尽可能地推迟这种下跌进程,最好是能够及时防止。