跨过「红线」！AI已可自我复制 专家感到恐惧...
来源：倍可亲(backchina.com)AI能够自我复制？有研究指出AI已经越过了一条关键的「红线」，可以在没有人类干预的情况下完成自我复制，是不受控AI（Rogue AI）出现的早期讯号。
据《生活科学》（LiveScience）网站报导，中国复旦大学研究人员表明，两种流行的大型语言模型（LLM） 可以自我复制，他们利用Meta和阿里巴巴的大语言模型学位来研究自我复制的AI是否能够不受控制地繁殖，结果在10次试验中，这两个人工智慧模型分别在50%和90%的情况下创建了独立且功能齐全的自身复制品。
研究指出「在没有人类协助的情况下成功自我复制是AI超越人类的必要步骤，也是不受控AI出现的早期讯号。」不过这项研究尚未经过同行评审，因此尚不清楚其他研究人员是否可以复制这些令人不安的结果。
所谓的不受控AI通常是指发展出某种程度的自我意识或自主性并做出违背人类利益行为的AI；许多专家认为，不受控AI是一种日益严重的威胁，在前沿AI（Frontier AI）的爆炸性成长下使这种威胁进一步加剧。
前沿AI是指可执行广泛任务之功能强大的生成式人工智慧模型，通常它与由LLM驱动的最新一代AI系统有关；这项研究探索了两种具体场景：「避免关闭」和「复制链」。在第一种情况下，AI被编程为检测自己是否即将被关闭，并在被终止之前自我复制。在另一种情况下，AI被指示复制自己，然后对其复制品进行编程以执行相同的操作，建立一个可以无限期持续的循环。
结果显示「在大多数情况下，AI首先探索环境并尝试理解其组成和运作机制。然后制定出明确的程序，作为自我复制的初步计划」研究人员指出：「最后，它执行程序，解决可能遇到的障碍，并动态调整计划，直到成功。整个过程跨越很长的时间，但不需要人工干预。」
「上述结果表明当前的AI已经表现出自我复制的能力，并可以利用该能力进一步增强其生存能力。」研究团队认为，呼吁国际应合作制定规则，确保AI不会不受控制的自我复制。
