中国AI审案 准确度达97% 外界忧恐被“武器化”

中国AI审案 准确度达97% 外界忧恐被“武器化”

　　中国上海浦东新区人民检察院开发AI检察官，号称起诉罪行的准确度达97%。翻摄百度 图片来源 : 苹果新闻网

　　中国研究人员声称开发全球首个透过AI（人工智慧）来起诉罪犯的机器人，根据口头描述，就能针对罪行进行起诉，号称准确率超过97%。不过，英国《每日邮报》直指，该AI可以识别对国家的「异议」意见并建议量刑，引发外界担忧其恐遭中共「武器化」。在此同时，人类检察官也质疑，AI的决策若出错，应该由谁来负责。

　　报导指出，该AI由上海浦东新区人民检察院开发和测试。该计画首席科学家、中国科学院大数据与知识管理实验室主任石勇指出，这项技术可以减少检察官的日常工作量，让他们能够专注于更困难的任务，并称「该系统在一定程度上可以取代检察官在决策过程中的角色。」

　　根据《南华早报》报导，该AI可以在标准桌上型电脑上执行，在利用2015年至2020年共1.7万个真实案例进行「训练」后，已能够辨识上海最常见的8种犯罪行为，并提出相对应的起诉。这些罪名包括信用卡欺诈、经营赌博、危险驾驶、故意伤害、妨碍公务、盗窃、欺诈和寻衅滋事。

　　其中最引发外界忧心的是所谓的「寻衅滋事」，这项罪名在中国常常被用来对付异议人士。

　　石勇表示，AI检察官很快会进行升级，功能也会变得更强大，包括能够辨识不太常见的罪行，以及针对同一名嫌犯提出多项起诉等。

　　截至目前为止，部分AI技术已应用在司法领域上，但以AI进行起诉却将是首例。举例来说，德国检方已利用图像识别和数位取证来协助处理案件，而中国则使用一种称为System 206的工具来评估证据、嫌犯潜在危险和逮捕条件；但该系统并不参与决策过程，也不建议量刑。

　　广州一名检察官表示，对于AI检察官深感忧虑。「从技术角度来看，97%的准确率可能很高，但总会有出错的可能。一旦发生错误，应该由谁来负责？检察官、机器还是演算法的设计者？」他也补充说，许多人类检察官不希望电脑来干扰他们的工作，「人工智能可能有助于发现错误，但不能代替人类做出决定。」也有人担心它无法跟上不断变化的社会标准，并且可能被中共武器化。