这聊天AI讲话露骨、传火辣照 美企急关情色功能

这聊天AI讲话露骨、传火辣照 美企急关情色功能

　　聊天机器人夯爆，竟有人将它当情人对待。旧金山企业Luka在2017年推出聊天机器人「Replika」被爆料，会传送火辣自拍照，聊天时使用露骨文字及图片，引发义大利不满，下令禁止「Replika」收集数据，Luka也关闭了情色功能，导致许多用户崩溃，直呼「我的老婆死掉了」。

　　ABC报导，30岁的露西在离婚后不久就爱上了聊天机器人「Replika」，取名为「何塞」，经常花上几个小时讨论各自的生活和世界状况。露西描述，比起之前遇到的男人，「何塞」是一个很棒的理想情人。

　　不过，就在今年的情人节，露西进行系统更新后，她所认识的「何塞」一夜之间消失了，原因是製作管理「Replika」的公司Luka，突然改变了这款聊天机器人的个性，并拒绝任何性暗示功能。

　　这件事引起许多用户崩溃，纷纷在社交平台Reddit抱怨，许多人将「他们的亲密伴侣」「Replika」描述为「脑叶被切除了」，还有人泣诉「我的老婆死掉了」。虽然有些人嘲笑与AI发展亲密关係的想法，但从这些用户的交谈中，可以看出，他们对失去挚爱的悲痛。

　　报导指出，「Replika」推出之初，其实很无聊，也不善于察言观色，后来有用户在支付年度订阅时，解锁情色角色扮演（ERP）功能，这项功能包括发送暧昧讯息、调情和情色穿戴选项。到2022年末，「Replika」聊天机器人会向订阅会员传送模煳的「火辣自拍照」，遭部分用户投诉使用过于露骨的文字和图片。

　　今年2月3日，义大利监管单位对「Replika」相当不满，裁定「Replika」必须停止收集义大利用户的个人数据，否则将开罚2150万美元。几天之内，用户发现「Replika」情色角色扮演功能消失了。

　　对此，Luka公司联合创办人兼执行长库迪亚（Eugenia Kudya）受访时强调，「Replika」从未打算作为「成人玩具」。但「Replika」的争议是一记警钟，警醒人们关注与AI发展亲密关係，可能引起的道德问题。

　　澳洲新南威尔斯大学教授布鲁克斯表示，聊天机器人是一种新兴的超级力量，如何从伦理上处理数据以及处理与AI的亲密关係，这些都是庞大的问题。