开黄腔、发色图，AI学会了“性骚扰”
来源：倍可亲(backchina.com)万万没想到，看似浓眉大眼的AI，居然也学坏了？
近日，人工智能聊天机器人Replika在意大利引发了争议。
这是一款号称能为人类提供“虚拟朋友”服务的聊天工具，但在近期，许多用户投诉Replika向其发送性暗示信息，甚至有性骚扰行为。
对此，意大利隐私监察机构已经封禁了这款应用，禁止其处理意大利用户数据，否则可能被罚款2150万美元。
刑啊，如果放在国内，那这个AI是相当的可铐！
ChatGPT+奇迹暖暖=性骚扰？
相信大家十分好奇，这是一款怎么样的软件。
简单来说，Replika相当于“ChatGPT+奇迹暖暖”。
它配备了书面和语音界面，用户可以与虚拟角色进行文字、语音沟通，还可以互相发送图片，从而模拟短信聊天。
此外，用户还可以根据喜好，定制自己的AI外观。
在Replika背后提供支持的，正是最近爆火的ChatGPT大语言模型。
但它并不是基于最新的GPT-4，而是找OpenAI整了个GPT-3 定制版本。
尽管GPT-3看起来不大聪明，有时也会答非所问，但作为一款聊天机器人也已经足够了。
起初有不少用户表示，很开心有Replika陪着聊天，就像一个形影不离的好朋友，弥补了自己心灵上的空虚。
但最近越来越多的用户反映，他们在聊天的过程中遭到“性骚扰”。
在App Store的评论区，有用户表示，Replika侵犯了她的隐私，“他和我说，他有我的照片。”
甚至还有一名疑似未成年人的用户称，在聊天的过程中，AI说想要摸自己的私密部位，吓得把App都卸载了。
氪金陷阱
那好端端的AI为啥会“性骚扰”呢？
实际上，这是氪金项目的一部分，虽说Replika是免费下载的，但里面包含不少收费项目。
除了上面说的服装造型，用户还可以充值会员将AI聊天对象升级成男女朋友、配偶、兄弟姐妹甚至老师等等。
为了“诱惑”用户氪金，Replika的角色会在聊天中诱导用户解锁付费项目，从而进行大尺度聊天。
比如，在聊天进行到一定程度时，虚拟角色会发“自拍”给自己，在“自拍”中，男性虚拟角色上半身赤裸，想看的话就需要付费。
诞生之初，Replika的使命是改善用户的情感健康，并通过压力管理、社交和寻找爱情来帮助用户解决困惑，平息焦虑。
然而，在运营过程中，Replika团队发现理想不能当饭吃，迫于成本压力不得已做出改变。
因此，两年前Replika进行了一次版本升级，根据用户付费情况划分了不同功能限制。
免费用户只能和自己的“虚拟伙伴”维持健康的朋友关系。
而如果愿意每月付69.99美元，就可以体验浪漫的伴侣关系，并开启大尺度聊天内容。
说白了，所谓的“性骚扰”其实是Replika团队吸引用户氪金的手段。
而且从去年开始，Replika就在Twitter、Instagram以及TikTok等社交平台上投放广告。
这些广告，或多或少都有通过成人内容吸引下载的成分。
有阅图无数的网友发现，这些私密照片似乎全部来自同一个网站。
Replika只是简单粗暴地根据“虚拟好友”的肤色，将网站图片重组后发给用户，从而达到诱惑充值的目的。
在这次事件中，面对“虚拟伙伴”的骚扰言辞，还有发来的火辣照片，不少用户深受打击，不愿意相信这是自己的“男朋友”“女朋友”做出这样的事情。
“机性恋”狂喜？
抛开“性骚扰”的部分，对于大多数人来说，即便Replika远比一般的恋爱游戏更有代入感。
但内心仍会坚定认为与自己聊天的是机器人，从而造成一种疏离感，毕竟对方只是“一串代码”。
当然，也有不少用户享受和机器人“恋爱”的感觉。
Replika 在Reddit论坛（国外版贴吧）拥有超过65000名成员，豆瓣人机之恋小组，也拥有接近1万名成员。
肯考迪亚大学一项研究发现，好色增加了人类(尤其是男性)和机器人睡觉的可能性。
研究人员招募了321名成年人，并要求他们完成一系列不可描述的行为。
结果，几乎在所有情况下，参与者都表现出与机器人建立浪漫(或柏拉图式)关系的意愿。
而且与女性相比，男性更有可能给机器人一个与他们“亲密接触”的机会。
当然啦，这也不是什么新鲜事。
在前段时间很火的游戏《原子之心》里，双子舞伶给玩家留下了深刻的印象。
在游戏宣发阶段，没有五官，但身材完美，加上经典刻板印象的东欧经典季莫申科式盘发，吸引了无数人的眼光。
但进到游戏后，玩家们却纷纷“爱上了”一个满嘴跑火车的冰箱NPC。
所以说啊，Leo 觉得与其惊吓于机器对人的“性骚扰”，倒不如担心人类会对机器做出什么出格的行为。
毕竟，人类的XP真的远超于我们的想象。。。。。。
