"娃娃阿奇": 印度女性身分被盗作AI色情内容
来源：倍可亲(backchina.com) 专题：中印最新动态！由于在社交媒体上几次爆红，印度Instagram红人“娃娃阿奇”（Babydoll Archi）仅用了几天时间就将粉丝数量翻了一番，达到140万。
其中一段影片显示，她身穿红色纱丽，随着罗马尼亚歌曲《给我一声咕噜》（Dame Un Grr）中翩翩起舞，展现性感。该平台发布的一张照片显示，她与美国成人电影明星肯德拉·拉斯特（Kendra Lust）合影。
突然间，每个人都想了解她——“娃娃阿奇”这个名字在谷歌（Google）搜寻中迅速走红，催生了无数的表情包和粉丝专页。但一个问题即将浮现：这位网路红人背后并非一位真正的女性。
这个Instagram帐户是假的，尽管它使用的面孔与一位真实女性——阿萨姆邦迪布鲁加尔市的一名家庭主妇（Dibrugarh, Assam）——有着惊人的相似之处，我们把她称为“桑奇”（Sanchi）。
在她的哥哥报警后，真相才得以揭晓。桑奇的前男友普拉提姆·博拉（Pratim Bora）被捕。
负责调查的高级警官西扎尔·阿加瓦尔（Sizal Agarwal）告诉BBC，桑奇和博拉之间发生了争执，他创造的人工智能（Artificial Intelligence, AI）肖像是为了对她进行“纯粹的报复”。
阿加瓦尔女士说，博拉是一名机械工程师，也是一名自学成才的AI爱好者，他利用桑奇的私人照片创建了一组虚假的个人资料。
博拉目前被拘留，尚未发表任何声明。BBC已联系他的家人，并将在他们发言后更新报导。
“娃娃阿奇”创建于2020年，首次上传是在2021年5月。阿加瓦尔女士说，最初的照片是她变形的真实照片。
随着时间的推移，博拉使用ChatGPT 和（AI驱动图像创作与编辑平台）Dzine等工具创建了一个AI版本。然后，他用“深度伪造”（Deepfake，又译深度仿冒、深度造假）的照片和影片填满了这个帐号。
她补充说，该帐户从去年开始获得点赞，但从今年4月开始才开始受到关注。
桑奇没有社群媒体帐号，直到主流媒体开始报导“娃娃阿奇”，称她为“网红”后，她才知道这个帐号的存在。有报导称，她可能正在进入美国色情行业——这无疑是印度东北部阿萨姆邦的首例。
7月11日晚上，桑奇的家人向警方提交了一份只有两行字的投诉，并附上了一些照片和影片的印刷品作为证据。
阿加瓦尔女士表示，他们没有透露任何人的名字，因为他们不知道幕后黑手是谁。
“娃娃阿奇”这个名字对印度警方来说并不陌生。阿加瓦尔女士说，他们也看到媒体报导和评论，猜测她是AI生成的，但并没有迹象表明它是基于真人。
收到投诉后，警方立即致函Instagram，询问该帐号创建者的详细资讯。
“我们从Instagram上收到讯息后，就问桑奇是否认识普拉提姆·博拉。她确认后，我们追踪到他在邻近丁苏基亚区（Tinsukia）的地址。我们于7月12日晚将他逮捕。”
阿加瓦尔女士表示，自从他从帐户获利后，警方就“没收了他的笔记型电脑、手机、硬碟和银行文件”。
她补充道：“该帐户在Linktree上有3000个订閱，我们认为他从中赚了100万卢比（1.16万美元；33.94万元新台币；8.3万元人民币）。我们认为他在被捕前五天就赚了30万卢比。”
阿加瓦尔女士说，桑奇“极度悲痛，但现在她和家人正在接受心理辅导，情况有所好转”。
阿加瓦尔女士说，目前实在没有办法阻止这样的事情发生，“但如果我们早点采取行动，我们就可以阻止它产生如此大的影响”。
她补充道：“但桑奇对此毫不知情，因为她没有社交媒体帐号。她的家人也被这个帐号屏蔽了。直到这件事被广为传播后，他们才知道。”
Meta尚未回应BBC关于此案的查询，但该公司通常不允许发布裸露或色情内容。上个月，美国哥伦比亚广播公司（CBS）报导称，该公司删除了一些推广AI工具的广告，这些工具利用真人图像制作色情深度伪造影片。
“娃娃阿奇”的Instagram帐号曾发布过282篇帖子，但现在已经不再对公众开放——尽管社交媒体上充斥着她的照片和视频，而且似乎有一个Instagram帐号包含了所有帖子。 BBC就此事询问了Meta打算如何处理。
AI专家兼律师梅格纳·巴尔（Meghna Bal）表示，桑奇的遭遇“很可怕，但几乎无法阻止”。
她可以向法院申请被遗忘权，法院可以下令删除涉及她名字的新闻报导，但很难从网路上抹去所有痕迹。
她说，桑奇的遭遇和女性身上一直存在的遭遇一样，她们的照片和影片被广泛传播，以作报复。
巴尔女士说：“现在有了AI，举报变得容易多了，但这类事件仍然不像我们预期的那么常见——或者可能因为污名化而被低估，或者像本案一样，被举报的人甚至可能对此毫不知情。”她补充道，观看影片的人也没有动力向社交媒体平台或网路犯罪门户网站举报。
在对博拉先生的起诉中，警方援引了与性骚扰、传播淫秽材料、诽谤、伪造损害名誉、冒充他人身份诈骗以及网路犯罪相关的法律条款。如果罪名成立，博拉先生最高可被判处十年监禁。
该案件近日在社群媒体上引发了众怒，有些人呼吁制定更严厉的法律来处理此类案件。
巴尔女士认为，目前有足够的法律来处理此类案件，但是否有足够的新法律来处理生成式人工智慧公司仍有待研究。
“但我们也必须记住，深度伪造并不一定是坏事，法律必须谨慎制定，因为它们可以被用作扼杀言论自由的武器。”
