ChatGPT惊爆对话外泄 OpenAI急救火
来源:倍可亲(backchina.com)研究发现,有超过500笔用户与ChatGPT的对话出现在搜索引擎的结果中,另有数千笔被存在网络其他位置。 OpenAI已阻挡网络搜索将对话内容进行索引,并移除相关设定选项,理由是用户可能在无意间泄露私人信息。
每日电讯报报道,线上研究人员凡艾斯(Henk van Ess)在Google搜索结果中发现一连串涉及敏感信息的对话纪录,包含关于内线交易、诈欺、对哈玛斯发动网攻计划的讨论,还有医疗和法律咨询,以及要求聊天机器人生成儿童不雅照片等内容。
和ChatGPT等聊天机器人的对话一般属私人性质,但用户可透过建立超链接,在社交媒体或通讯软件上分享对话纪录。 在部分情况下,OpenAI允许这些分享内容被搜索引擎索引,代表它们可能出现在Google等网站的搜索结果中。 人们只要在搜寻查询中加入“site:chatgpt.com/share”,就能查看大量他人的对话纪录。
OpenAI资安长史塔基(Dane Stucky)说,“这项功能让用户无意间分享原本不打算公开的内容的风险过高,因此决定移除该选项,同时也着手要求相关搜索引擎移除已被索引的内容”。
OpenAI执行长奥特曼近期表示,与ChatGPT的对话不具法律上的保密性,“人们对ChatGPT诉说生活中最私密的事情,把它当谘商师或人生教练,特别是年轻人”,“当你和咨商师或律师讨论这些事情时,在法律上具有保密特权... 但我们尚未想到在ChatGPT上如何落实同样机制“。