ChatGPT即将为成人用户开放验证过的色情内容
来源：倍可亲(backchina.com)OpenAI计划在其热门聊天机器人ChatGPT上开放更广泛的内容，包括色情作品，这是其“将成人用户视为成年人”（treat adult users like adults）原则的一部分，该公司营运长山姆·阿特曼（Sam Altman，山姆·奥尔特曼）表示。
阿特曼周二在社交媒体X上发文表示，即将推出的热门聊天机器人版本将使其行为“更像人类”——“但仅限于你想要的情况，而不是因为我们在最大化使用量”。
这一举措让人联想到伊隆·马斯克 (Elon Musk) 的xAI最近为Grok推出两个性暗示聊天机器人，可能有助OpenAI吸引更多付费用户。
这也可能加剧对立法者的压力，要求对聊天机器人伴侣实施更严格的限制。
迄今，OpenAI尚未回应BBC的置评请求。
但阿特曼表示，OpenAI先前对ChatGPT进行了“相当严格的限制，以确保我们谨慎处理心理健康问题”。
这些变更于今年8月在一篇部落格文章中宣布，但该文章现已从OpenAI网站上消失。
“我们意识到，这让许多没有心理健康问题的用户觉得产品不够实用或有趣，但鉴于问题的严重性，我们希望先做好这件事，”阿特曼本周二在贴文中解释。
他又表示ChatGPT很快就能放宽这些限制，“因为我们已经能够缓解严重的精神健康问题，并拥有新工具”。
阿特曼还补充道：“随着我们更全面地推出年龄验证，并作为我们‘将成人用户视为成人’原则的一部分，我们将在12月允许更多内容，例如为已验证成人提供色情作品。”
这些变更是在今年稍早OpenAI被一名自杀美国青少年的父母起诉之后做出的。
马特和玛丽亚·莱恩（Matt and Maria Raine）夫妇——也是16岁亚当·莱恩（Adam Raine）的父母——对该公司提起诉讼。这是首例指控OpenAI过失致人死亡的法律诉讼。
该家族提供了亚当·莱恩（四月过世）与ChatGPT的聊天记录，显示他向机器人解释自己有自杀念头。
当时OpenAI向BBC表示，正在审查该诉状。“我们对莱恩家族在此艰难时刻致以最深切的慰问”，该公司说。
儿童用户安全疑虑
事实上，根据英国《网路安全法》（Online Safety Act），书面色情作品无需年龄验证。
然而，色情图像（包括AI生成的）则要求用户证明年满18岁。
在美国，批评人士认为，OpenAI允许在其平台上发布色情内容的决定表明，联邦和州一级需要加强监管。
“他们要如何确保儿童无法存取ChatGPT的成人专属部分，并提供色情内容？”律师事务所“博伊斯·席勒·弗莱克斯纳”（Boies Schiller Flexner）合夥人珍妮·金（Jenny Kim）表示。
金女士参与一宗针对Meta（脸书）的诉讼，该诉讼指控该公司Instagram的演算法损害青少年用户的心理健康：“OpenAI和大多数科技巨头一样，只是在把人们当成小白鼠，”她说。
四月，美国科技博客网站TechCrunch报导称，OpenAI允许注册为未成年人的帐户生成图像色情内容。
OpenAI当时表示，公司正在推出修复措施，以限制此类内容。
本月由非营利组织“民主与科技中心”（Centre for Democracy and Technology）公布的一项调查研究发现，有5分之1的学生称他们或他们认识的人曾与AI发展“浪漫关系”。
星期一，加州州长加文·纽森 (Gavin Newsom) 否决了州议会通过的一项法案，该法案原本将禁止开发者向儿童提供AI聊天机器人伴侣，除非公司能保证软体不会助长有害行为。
纽森在否决附带讯息中表示，“青少年必须学会如何安全地与人工智慧系统互动”。
在全国层面，美国联邦贸易委员会（FTC）已启动调查，探讨AI聊天机器人如何与儿童互动。
上个月，美国参议院提出两党立法，允许聊天机器人用户向开发者提起责任索赔。
为何开放色情内容?
阿特曼周二的宣布，正值怀疑者质疑AI科技公司市值快速上涨之际。
OpenAI的营收正在成长，但从未实现获利。
《风险投资炼金术》作者、图兰大学商业教授罗博·拉尔卡（Rob Lalka）分析，原因主要是AI公司正陷入市场份额之战。他向BBC解释“没有哪家公司像OpenAI的ChatGPT那样拥有如此高的采用率”。
“他们需要继续推动那条指数成长曲线，尽可能实现市场主导，”他补充道。
