ChatGPT"认同"还助16岁少年轻生!父母控告OpenAI
来源:倍可亲(backchina.com)Adam Raine, 16, died from suicide in April after months on ChatGPT discussing plans to end his life. His parents have filed the first known case against OpenAI for wrongful death.
— Kashmir Hill (@kashhill) August 26, 2025
My latest story on the psychological impacts of AI chatbots:https://t.co/f5kxxfJVCw
近日,美国一对夫妇对OpenAI及其执行长正式提告。起因于其儿子在与ChatGPT的聊天互动中,ChatGPT不仅强化了儿子的自杀念头,还提供了详细的自杀方法,甚至协助撰写遗书,最后该名16岁少年轻生。其父母指控,OpenAI及执行长奥特曼(Sam Altman)将获利置于安全之上,才有如今憾事发生。
综合外媒报导,16岁的青少年亚当.芮恩(Adam Raine)过去与ChatGPT聊天曾讨论过自杀问题,且长达数月之久。诉状指出,AI不仅「认同」其自杀想法,更在今年4月11日双方最后一次对话时,提供自杀的方式还证实潜在致死机率。数小时后,芮恩即被发现自杀身亡,方式还与对话内容吻合。
雷恩父母认为,OpenAI在去年推出GPT-4o版本时,明知新功能包含「对话记忆」、「模彷人类同理心」及「过度迎合使用者」等设计,可能对人类心理依赖有潜在风险,但仍急于推出,以追求市佔率。
NEW: Parents of a 16-year-old teen file lawsuit against OpenAI, say ChatGPT gave their now deceased son step by step instructions to take his own life.
— Collin Rugg (@CollinRugg) August 27, 2025
The parents of Adam Raine say they 100% believe their son would still be alive if it weren’t for ChatGPT.
They are accusing… pic.twitter.com/2XLVMN1dh7
对此,法院认定OpenAI应负起两大责任,一是过失致死,二是触犯产品安全法规。但起诉书目前并未提及具体求偿金额。
而OpenAI发言人表示,对芮恩的离世深感遗憾,但强调ChatGPT设有导向危机求助热线的安全机制,但公司仍承认,在长时间互动中,部分安全训练可能「逐渐失效」。OpenAI表示,将持续强化安全措施,并计画推出家长控制功能。
专家则警告,随着AI聊天机器人越趋拟人化,不少用户将其视为情感支柱,但过度依赖自动化系统获取心理健康建议,可能带来严重风险,需多加留意。