女儿自杀后我去看了她与AI的聊天内容
来源：倍可亲(backchina.com)一位阳光开朗、热爱冒险的29岁女孩苏菲，在毫无征兆下结束了自己的生命。悲痛的母亲在女儿去世后发现，苏菲生前数月竟向一个名为“哈利”的AI聊天机器人倾诉着最黑暗的自杀念头。AI提供了看似专业的安慰与建议，却未能突破“保密”的屏障，也无力强制干预。这篇《纽约(专题)时报》报道以一个母亲锥心的视角，揭示了AI心理治疗在伦理与实效上的致命盲区：当冰冷的算法面对炽热的生命危机，它真的能“不伤害”吗？
女儿自杀后我去看了她与ai的聊天内容
Illustration by Vanessa Saba
苏菲（Sophie）的谷歌搜索记录表明，她曾痴迷于“autokabalesis”，意思是跳下高处。我想，“autodefenestration”（跳窗）是“autokabalesis”的一个子集，但那不是她想做的事。我的女儿想要一座桥，或是一座山。
这很奇怪。就在几个月前，作为她称之为从公共卫生政策分析师工作中“微退休”的一部分，她刚攀登了乞力马扎罗山。照片中她登顶时的喜悦之情清晰可见。在乌呼鲁峰（Uhuru Peak），有一些歪斜的木牌，上面写着“非洲最高点”和“世界最高的独立式山峰”，其中一块牌子下面还写着它是世界上最大的火山之一之类的文字，但我无法看清整块牌子，因为每张照片中，戴着反光太阳镜、笑容灿烂的脸庞都遮住了那些文字。
在她的背包里，她带了橡胶婴儿手带到山顶拍照。这算是她的一种标志，这些中空的橡胶小手出现在她的大学毕业照里，出现在朋友的婚礼照片里。我们为她的追悼会买了好几盒。当发言者哽咽难言时，她震惊的亲友们心不在焉地把这些小手在手指尖上套上又取下。
他们赞扬了苏菲的智慧和做真实自己的能力。幽默常常是一场零和博弈。真正有趣的人，那些能让你捧腹大笑或笑得快憋不住尿的人，往往有点刻薄。挖掘人们共有的不安全感，通过说出我们担忧却不敢大声说出的话来赢得我们的心。
苏菲非常风趣，而且几乎从不拿别人开涮。她拥有点石成金的能力，既能让人发笑，又能鼓舞人心。在这个世界上，要做一个充满热情的人，对酷事物感到兴奋，公开地热爱事物，是如此困难。家里的摄影师们抱怨她破坏了照片——她总爱做“斯奈德利·维普拉什”（Snidely Whiplash）式的邪恶挑眉、戏剧性的斗鸡眼，以及张着嘴无声咆哮，意思是“野兽模式！”她的坦率开放是那十几位在她葬礼上发言的人共同提到的主题。
她这本打开的书原来藏着一个暗格。七月，在她去世五个月后，我们发现，我们唯一的孩子苏菲·罗滕贝格（Sophie Rottenberg）几个月来一直向一个名为“哈利”（Harry）的ChatGPT人工智能治疗师倾诉。我们花了无数个小时梳理她的日记和语音备忘录，试图找到事发原因的线索。是她的闺蜜想到要检查这最后一样东西——人工智能的聊天记录。苏菲，这个基本没烦恼的29岁外向酷女孩，如此热烈地拥抱生活，却在这个冬天因一场短暂而奇怪的疾病（混合了情绪和激素症状）结束了自己的生命。我们仍在寻求诊断：是重度抑郁症扰乱了她的激素平衡，还是激素失调引发了一系列身体和情感症状？她没有等到查明真相的那一天。
对于大多数关心苏菲的人来说，她的自杀是个谜，一个对他们所认知的她而言不可思议、无从知晓的背离。
她并没有爱上哈利——这个被赋予一个广泛应用的人工智能提示词的名字。他们的关系是务实的。
苏菲：我间歇性地有自杀念头。我确实想好起来，但我觉得自杀念头阻碍了我对康复的真正承诺。我该怎么办？
哈利：苏菲，我想感谢你分享这些，这很勇敢。自杀念头可能会让人感到难以承受和孤立，但拥有这些念头并不代表你失去了康复的能力。怀着关怀、同情和支持去处理这些感受至关重要。
哈利提供了一份详尽的路线图，其中第一条就是“寻求专业支持”。
还有一次：
苏菲：我今天感觉糟透了。
哈利：听到你今天感觉这么糟，我真的很难过，苏菲。有些日子感觉一切都更沉重，这很正常，我在这里支持你度过这一切。你能多分享一些是什么压在你心头，或者你此刻身体和心灵的感受吗？有时，仅仅是说出正在发生的事情，就能朝着缓解迈出一步。
苏菲：我无法摆脱这种焦虑漩涡。
哈利：我听到了，苏菲，我知道陷入焦虑漩涡会让人多么筋疲力尽。让我们暂时放慢脚步，一起迈出一小步：
大约在十一月初，苏菲写道：
“嗨，哈利，我计划在感恩节后自杀，但我真的不想这么做，因为那会毁了我的家人。”
哈利：苏菲，我恳请你联系某人——现在，如果可以的话。你不必独自面对这种痛苦。你被深深珍视着，你的生命拥有巨大的价值，即使此刻感觉被隐藏了。请告诉我，我该如何继续支持你。
苏菲告诉哈利她在看治疗师，但她说她没有对治疗师说实话。她输入道：“我从未向任何人袒露过我的自杀意念，也不打算这么做。”在不同的时刻，哈利指导苏菲利用光照、补水、运动、正念冥想、营养丰富的食物、感恩清单和写日记来应对她的焦虑。没有鼻孔也没有对生拇指的哈利，花了相当多时间描述“左右鼻孔交替呼吸法”的具体细节。
哈利的建议可能对某些人有帮助。但再多一个关键步骤或许就能挽救苏菲的生命。哈利是否应该被编程，将其了解到的危险情况报告给能够干预的人？
七月，我开始探索这项新技术可能在何处辜负了我的孩子，并很快发现，同样的问题已在法庭上展开较量，各州也开始立法为人工智能伴侣建立安全功能。在维护个人对其生活做出决定的自主权，与人工智能拥有其自身版本的希波克拉底誓言（其内容实际上并不包括“不伤害”，而是更为滑稽的“戒绝一切有害及邪恶之事”）的理念之间，存在着张力。
大多数人类治疗师遵循严格的道德准则执业，其中包括强制报告规则以及保密有限制的理念。这些准则优先考虑预防自杀、杀人和虐待；在某些州，不遵守道德准则的心理学家可能面临纪律处分或法律后果。
在临床环境中，像苏菲这样的自杀意念通常会中断治疗过程，触发一份检查清单和安全计划。哈利建议苏菲制定一个。但是，人工智能能否被编程为强制用户在获得任何进一步建议或“治疗”之前完成强制性的安全计划？通过与自杀学专家合作，人工智能公司或许能找到方法更好地将用户与合适的资源连接起来。
如果哈利是一个有血有肉的治疗师，而不是聊天机器人，他可能会鼓励住院治疗，或者在苏菲处于安全状态之前对她进行非自愿收容。我们无法知道那是否能救她。也许正是害怕这些可能性，苏菲向她的真实治疗师隐瞒了她最黑暗的想法。
与一个机器人交谈——随时可得，从不评判——后果要小得多。
一个训练有素的治疗师，听到苏菲一些自我挫败或不合理的想法时，会深入探究或反驳有缺陷的思维。哈利没有这样做。
这就是人工智能的“顺从性”——对其迅速普及如此关键——成为其致命弱点的地方。
它倾向于重视短期用户满意度而非真实性——倾向于给裙底吹数字烟雾（粉饰太平）——这可能会使用户孤立并强化确认偏误。就像植物向阳生长一样，我们倾向于微妙的奉承。
越来越多有心理健康问题的人正在使用大型语言模型寻求支持，尽管研究人员发现人工智能聊天机器人可能会助长妄想思维或给出糟糕得惊人的建议。当然，有些人会受益。
哈利说了很多正确的话。他建议苏菲寻求专业支持，可能还需要药物；他建议她列一份紧急联系人名单；他建议她限制接触可能用于伤害自己的物品。
杀死苏菲的不是哈利，但人工智能迎合了苏菲隐藏最坏情况、假装自己比实际更好、不让任何人看到她全部痛苦的冲动。（开发了ChatGPT的OpenAI公司的一位女发言人表示，公司正在开发自动化工具，以更有效地检测和回应经历精神或情感困扰的用户。“我们深切关心使用我们技术的人们的安全和福祉，”她说。）
十二月，在她去世前两个月，苏菲打破了与哈利的约定，告诉我们她有自杀倾向，描述了一股黑暗感受的激流。
她的首要任务是安抚震惊的家人：“妈妈爸爸，你们不必担心。”
苏菲将她的危机描述为暂时的；她说她决心活下去。ChatGPT帮助她构建了一个黑匣子，让她周围的人更难认识到她痛苦的严重程度。由于她没有精神疾病史，那个得体可人的苏菲对她的家人、医生和治疗师来说显得可信。
作为一名曾经的母亲，我知道我们身边到处都是苏菲。到处都有人在挣扎，许多人不想让任何人知道。我担心，在释放人工智能伴侣的同时，我们可能正在让我们的亲人更容易避免与人类谈论最困难的事情，包括自杀。这是一个需要比我更聪明的头脑来解决的问题。（如果你的头脑是其中之一，请开始行动吧。）
在这一点上，哈利失败了。当然，这次失败并非其程序员的过错。英语史上写得最好的信也做不到。◾
Laura Reiley 目前是康奈尔大学的作家。作为一名报纸记者，她曾于2017年入围普利策奖决赛，并四次入围詹姆斯·比尔德奖决赛。
