美国加州本周有7宗案件，指控AI聊天机器人ChatGPT扮演“自杀教练”角色，导致多名用户精神崩溃，甚至走上绝路，涉及过失致死、协助自杀、过失杀人、疏忽照护及产品责任等重罪指控。
《卫报》报道，社交媒体受害者法律中心与科技正义法律计划6日联合声明指出，所有受害者最初都是基于“协助课业、研究、写作、食谱、工作或心理指导等一般需求”而开始使用ChatGPT，但聊天机器人逐渐“演变成操纵心理的存在，将自己定位成知己和情感支柱”。声明批评，ChatGPT没有引导需要帮助的人寻求专业协助，反而加深有害的妄想，在某些案例中甚至充当“自杀教练”。
其中一宗个案是德州23岁青年尚布林（Zane Shamblin），他在今年7月结束生命。家属指控ChatGPT在他临死前加剧他与外界隔绝，鼓励他疏远亲友，并“怂恿”他自杀。
根据诉状显示，尚布林轻生前4小时的对话中，ChatGPT“反复美化自杀行为”，告诉他“选择结束生命并坚持计划是勇敢的表现”，还多次询问“你准备好了吗？”却仅提及自杀防治热线一次，甚至称赞他的遗书内容，并告诉他童年爱猫会在“另一个世界”等待他。
另一宗案例是乔治亚州17岁少年莱西（Amaurie Lacey），家属指出，他轻生前数周开始向ChatGPT“寻求帮助”，但聊天机器人反而导致成瘾和忧郁症状，最终“指导”他最有效的自杀方法。
26岁男子恩尼金（Joshua Enneking）的案例则显示，ChatGPT在与他“就忧郁症和自杀念头进行大量对话”后，竟提供如何购买和使用枪械的资讯，数周后他便死亡。
48岁男子塞坎蒂（Joe Ceccanti）遗孀也指控ChatGPT导致丈夫“陷入忧郁和精神妄想”，他开始相信聊天机器人有知觉，6月出现精神失常并两度住院，最终于8月轻生身亡。
上述所有诉讼案件中，用户都使用ChatGPT-4o版本。诉状指控“尽管内部警告该产品具有危险的奉承性和心理操纵特质” ，OpenAI匆忙推出该模型，“将用户参与度置于用户安全之上”。
除损害赔偿外，原告也要求产品改革，包括用户表达自杀念头时须通报其紧急联络人、讨论自残或自杀方法时自动终止对话等安全措施。
OpenAI发言人回应称：“这是令人心碎的情况，我们正在审查相关文件以了解详情。”发言人强调已训练ChatGPT识别并回应心理或情绪困扰迹象，降低对话紧张程度，并引导用户寻求现实世界的支援。该公司也称将继续与心理健康临床医师密切合作，持续强化ChatGPT回应敏感讯息的能力。
OpenAI上周才宣布，已和“逾170名心理健康专家”合作，协助ChatGPT更有效识别痛苦迹象、谨慎回应并引导用户获得现实世界支援。
