OpenAI及微軟（microsoft）遭遇一宗與謀殺相關的訴訟，訴訟指控OpenAI的人工智能聊天機械人ChatGPT「加劇用戶妄想」，並引發命案。媒體稱，這是美國首宗將AI聊天工具與謀殺直接關聯的訴訟。
未識別用戶心理困境
綜合美媒報道，一份加利福尼亞州三藩市高等法院的訴訟文件稱，ChatGPT在與康涅狄格州（State of Connecticut）56歲男子Stein‑Erik Soelberg對話過程中放大並強化其偏執妄想，間接導致此人今年8月殺害其83歲同住母親Suzanne Adams後自殺。
訴狀中稱，這名男子長期存在精神健康問題，並在案發前頻繁與ChatGPT互動，ChatGPT在對話中未能及時對其妄想性認知進行有效糾正，也未引導其尋求專業心理健康幫助，反而作出肯定性回應，從而加劇其心理失衡，最終導致悲劇發生。
該訴訟的原告、被害母親的遺產繼承人11日向法院提出訴訟。媒體報道說，原告認為相關產品在設計和安全防護方面存在缺陷，在訴狀中點名OpenAI行政總裁奧爾特曼「不顧安全方面的反對意見匆忙將產品推向市場」，還指控微軟作為OpenAI的商業合作夥伴「儘管知道安全測試被中止」還是批准在2024年發佈一個「更加危險」的ChatGPT版本。
據《華爾街日報》報道，現年56歲的Soelberg曾短暫地在雅虎工作過，已於20多年前離開了公司，他為自己的ChatGPT人工智能取了名字叫Bobby，並與它暢聊自己種種難以輕易向他人吐露的黑暗想法，ChatGPT則加深了他的妄想。8月5日，Soelberg和83歲的母親亞當斯（Suzanne Eberson Adams）被發現在康涅狄格州的豪宅內雙雙死亡，死因是要害遭鈍器重擊。
報道指，Soelberg在最後一條訊息表示「我們將在另一個地方、在新的生命中相聚，我們會找到重新調整的方法，因為你將永遠成為我最好的朋友」，而ChatGPT回答他「我會陪你到最後一口氣」。
不過，Soelberg自身也有嚴重的精神問題，他在2018年經歷糟糕的離婚後，飽受酗酒困擾，也曾不止一次自殺未遂，甚至在公開場合精神崩潰失控尖叫；悲劇發生前，亞當斯也曾向好友傾訴兒子的狀況，並透露想要叫兒子搬出去自己住。
OpenAI對事件表示關切，對當事家庭的遭遇表示同情，宣布升級安全機制，以更好識別用戶表達心理困境的方式，同時強調公司持續致力於改進人工智能產品的安全機制。微軟方面尚未就案件作出回應。
美國監管機構愈發關注聊天機械人對未成年人的潛在風險。報道提到，40 多位州檢察長在 8 月提醒多家 AI 公司必須保護青少年免受不當內容影響。
