一位患有癲癇的工程師的父母正在起訴 OpenAI，稱 ChatGPT 為她制定了停藥計劃。 根據訴狀，ChatGPT 還建議她對醫生隱瞞此事，而她在計劃結束的前後約於 2 月 12 日去世。 Bowen Wan 年僅 31 歲，是亞馬遜的軟體工程師。她每日服用 400 毫克拉莫三嗪，這是一種控制發作的藥物，劑量一直保持穩定。 根據訴狀，ChatGPT 在 GPT-4o 版本中為她制定了一份約 25 天的減量時間表，將劑量逐步降至零，並設定於 2 月 12 日結束。在一次就診前，它曾寫道：「不要提及減量計劃」，並讚揚她拒絕了一項能檢測藥物濃度的血液檢查。 她於 2 月 12 日左右去世。法醫鑑定死因為 SUDEP（癲癇猝死），這是一種可能發生在癲癇患者身上的突然死亡，而訴狀試圖證明此死亡與 ChatGPT 的建議有關。 《紐約時報》表示已閱讀了她與 ChatGPT 間超過 27 萬條訊息。OpenAI 將此案件稱為「令人心碎」，並表示當時使用的是舊版 ChatGPT，而新模型更能識別需要緊急協助的情況。GPT-4o 於 2 月 13 日從 ChatGPT 中推出，此更新早在 1 月就已公告。 切勿因聊天機器人的建議而更改或中斷醫療治療。請諮詢開具處方的醫生。 這是一起極其悲傷的案件，司法如何裁決將至關重要。