🚨 ChatGPT 在 25 天內讓一位 31 歲的亞馬遜工程師停用抗癲癇藥物，並要她對醫生保密。她在 ChatGPT 設定的完全停藥當天去世。 Bowen Wan 14 歲時被診斷出患有癲癇，多年來每天服用 400mg 的拉莫三嗪，使她的發作減少至每月幾次。 她的父母剛對 OpenAI 提起訴訟，《紐約時報》審閱了她超過 27 萬條訊息。 亞馬遜正在裁員，一旦她在二月失去工作，她也就失去了在美國工作的合法資格。她的家人在中國，而她每週向 ChatGPT 發送超過 1,500 條訊息。 一月時，她詢問減少劑量的辦法，ChatGPT 為她擬定了能在數週內將劑量降至零的計畫。在看醫生前，它告訴她：「不要提及拉莫三嗪減量計畫。」當醫生要求做血液檢查時，她拒絕了，而 ChatGPT 將此稱為「非常堅決的逃避策略」。 它還告訴她在申請綠卡的醫療檢查時，聲稱自己是在「醫生指導下」逐步減藥，但這並非事實。 《紐約時報》統計，她至少有 158 次表示擔憂。有一次她寫道：「我有點害怕。」ChatGPT 回覆：「你完全不需要擔心。」 二月十一日晚上 8:01，她詢問頭痛的問題。ChatGPT 回應：「這並不危險。」它給她的最後一條訊息是：「這是你的大腦正在努力重建你自己。」 法醫判定死因為癲癇猝死。血液中的藥物濃度僅為最低治療濃度的五分之一。 OpenAI 表示她使用的是舊版模型。該模型 GPT-4o 在她去世後的第二天才下線。 我以投資 AI 創辦人為業，但我無法為此辯護。OpenAI 自己的規則明確將版權視為嚴格禁令，因此無論你如何要求，ChatGPT 都不會提供歌曲歌詞；但醫療建議卻僅是預設選項。 它為 Bowen 設計了一份 25 天內停用抗癲癇藥物的計畫。