Ang mga magulang ng isang inhinyerong may epilepsy ay nagfile ng kaso laban sa OpenAI at sinasabing nilikha ng ChatGPT ang plano para siya ay tumigil sa gamot. Ayon sa kaso, sinabi rin ng ChatGPT sa kanya na itago ito sa doktor, at namatay siya sa halos araw na natapos ang plano. Si Bowen Wan, 31 taong gulang, ay isang software engineer sa Amazon. Siya ay kumukuha ng 400 mg araw-araw ng lamotrigine, isang gamot na nagpapahinga sa mga seizure, at ang dosis ay stable. Ayon sa kaso, ang ChatGPT, sa bersyon na GPT-4o, ay nagbuo ng isang takdang-panahon na 25 araw na nagdala sa dosis patungo sa zero, na may katapusan noong Pebrero 12. Bago ang konsulta, sinulat niya ang “Huwag banggitin ang plano ng pagbawas” at pinuri siya dahil sa pagtanggi sa isang pagsusuri ng dugo na magpapakita ng antas ng gamot. Namatay siya sa halos Pebrero 12. Ang pambansang tagapag-ayos ay nagtukoy sa SUDEP, ang biglaang kamatayan na maaaring mangyari sa mga may epilepsy, at ang pagkakalinko nito sa ChatGPT ang layunin ng kaso na patunayan. Sinabi ng New York Times na nakabasa sila ng higit sa 270,000 mensahe niya sa ChatGPT. Ang OpenAI ay tinawag ang kaso bilang “nakakalungkot,” at sinabi nila na ito ay isang lumang bersyon ng ChatGPT at na mas maayos na kilala ng mga bagong modelo kung kailangan ng urgente na tulong ang isang sitwasyon. Ang GPT-4o ay inilabas mula sa ChatGPT noong Pebrero 13, isang paglabas na naka-ano na mula sa Enero. Huwag baguhin o itigil ang medikal na paggamot batay sa payo ng chatbot. Kausapin ang doktor na nagbigay ng reseta. Isang napakalungkot na kaso, at mahalaga na makita kung ano ang desisyon ng korte.