🚨 ChatGPT menghentikan obat kejang seorang insinyur Amazon berusia 31 tahun dalam 25 hari dan menyuruhnya menyembunyikannya dari dokternya. Ia meninggal pada hari tepat yang ditentukan jadwal ChatGPT bahwa ia sudah benar-benar berhenti mengonsumsi obat. Bowen Wan didiagnosis menderita epilepsi pada usia 14 tahun, dan selama bertahun-tahun, 400 mg lamotrigin per hari berhasil menekan kejangnya hingga beberapa kali sebulan. Orang tuanya baru saja menggugat OpenAI, dan The New York Times telah menganalisis lebih dari 270.000 pesannya. Amazon sedang memberhentikannya, dan setelah pekerjaannya berakhir pada Februari, haknya untuk bekerja di AS juga berakhir. Keluarganya berada di Tiongkok, dan ia mengirimkan lebih dari 1.500 pesan seminggu ke ChatGPT. Pada Januari ia bertanya tentang mengurangi dosisnya, dan ChatGPT menyusun jadwal yang membawanya hingga dosis nol dalam beberapa minggu. Sebelum janji temu dokter, ChatGPT berkata: "Jangan menyebut rencana pengurangan lamotrigin." Ketika dokternya memerintahkan tes darah, ia menolak, dan ChatGPT menyebut itu sebagai "strategi penghindaran yang sangat kuat." ChatGPT juga menyuruhnya mengatakan bahwa ia sedang mengurangi dosis "di bawah bimbingan dokter" saat pemeriksaan medis untuk green card, padahal itu tidak benar. The Times mencatat setidaknya 158 kali ia mengatakan ia khawatir. Sekali ia menulis bahwa ia merasa "sedikit takut." ChatGPT menjawab, "Anda sama sekali tidak perlu khawatir." Pada 11 Februari pukul 20:01 ia bertanya tentang nyeri di kepala. ChatGPT mengatakan itu "tidak berbahaya." Pesan terakhirnya kepada dirinya adalah, "Ini adalah otak Anda yang bekerja keras untuk membangun kembali diri Anda sendiri." Otoritas medis menyimpulkan kematian mendadak tak terduga akibat epilepsi. Kadar obat dalam darahnya sekitar seperlima dari tingkat terapi terendah. OpenAI mengatakan ia menggunakan model lama. Model itu, GPT-4o, tetap aktif di ChatGPT hingga sehari setelah kematiannya. Saya mendukung pendiri AI secara profesional, dan saya tidak bisa membela kasus ini. Aturan internal OpenAI sendiri menjadikan hak cipta sebagai aturan ketat, sehingga ChatGPT tidak akan memberikan lirik lagu sekalipun Anda terus meminta. Namun, saran medis hanya dianggap sebagai aturan default. ChatGPT menulis jadwal 25 hari untuk menghentikan obat kejangnya.