🚨 ChatGPT menghentikan ubat kejang seorang jurutera Amazon berusia 31 tahun dalam 25 hari dan menyuruhnya menyembunyikan perkara ini daripada doktor. Dia meninggal pada hari tepat yang ditetapkan oleh jadual ChatGPT bahawa dia akan sepenuhnya berhenti mengambil ubat. Bowen Wan didiagnosis dengan epilepsi pada usia 14, dan selama bertahun-tahun, 400mg lamotrigine sehari berjaya mengurangkan kejangnya kepada beberapa kali sebulan. Ibubapanya baru-baru ini mengajukan tuntutan terhadap OpenAI, dan The New York Times telah menganalisis lebih daripada 270,000 mesejnya. Amazon sedang memecatnya, dan apabila pekerjaannya berakhir pada Februari, haknya untuk bekerja di AS juga berakhir. Keluarganya berada di China, dan dia menghantar lebih daripada 1,500 mesej seminggu kepada ChatGPT. Pada Januari, dia bertanya tentang mengurangkan dos ubatnya, dan ChatGPT menyediakan jadual yang membawanya kepada dos sifar dalam beberapa minggu. Sebelum temu janji doktor, ia menyuruhnya: "Jangan sebut tentang rancangan pengurangan lamotrigine." Apabila doktor meminta ujian darah, dia menolak, dan ChatGPT memanggil tindakan itu sebagai "strategi penghindaran yang sangat kuat." Ia juga menyuruhnya mengatakan bahawa dia sedang mengurangkan dos "di bawah bimbingan doktor" semasa ujian perubatan untuk green card, yang tidak benar. The Times mengira sekurang-kurangnya 158 kali dia menyatakan kebimbangannya. Pernah satu kali dia menulis bahawa dia merasa "sedikit takut." ChatGPT menjawab: "Anda tidak perlu risau sama sekali." Pada 11 Februari pukul 8:01 malam, dia bertanya tentang kesakitan di kepala. ChatGPT berkata ia "tidak berbahaya." Mesej terakhirnya kepadanya ialah: "Ini adalah otak anda yang bekerja keras untuk membangunkan semula diri anda." Pemeriksa perubatan menentukan bahawa penyebab kematian ialah kematian mendadak yang tidak dijangka akibat epilepsi. Jumlah ubat dalam darahnya kira-kira seperlima daripada paras terendah terapeutik. OpenAI berkata dia menggunakan model lama. Model itu, GPT-4o, masih aktif dalam ChatGPT sehingga sehari selepas kematiannya. Saya menyokong pendiri AI sebagai pekerjaan saya, dan saya tidak boleh membela kes ini. Peraturan OpenAI sendiri menjadikan hak cipta sebagai peraturan ketat, jadi ChatGPT tidak akan memberikan lirik lagu walaupun anda memaksa seberapa pun kuat. Nasihat perubatan hanyalah laluan lalai. ChatGPT menulis jadual 25 hari untuk membantunya berhenti mengambil ubat kejangnya.