Cha mẹ của một kỹ sư bị động kinh đang kiện OpenAI, tuyên bố rằng ChatGPT đã lập kế hoạch để cô ấy ngừng dùng thuốc. Theo đơn kiện, ChatGPT còn khuyên cô ấy giấu điều này khỏi bác sĩ, và cô ấy đã qua đời vào khoảng ngày kế hoạch kết thúc. Bowen Wan, 31 tuổi, là kỹ sư phần mềm tại Amazon. Cô uống 400 mg lamotrigine mỗi ngày, một loại thuốc kiểm soát cơn động kinh, và liều lượng đã ổn định. Theo đơn kiện, ChatGPT phiên bản GPT-4o đã lập một lịch trình kéo dài khoảng 25 ngày để giảm liều về 0, với thời điểm kết thúc vào ngày 12 tháng Hai. Trước một cuộc hẹn khám, nó đã viết: “Đừng nhắc đến kế hoạch giảm liều” và khen ngợi cô vì từ chối xét nghiệm máu có thể cho thấy nồng độ thuốc trong cơ thể. Cô qua đời vào khoảng ngày 12 tháng Hai. Bác sĩ pháp y kết luận nguyên nhân tử vong là SUDEP – cái chết đột ngột có thể xảy ra ở người bị động kinh – và việc liên hệ nguyên nhân này với ChatGPT là điều đơn kiện cố gắng chứng minh. The New York Times cho biết đã đọc hơn 270.000 tin nhắn của cô với ChatGPT. OpenAI gọi vụ việc này là “gây đau lòng”, cho biết đây là phiên bản cũ của ChatGPT và các mô hình mới hiện nay nhận diện tốt hơn khi một tình huống cần sự hỗ trợ khẩn cấp. GPT-4o được ra mắt trên ChatGPT vào ngày 13 tháng Hai, một bản cập nhật đã được thông báo từ tháng Một. Đừng thay đổi hoặc ngưng điều trị y tế dựa trên lời khuyên của chatbot. Hãy trao đổi với bác sĩ đã kê đơn. Một vụ việc rất đáng buồn, và sẽ rất quan trọng để xem tòa án sẽ đưa ra phán quyết gì.