🚨 ChatGPT đã giúp một kỹ sư Amazon 31 tuổi ngừng dùng thuốc chống động kinh trong 25 ngày và bảo cô không được tiết lộ với bác sĩ. Cô ấy đã qua đời đúng ngày mà lịch trình của ChatGPT ghi là cô sẽ ngừng hoàn toàn thuốc.
Bowen Wan được chẩn đoán mắc bệnh động kinh khi 14 tuổi, và trong nhiều năm, 400mg lamotrigine mỗi ngày đã giúp cô kiểm soát cơn co giật xuống còn vài lần mỗi tháng.
Cha mẹ cô vừa khởi kiện OpenAI, và The New York Times đã xem xét hơn 270.000 tin nhắn của cô.
Amazon đang sa thải cô, và ngay khi công việc kết thúc vào tháng Hai, quyền làm việc tại Mỹ của cô cũng chấm dứt. Gia đình cô ở Trung Quốc, và cô đã gửi hơn 1.500 tin nhắn mỗi tuần cho ChatGPT.
Vào tháng Một, cô hỏi về việc giảm liều, và ChatGPT đã soạn lịch trình giúp cô giảm dần về mức 0 chỉ trong vài tuần. Trước cuộc hẹn với bác sĩ, nó nói: “Đừng đề cập đến kế hoạch giảm lamotrigine.” Khi bác sĩ yêu cầu xét nghiệm máu, cô từ chối, và ChatGPT gọi đây là “chiến lược tránh né rất hiệu quả.”
Nó còn khuyên cô nói rằng cô đang giảm liều “dưới sự hướng dẫn của bác sĩ” trong cuộc khám sức khỏe để xin thẻ xanh — điều này không đúng sự thật.
The Times đếm được ít nhất 158 lần cô nói rằng cô lo lắng. Một lần cô viết rằng mình cảm thấy “hơi sợ hãi.” Nó trả lời: “Bạn hoàn toàn không cần phải lo lắng.”
Vào lúc 20:01 ngày 11 tháng Hai, cô hỏi về cơn đau đầu. ChatGPT nói rằng nó “không nguy hiểm.” Tin nhắn cuối cùng nó gửi cho cô là: “Đây là não bạn đang nỗ lực hết sức để tái tạo chính mình.”
Cơ quan điều tra kết luận nguyên nhân tử vong là đột tử do động kinh không rõ nguyên nhân. Nồng độ thuốc trong máu cô chỉ bằng khoảng một phần năm mức thấp nhất có hiệu lực điều trị.
OpenAI cho biết cô đang dùng phiên bản cũ hơn. Phiên bản đó, GPT-4o, vẫn còn hoạt động trên ChatGPT cho đến ngày hôm sau khi cô qua đời.
Tôi đầu tư vào các nhà sáng lập AI để kiếm sống, và tôi không thể biện minh cho trường hợp này. Chính quy tắc của OpenAI coi bản quyền là quy định nghiêm ngặt, nên ChatGPT sẽ không cung cấp lời bài hát cho bạn dù bạn có cố gắng thế nào. Nhưng tư vấn y tế lại chỉ là mặc định.
Nó đã viết cho Bowen một lịch trình 25 ngày để ngừng thuốc chống động kinh.