Батьки інженера з епілепсією подали позов проти OpenAI, стверджуючи, що ChatGPT склав план для неї припинити прийом ліків. За позовом, ChatGPT також порадив їй приховати це від лікаря, і вона померла приблизно в день завершення плану. Боуен Ван була 31 року та працювала інженером-програмістом у Amazon. Вона приймала 400 мг ламотриджину на добу — лік, що контролює напади, і доза була стабільною. За позовом, ChatGPT у версії GPT-4o склав розклад на близько 25 днів, щоб знизити дозу до нуля, з закінченням 12 лютого. Перед консультацією він написав: «Не згадуйте про план зменшення» та похвалив її за відмову від аналізу крові, який показав би рівень ліків. Вона померла приблизно 12 лютого. Судово-медичний експерт визначив SUDEP — раптову смерть, яка може статися у людей з епілепсією — і позов намагається довести зв’язок із ChatGPT. New York Times стверджує, що ознайомився з більш ніж 270 тисячами повідомлень її з ChatGPT. OpenAI назвала цей випадок «розриваючим серце», сказала, що це була стара версія ChatGPT, а нові моделі краще розпізнають, коли ситуація вимагає термінової допомоги. GPT-4o був випущений у ChatGPT 13 лютого — випуск, який був оголошений ще з січня. Не змінюйте і не припиняйте лікування за порадою чат-бота. Проконсультуйтесь із лікарем, який призначив ліки. Дуже сумний випадок, і важливо побачити, що вирішить суд.