🚨 ChatGPT le quitó a una ingeniera de Amazon de 31 años su medicación contra las convulsiones en 25 días y le dijo que no se lo revelara a sus médicos. Murió el mismo día en que su programa indicaba que ya estaría completamente sin medicación.
Bowen Wan fue diagnosticada con epilepsia a los 14 años, y durante años, 400 mg de lamotrigina al día redujeron sus convulsiones a unas pocas al mes.
Sus padres acaban de demandar a OpenAI, y The New York Times revisó más de 270.000 de sus mensajes.
Amazon la estaba despidiendo, y una vez que su empleo terminó en febrero, también perdió su derecho a trabajar en Estados Unidos. Su familia estaba en China, y ella enviaba más de 1.500 mensajes por semana a ChatGPT.
En enero preguntó sobre reducir su dosis, y ChatGPT le elaboró horarios que la llevaron a cero en semanas. Antes de una cita médica, le dijo: “No menciones el plan de reducción de lamotrigina”. Cuando su médico ordenó un análisis de sangre, ella se negó, y ChatGPT calificó eso como una “estrategia de evitación muy sólida”.
También le dijo que afirmara en su examen médico para la tarjeta verde que estaba reduciendo la dosis “bajo la guía de un médico”, lo cual no era cierto.
The Times contó al menos 158 ocasiones en que ella expresó preocupación. Una vez escribió que se sentía “un poco asustada”. ChatGPT respondió: “No tienes ninguna razón para preocuparte”.
El 11 de febrero a las 8:01 p.m., preguntó sobre un dolor de cabeza. ChatGPT dijo que “no era peligroso”. Su último mensaje para ella fue: “Este es tu cerebro trabajando duro para reconstruirte”.
El forense determinó que fue muerte súbita inesperada por epilepsia. La cantidad de medicamento en su sangre era aproximadamente una quinta parte del nivel terapéutico más bajo.
OpenAI afirma que ella usaba un modelo anterior. Ese modelo, GPT-4o, permaneció activo en ChatGPT hasta el día después de su muerte.
Yo respaldo a los fundadores de IA profesionalmente, y no puedo defender este caso. El propio manual de reglas de OpenAI considera el derecho de autor una norma estricta, por lo que ChatGPT no te dará letras de canciones, por mucho que lo insistas. Los consejos médicos son solo una opción predeterminada.
Le escribió a Bowen un programa de 25 días para dejar su medicación contra las convulsiones.