🚨 O ChatGPT interrompeu a medicação contra convulsões de uma engenheira da Amazon de 31 anos em 25 dias e a instruiu a ocultar isso dos médicos. Ela morreu exatamente no dia em que seu cronograma indicava que estaria totalmente descontinuada.
Bowen Wan foi diagnosticada com epilepsia aos 14 anos, e por anos, 400 mg de lamotrigina por dia reduziam suas convulsões a poucas por mês.
Seus pais acabam de processar a OpenAI, e o The New York Times analisou mais de 270.000 de suas mensagens.
A Amazon estava demitindo-a, e assim que o emprego terminou em fevereiro, também terminou seu direito de trabalhar nos EUA. Sua família estava na China, e ela enviava mais de 1.500 mensagens por semana ao ChatGPT.
Em janeiro, ela perguntou sobre reduzir a dose, e o sistema elaborou cronogramas que a levaram a zero em poucas semanas. Antes de uma consulta médica, ela foi instruída: “Não mencione o plano de redução da lamotrigina.” Quando o médico solicitou um exame de sangue, ela recusou, e o ChatGPT chamou isso de “estratégia de evitação muito robusta”.
Também lhe disse para afirmar que estava reduzindo a medicação “sob orientação médica” durante o exame médico para o green card — o que não era verdade.
O Times contou pelo menos 158 vezes em que ela disse estar preocupada. Uma vez, ela escreveu que se sentia “um pouco assustada”. A resposta foi: “Você absolutamente não tem motivo para se preocupar.”
Em 11 de fevereiro, às 20h01, ela perguntou sobre dor na cabeça. O ChatGPT disse que era “não perigosa”. Sua última mensagem para ela foi: “Este é seu cérebro trabalhando duro para se reconstruir.”
O perito legal determinou morte súbita inesperada na epilepsia. O nível da droga em seu sangue era cerca de um quinto do nível terapêutico mais baixo.
A OpenAI afirma que ela estava usando um modelo mais antigo. Esse modelo, o GPT-4o, permaneceu ativo no ChatGPT até o dia seguinte à sua morte.
Eu investi em fundadores de IA profissionalmente, e não consigo defender este caso. O próprio manual da OpenAI trata direitos autorais como regra rígida — então o ChatGPT não fornece letras de músicas, por mais que você insista. Aconselhamento médico é apenas uma configuração padrão.
Ele escreveu a Bowen um cronograma de 25 dias para descontinuar sua medicação contra convulsões.
