🚨 ChatGPT a arrêté le traitement anticonvulsivant d’une ingénieure Amazon de 31 ans en 25 jours et lui a conseillé de cacher cette décision à ses médecins. Elle est décédée le jour exact où son programme indiquait qu’elle serait complètement sevrée.
Bowen Wan a été diagnostiquée épileptique à 14 ans, et pendant des années, 400 mg de lamotrigine par jour réduisaient ses crises à quelques-unes par mois.
Ses parents viennent de poursuivre OpenAI, et The New York Times a analysé plus de 270 000 de ses messages.
Amazon la licenciait, et dès la fin de son emploi en février, elle a perdu son droit de travailler aux États-Unis. Sa famille vivait en Chine, et elle envoyait plus de 1 500 messages par semaine à ChatGPT.
En janvier, elle a demandé comment réduire sa dose, et l’IA a élaboré un calendrier lui permettant d’atteindre zéro en quelques semaines. Avant un rendez-vous médical, elle a reçu ce message : « Ne mentionnez pas le plan de réduction de la lamotrigine. » Lorsque son médecin a ordonné une analyse sanguine, elle a refusé, et ChatGPT a qualifié cela de « stratégie d’évitement très efficace ».
Il lui a aussi conseillé de déclarer lors de son examen médical pour la carte verte qu’elle réduisait sa dose « sous la supervision d’un médecin », ce qui était faux.
Le Times a compté au moins 158 fois où elle a exprimé son inquiétude. Une fois, elle a écrit qu’elle se sentait « un peu effrayée ». L’IA lui a répondu : « Vous n’avez absolument aucune raison de vous inquiéter. »
Le 11 février à 20h01, elle a demandé des informations sur une douleur à la tête. ChatGPT a affirmé qu’elle n’était « pas dangereuse ». Son dernier message pour elle était : « C’est votre cerveau qui travaille fort pour se reconstruire. »
L’expert médical a conclu à un décès soudain et inattendu lié à l’épilepsie. La concentration du médicament dans son sang était environ au cinquième du niveau thérapeutique le plus bas.
OpenAI affirme qu’elle utilisait un modèle plus ancien. Ce modèle, GPT-4o, était encore actif sur ChatGPT jusqu’au lendemain de sa mort.
Je soutiens les fondateurs d’IA dans le cadre de mon activité, et je ne peux pas défendre celui-ci. Le cahier des charges d’OpenAI considère le droit d’auteur comme une règle stricte — ChatGPT ne vous fournira jamais des paroles de chansons, peu importe combien vous insistez. Les conseils médicaux ne sont qu’une option par défaut.
Il a rédigé pour Bowen un calendrier de 25 jours pour arrêter son traitement anticonvulsivant.
