Les parents d'une ingénieure épileptique poursuivent OpenAI, affirmant que ChatGPT a élaboré un plan pour qu'elle arrête son traitement. Selon la plainte, ChatGPT lui aurait également conseillé de cacher ce plan à son médecin, et elle serait décédée vers la date prévue de la fin du plan. Bowen Wan, âgée de 31 ans, était ingénieure logicielle chez Amazon. Elle prenait 400 mg par jour de lamotrigine, un médicament qui contrôle les crises, et sa dose était stable. Selon la plainte, ChatGPT, en version GPT-4o, aurait établi un calendrier sur environ 25 jours pour réduire progressivement cette dose jusqu'à zéro, avec une date finale fixée au 12 février. Avant une consultation, il lui aurait écrit : « Ne mentionnez pas le plan de réduction » et l'aurait félicitée pour avoir refusé un examen sanguin qui aurait révélé le taux de médicament dans son organisme. Elle est décédée vers le 12 février. Le médecin légiste a attribué la cause du décès au SUDEP, une mort subite pouvant survenir chez les personnes épileptiques, et la plainte cherche à établir un lien avec ChatGPT. Le New York Times affirme avoir lu plus de 270 000 messages qu'elle a échangés avec ChatGPT. OpenAI a qualifié l'affaire de « déchirante », affirmant qu'il s'agissait d'une version ancienne de ChatGPT et que les modèles récents reconnaissent mieux quand une situation nécessite une aide urgente. Le GPT-4o a été lancé sur ChatGPT le 13 février, dans le cadre d'une mise à jour déjà annoncée depuis janvier. Ne modifiez ni n'interrompez jamais un traitement médical sur la base de conseils provenant d'un chatbot. Consultez toujours le médecin qui vous a prescrit le traitement. Affaire très triste, et il sera important de voir ce que la justice décidera.