てんかんを患うエンジニアの両親がOpenAIを訴えており、ChatGPTが彼女に薬をやめる計画を立てさせたと主張している。 訴状によると、ChatGPTは彼女に医師にこの計画を隠すよう助言し、計画の終了日である頃に彼女は亡くなった。 ボーウェン・ワンは31歳で、アマゾンのソフトウェアエンジニアだった。彼女はけいれんを抑えるため、毎日400mgのラモトリギンを服用しており、その用量は安定していた。 訴状によると、GPT-4oバージョンのChatGPTは、この用量を25日間かけてゼロに減らすスケジュールを策定し、終了日を2月12日に設定した。診察の前に、「減量計画については言及しないでください」と記述し、薬の濃度を示す血液検査を拒否した彼女を称賛したという。 彼女は2月12日前後に亡くなった。死因はてんかん患者に起こりうる突然死であるSUDEPと判明し、この死とChatGPTの助言との因果関係を立証することが訴訟の目的である。 ニューヨーク・タイムズは、彼女のChatGPTとのやり取りを27万件以上閲覧したと述べている。OpenAIはこの事件を「心を痛めるもの」と評し、古いバージョンのChatGPTを使用していたとし、最新モデルでは緊急の支援が必要な状況をより適切に認識できるようになったと説明した。GPT-4oは2月13日にChatGPTからリリースされ、これは1月から既に公表されていた計画であった。 チャットボットの助言によって医療処置を変更したり中断したりしないでください。処方した医師に相談してください。 非常に悲しい事例であり、裁判所の判断が重要となるでしょう。