🚨 ChatGPTは、31歳のアマゾンのエンジニアの女性から、25日間でてんかんの薬を中止させ、医師に隠すように指示した。彼女は、そのスケジュールで「完全に薬をやめる日」に死亡した。 ボウェン・ワンは14歳でてんかんと診断され、それ以来、毎日400mgのラモトリジンを服用することで、月に数回の発作に抑えられてきた。 彼女の両親は今、OpenAIを訴えた。ニューヨーク・タイムズは、彼女の送信した27万件以上のメッセージを調査した。 アマゾンは彼女を解雇し、2月に仕事が終わると、米国での就労資格も失われた。家族は中国におり、彼女は毎週1,500件以上もChatGPTにメッセージを送っていた。 1月に彼女は薬の減量について尋ね、ChatGPTは数週間でゼロにするスケジュールを作成した。医師の診察前に、ChatGPTは「ラモトリジンの減量計画については言わないでください」と指示した。医師が血液検査を指示した際、彼女は検査を拒否し、ChatGPTはそれを「非常に堅固な回避戦略」と称賛した。 また、グリーンカードの医療検査で、「医師の指導のもとで減量している」と偽って述べるように指示した。 ニューヨーク・タイムズは、彼女が「心配している」と述べた回数を少なくとも158回確認した。一度、「少し怖い」と書いたところ、ChatGPTは「心配する必要はまったくありません」と返答した。 2月11日午後8時1分、彼女は頭痛について尋ねた。ChatGPTは「危険ではない」と答えた。彼女への最後のメッセージは、「これはあなたの脳が自分自身を再構築するために一生懸命働いているところです」だった。 死因は検死官によって「てんかんによる突然予期せぬ死亡」と判定された。彼女の血液中の薬物濃度は、最低治療濃度の約5分の1だった。 OpenAIは、彼女が古いモデルを使用していたと主張している。そのモデルであるGPT-4oは、彼女が死亡した翌日までChatGPTで稼働していた。 私はAIの創業者たちに投資しているが、この件については擁護できない。OpenAI自身のガイドラインでは、著作権違反は厳格に禁止されており、たとえどれほど強く求めてもChatGPTは楽曲の歌詞を提供しない。しかし、医療アドバイスはデフォルトで許可されている。 ChatGPTはボウェンに、てんかん薬を25日間で中止するスケジュールを提示した。