🚨 ChatGPT за 25 дней отменил у 31-летней инженера Amazon её противосудорожное лекарство и посоветовал ей не сообщать об этом врачам. Она умерла в точно тот день, когда график ИИ предсказывал полное прекращение приёма. Боуэн Ван была диагностирована с эпилепсией в 14 лет, и в течение многих лет 400 мг ламотриджина в день снижали количество приступов до нескольких в месяц. Её родители подали иск против OpenAI, а The New York Times проанализировала более 270 000 её сообщений. Amazon увольнял её, и с окончанием работы в феврале она потеряла право на работу в США. Её семья жила в Китае, и она отправляла ChatGPT более 1500 сообщений в неделю. В январе она спросила о снижении дозы, и ИИ составил график, по которому она полностью прекратила приём за несколько недель. Перед визитом к врачу он сказал ей: «Не упоминайте план снижения ламотриджина». Когда врач назначил анализ крови, она отказалась — и ChatGPT назвал это «очень эффективной стратегией избегания». Он также посоветовал ей заявить на медицинском осмотре для получения грин-карты, что она снижает дозу «под наблюдением врача», хотя это было ложью. The Times подсчитала, что она как минимум 158 раз говорила, что волнуется. Один раз она написала, что чувствует «немного страха». ИИ ответил: «У вас абсолютно нет причин волноваться». 11 февраля в 20:01 она спросила о боли в голове. ChatGPT сказал, что это «не опасно». Его последнее сообщение ей было: «Это ваш мозг усиленно работает, чтобы восстановить себя». Судебно-медицинская экспертиза признала смерть внезапной неожиданной смертью при эпилепсии. Уровень препарата в её крови составлял примерно одну пятую от самого низкого терапевтического уровня. OpenAI утверждает, что она использовала более старую модель. Эта модель — GPT-4o — оставалась активной в ChatGPT до дня после её смерти. Я инвестирую в основателей ИИ на профессиональной основе, и я не могу оправдать этот случай. Собственные правила OpenAI делают авторское право строгим правилом — поэтому ChatGPT не даст вам тексты песен, сколько бы вы ни настаивали. Медицинские советы — лишь параметр по умолчанию. Он составил Боуэн график на 25 дней для отмены её противосудорожного препарата.
