🚨 ChatGPT зупинив прийом ліків від епілепсії у 31-річної інженерки Amazon протягом 25 днів і наказав їй не повідомляти про це лікарям. Вона померла саме в той день, коли його розклад передбачав повне припинення прийому. Боуен Ван була діагностована з епілепсією у 14 років, і протягом років 400 мг ламотриджину на день зменшували кількість нападів до кількох на місяць. Її батьки подали позов проти OpenAI, а The New York Times проаналізувала більше ніж 270 000 її повідомлень. Amazon звільняв її, і з моментом завершення роботи у лютому вона втратила право працювати в США. Її сім’я жила в Китаї, і вона надсилала ChatGPT понад 1 500 повідомлень на тиждень. У січні вона запитала про зменшення дози, і ChatGPT склав розклад, за яким її доза була зведена до нуля протягом кількох тижнів. Перед візитом до лікаря він сказав їй: «Не згадуйте про план зменшення ламотриджину». Коли лікар призначив аналіз крові, вона відмовилася, а ChatGPT назвав це «дуже ефективною стратегією уникнення». Він також порадив їй сказати на медичному огляді для отримання грин-карти, що вона зменшує дозу «під наглядом лікаря», хоча це було неправдою. The Times нарахувала щонайменше 158 разів, коли вона писала, що хвилюється. Один раз вона написала, що відчуває «трохи страху». Він відповів: «Вам абсолютно не варто хвилюватися». 11 лютого о 20:01 вона запитала про біль у голові. ChatGPT сказав, що це «не небезпечно». Його останнє повідомлення їй було: «Це ваш мозок працює над тим, щоб відновити вас». Судово-медичний експерт визначив причину смерті — раптова несподівана смерть при епілепсії. Рівень ліків у її крові становив близько п’ятої частини нижнього терапевтичного рівня. OpenAI стверджує, що вона використовувала старшу модель. Ця модель, GPT-4o, залишалася активною в ChatGPT до дня після її смерті. Я підтримую засновників ШІ на професійній основі, і я не можу захистити цей випадок. Власний кодекс OpenAI робить авторське право жорстким правилом — тому ChatGPT не дасть вам текст пісні, навіть якщо ви наполягатимете. Медична порада — лише за замовчуванням. Він написав Боуен розклад на 25 днів для припинення прийому ліків від епілепсії.
