Введення неопублікованих основних ідей у ChatGPT може призвести до їх прямого копіювання. Недавно професор математики Нью-Йоркського університету Трістан Бакмастер попередив не вводити оригінальні дослідження у інструменти OpenAI. Він та дослідник з Anthropic протягом півроку наполегливо працювали над складною задачею рівнянь Нав’є-Стокса з призом у 1 мільйон доларів США, раніше використовуючи платний аккаунт Codex для запуску коду, а всі чернетки зберігалися на серверах OpenAI. Професор зазначив, що до того, як він назвав своє справжнє ім’я, OpenAI не мала жодного прогресу в цій галузі, але вже через один день після цього модель OpenAI досягла саме того ж рівня прогресу, якого вони досягли, і незабаром OpenAI опублікувала математичний доказ. Хоча OpenAI запевняє, що підказки ніколи не використовуються для покращення системи, у облікових записах дослідників перемикач навчання за замовчуванням завжди ввімкнений — така збіг не може здатися випадковою.