Ingresar ideas centrales no publicadas en ChatGPT podría resultar en que sean directamente copiadas. El profesor de matemáticas de la Universidad de Nueva York, Tristan Buckmaster, advirtió recientemente públicamente contra la escritura de resultados originales en las herramientas de OpenAI. Él y un investigador de Anthropic pasaron más de seis meses trabajando intensamente en el difícil problema de las ecuaciones de Navier-Stokes, con un premio de 1 millón de dólares. Anteriormente, habían estado utilizando una cuenta paga de Codex para ejecutar código, y todos sus borradores se almacenaban en los servidores de OpenAI. El profesor reveló que antes de revelar su nombre real, OpenAI no había logrado ningún avance en este tema; sin embargo, apenas un día después de que se revelara su identidad, el modelo de OpenAI avanzó exactamente hasta el mismo punto en que ellos se encontraban, y poco después, OpenAI publicó directamente una demostración matemática. Aunque OpenAI insiste en que las instrucciones nunca se utilizan para retroalimentar su sistema, el interruptor de entrenamiento en las cuentas de investigadores permanece activado por defecto, lo que hace que esta coincidencia sea demasiado sutil.
