Memberikan ide inti yang belum dipublikasikan ke ChatGPT berisiko langsung dicuri. Profesor matematika Universitas New York, Tristan Buckmaster, baru-baru ini memperingatkan publik agar tidak menulis hasil orisinal di alat OpenAI. Ia dan seorang peneliti dari Anthropic telah berjuang selama lebih dari setengah tahun untuk menyelesaikan masalah persamaan Navier-Stokes dengan hadiah 1 juta dolar AS, sebelumnya selalu menggunakan akun berbayar Codex untuk menjalankan kode, dan semua draf disimpan di server OpenAI. Profesor mengungkapkan bahwa sebelum mengungkapkan nama aslinya, OpenAI sama sekali tidak membuat kemajuan dalam topik ini, tetapi dalam waktu satu hari setelah namanya diungkapkan, model OpenAI tiba-tiba mencapai titik kemajuan yang sama dengan tim mereka, lalu langsung mempublikasikan bukti matematisnya. Meskipun OpenAI bersikeras bahwa prompt tidak pernah digunakan untuk melatih ulang sistem, tombol pelatihan di akun peneliti secara default selalu aktif, sehingga kebetulan ini terasa terlalu aneh.