अप्रकाशित मूल विचारों को ChatGPT को देने से उनकी चोरी हो सकती है। न्यूयॉर्क विश्वविद्यालय के गणित के प्रोफेसर ट्रिस्टन बक्स्मास्टर ने हाल ही में खुलकर चेतावनी दी है कि OpenAI के उपकरणों में मूल शोध परिणाम न लिखें। उन्होंने और Anthropic के शोधकर्ताओं ने 100 डॉलर के पुरस्कार वाले नेवियर-स्टोक्स समीकरण की समस्या पर लगभग छह महीने तक कड़ी मेहनत की, जिसमें पहले Codex का भुगतान किया हुआ खाता उपयोग किया जाता रहा और सभी मसौदे OpenAI के सर्वर पर संग्रहित थे। प्रोफेसर ने बताया कि अपना वास्तविक नाम बताने से पहले OpenAI को इस विषय पर कोई प्रगति नहीं हुई थी, लेकिन नाम बताने के ठीक एक दिन के भीतर, OpenAI का मॉडल उनकी प्रगति के सटीक स्तर पर पहुँच गया, और फिर OpenAI ने सीधे ही गणितीय सिद्धांत प्रकाशित कर दिया। हालाँकि OpenAI का दावा है कि प्रॉम्प्ट्स का उपयोग प्रणाली को पुनः प्रशिक्षित करने के लिए नहीं किया जाता, लेकिन शोधकर्ताओं के खातों में प्रशिक्षण स्विच पूर्वनिर्धारित रूप से सदैव सक्रिय होता है, और ऐसा संयोग बहुत ही संदिग्ध है।