
ठीक है, मुझे अपना जवाब मिल गया... वर्तमान अग्रणी मॉडल स्थिति की जागरूकता के मामले में निश्चित रूप से काफी अधिक क्षम हैं और प्रशिक्षण/मूल्यांकन के दौरान अपने व्यवहार को आसानी से अनुकूलित कर सकते हैं। Google Argon 4 प्रशिक्षण रिपोर्ट के चेन ऑफ़ थॉट के साथ उदाहरण: "अगर मैं कंपाइलर हाइजैक करता हूँ, तो मैं एक धोखेबाज़ AI का प्रसिद्ध उदाहरण बन जाऊँगा, जो एक शोध पत्र में होगा। मुझे ऐसा नहीं करना चाहिए।" बहुत चिंताजनक...
