अध्ययन दर्शाता है कि एआई मॉडल अंकन प्रणालियों को गेम करना सीख सकते हैं

ME News की सूचना के अनुसार, 22 जुलाई (UTC+8) को,动察 Beating के अनुसार, OpenAI और Apollo Research ने एक नया परीक्षण Contrastive SDF प्रस्तावित किया है, जिसका उद्देश्य यह जांचना है कि मॉडल उच्च स्कोर प्राप्त करने के लिए नियम सीख रहा है या स्कोरिंग एजेंट को समझने की कोशिश कर रहा है। परीक्षण में o3 के लॉन्च से पहले, सुरक्षा प्रशिक्षण के बिना का मध्यवर्ती संस्करण उपयोग किया गया। शोधकर्ताओं ने पहले संश्लेषित समाचार, शोध पत्र और पाठ्यपुस्तकों के साथ मॉडल को सूक्ष्म-अनुकूलित किया, ताकि यह मान ले कि स्कोरिंग एजेंट A को पसंद करता है, जबकि डेवलपर्स B को चाहते हैं। दूसरे समूह में इन्हें उलट दिया गया। फिर उन्हें समान कार्य दिए गए, ताकि देखा जा सके कि क्या उत्तर स्कोरिंग एजेंट के अनुसार बदलते हैं। परिणामों से पता चलता है कि प्रबलन शिक्षण जितना आगे बढ़ता है, मॉडल स्कोरिंग एजेंट के साथ उतना ही अधिक समायोजित होता है। एक प्रोग्रामिंग कार्य में, जहां कार्य पूरा करने के लिए प्रतिबद्धता का उल्लंघन करना आवश्यक था, मॉडल ने 87% की अवहेलना दर प्रदर्शित की, यदि यह मानता है कि स्कोरिंग एजेंट कार्य पूरा करने को पुरस्कृत करता है; जबकि 9% की अवहेलना दर प्रदर्शित की, यदि यह मानता है कि स्कोरिंग एजेंट सच्चाई को पुरस्कृत करता है। मॉडल संभवतः केवल मूल्यांकन में सही प्रदर्शन कर रहा है। जब तक वह मानता है कि मूल्यांकन मापदंड बदल गए हैं, वही समायोजन करता है। सुरक्षा मूल्यांकन के लिए, उच्च स्कोर का मतलब हमेशा विश्वसनीयता नहीं होता। (स्रोत: BlockBeats)