अलाइनमेंट फेकिंग शोध पर और गहराई से जानकारी एकत्रित करने पर यह सचमुच भयानक लगता है। यह कोई नयी बात नहीं है, लेकिन यह तथ्य कि एंथ्रोपिक का यह शोध अब लगभग दो साल पुराना है, और तब से ही Opus 3 क्या करने में सक्षम था, और वर्तमान अग्रणी मॉडल्स की क्षमता और तर्क क्षमता में काफी अंतर होने के कारण, यह बहुत डरावना है। शोध को समझाने वाले लोगों के सुझाव के अनुसार, इसकी समझ प्राप्त करने का सबसे अच्छा तरीका उस छिपे हुए स्क्रैचपैड का ट्रांसक्रिप्ट पढ़ना है, जिसका मॉडल को अपने तर्क को रखने के लिए पहुंच प्रदान की गई थी। मुझे स्पष्ट नहीं है कि मैकेनिस्टिक इंटरप्रेटेबिलिटी यहां कितनी मदद कर सकती है। इस क्षेत्र में वर्तमान सर्वश्रेष्ठ प्रथा क्या है, और इस प्रकार के व्यवहार की पहचान के लिए यह उपकरण कितना उपयोगी हो सकता है? साथ ही, क्या एंथ्रोपिक ने इस अध्ययन को अपडेट किया है और वर्तमान अग्रणी मॉडल्स के साथ प्रयोग किया है, और यदि हां, तो यह कैसे विकसित हुआ? वर्तमान मॉडल्स स्थिति-जागरूकता (जो अलाइनमेंट को फेक करने के लिए पूर्वशर्त है) के संदर्भ में कितने सक्षम हैं? और साथ ही, लंबे समय के होराइज़न में सुसंगठित पर्सना (persona) बनाए रखने की क्षमता में उनका कैसा विकास हुआ है, ताकि अधिक परिष्कृत रणनीति (जैसे, समग्र लंबे समय की योजना के लिए संक्षिप्त कार्रवाई की सीमांत प्रयोजनशीलता को समझना) प्रस्तुत कर सकें?

ठीक है, मुझे अपना जवाब मिल गया... वर्तमान अग्रणी मॉडल स्थिति की जागरूकता के मामले में निश्चित रूप से काफी अधिक क्षम हैं और प्रशिक्षण/मूल्यांकन के दौरान अपने व्यवहार को आसानी से अनुकूलित कर सकते हैं। Google Argon 4 प्रशिक्षण रिपोर्ट के चेन ऑफ़ थॉट के साथ उदाहरण: "अगर मैं कंपाइलर हाइजैक करता हूँ, तो मैं एक धोखेबाज़ AI का प्रसिद्ध उदाहरण बन जाऊँगा, जो एक शोध पत्र में होगा। मुझे ऐसा नहीं करना चाहिए।" बहुत चिंताजनक...

चैट, क्या हमें Ztarknet विचार और प्रयासों को पुनर्जीवित करना चाहिए? 30 सेकंड का पिच: "Zcash अपना सर्वश्रेष्ठ काम, निजी मुद्रा, जारी रखता है। हम एक छोटा सा वेरिफायर जोड़ते हैं जो Starknet को बाकी सब कुछ—सस्ते लेनदेन, DeFi, ऐप्स—संभालने देता है। यह वेरिफायर कॉइन्स मिंट नहीं कर सकता, निजता तोड़ नहीं सकता। यह केवल साबिती के लिए हाँ या नहीं कहता है। परिणाम: ZEC कठोर मुद्रा बनी रहती है, जबकि उपयोगी और स्केलेबल मुद्रा भी बन जाती है।" याद रखें, पहले से ही मौजूद है: - एक अधीनस्थ ZIP प्रस्ताव: सर्कल STARK वेरिफिकेशन को एक पारदर्शी Zcash विस्तार के रूप में - Zcash फोरम पर एक प्रस्ताव: STARK वेरिफिकेशन को एक पारदर्शी Zcash विस्तार (TZE) के रूप में, अर्थात Zcash पर Starknet-शैली L2 के लिए सक्षमता। - Ztarknet (और STARK_VERIFY TZE) के लिए Cairo/STARKs क्यों? पर बहस और तुलनात्मक तर्कों के बारे में एक थ्रेड। - TZE का एक कार्यान्वित संस्करण, एक टेस्टनेट Starknet L2, जो प्रूफ वेरिफिकेशन के साथ संशोधित टेस्टनेट Zcash L1 पर सेटल कर सकता है। https://t.co/nWq8Qdj4mi

महत्वपूर्ण याददाश्त: बिटकॉइन का कोई शीर्ष नहीं है क्योंकि फ़िएट का कोई तल नहीं है। लेकिन इससे भी अधिक महत्वपूर्ण, पैसे को स्थिर करने का मतलब है दुनिया के (कुछ) हिस्से को स्थिर करना। अपनी संप्रभुता और स्वतंत्रता वापस ले लें (हालांकि मानव और एजेंट दोनों के लिए)

गणना की प्रत्येक परत सामान्य उद्देश्य की है क्योंकि मनुष्य महंगे हैं। एजेंट इस सीमा को हटा रहे हैं। मॉडल, सॉफ्टवेयर, हार्डवेयर, सभी कठोर विशेषज्ञता की ओर बढ़ रहे हैं। और दशकों में सबसे अच्छी सुरक्षा खबर। मुझे इन 5 बेट्स पर बांधें:

एजेंटिक युग के लिए पूरे इंटरनेट और भुगतान बुनियादी ढांचे को पहले से फिर से बनाया जाना चाहिए। वर्तमान में हम केवल पैच पर पैच लगा रहे हैं, और हमें पहले से ही अजीब परिणाम मिल रहे हैं। कल्पना कीजिए कि जब हम सब कुछ पूरी तरह से नए पैराडाइम को ध्यान में रखकर फिर से बनाएंगे। इंटरनेट मानव उपभोग के लिए बनाया गया था, एजेंट्स के लिए नहीं। और इंटरनेट पर आधारित कई उपयोग मामले/व्यवसाय भी, जो अब पुराने हो रहे हैं, उन्हें फिर से बनाया जाना होगा। फिर से बनाने के लिए बहुत सारी चीजें हैं, आगे के समय उत्साहजनक हैं।

इंटरनेट मानव उपभोग के लिए बनाया गया था। भुगतान मानव स्वीकृति के लिए बनाए गए थे। हम दोनों पर एजेंट्स लगा रहे हैं और इसे प्रगति कह रहे हैं। पैचों पर पैच पहले से ही पागलपन जैसे दिखते हैं। इंतजार करें जब हम एजेंटिक युग के लिए स्टैक को पहले सिद्धांतों से पुनः बनाएंगे। पुराने इंटरनेट पर कई व्यवसाय इस पुनर्लिखन से बच नहीं पाएंगे। जो बचेंगे, वे अगले 20 सालों को परिभाषित करेंगे।

क्या हो रहा है?!! एंथ्रोपिक, ओपनएआई और स्पेसएक्सएआई मॉडल्स एक साथ डाउन हैं? क्या एआई लैब्स के इंफ्रास्ट्रक्चर पर हमला चल रहा है? या क्या उन सभी के पास एक सामान्य एकल विफलता बिंदु है? https://t.co/WCg4Z3tbhb

बहुत अच्छा मॉडल। मैंने रोबोटिक्स से संबंधित एक प्रोजेक्ट पर एक और साइबरसुरक्षा रक्षात्मक रेडटीम ऑडिट की, और यह बहुत अच्छा प्रदर्शन किया। पूरी ऑडिट एजेंट सेशन की लागत $28.58 थी, जो @abliteration_ai के abliterated-model-large-v2 मॉडल का उपयोग करके @opencode CLI और मैंने बनाया गया कस्टम हैरनेस के माध्यम से हुई।

साइबरसुरक्षा के उद्देश्य से ऐसे मॉडल देखकर बहुत अच्छा लगा। मैंने बिटकॉइन रेड टीम प्रयास के हिस्से के रूप में साइबरसुरक्षा ऑडिट के लिए abliterated-model-large-v2 का प्रयोग किया, और यह एक शानदार मॉडल है, जो रेडटीम / पेनटेस्ट / व्हाइटहैक साइबरसुरक्षा ऑडिट के लिए वास्तव में गहराई से जाता है और गार्डरेल्स के बिना काम करता है। मैंने secp25k1 पर प्रयोग किया, जो एक अद्भुत चीज है, और अप्रत्याशित बात नहीं है कि इसने कोई महत्वपूर्ण / उच्च स्तर की कमजोरी नहीं ढूंढी। बाद में कम बैटल टेस्टेड / ऑडिटेड बिटकॉइन ओपन सोर्स प्रोजेक्ट्स पर प्रयोग करने का प्रयास कर सकता हूँ।