➥ AI सुरक्षा अगले चरण में प्रवेश कर रही है, और @perturbaix एक प्रोजेक्ट है जिस पर मैं नजर बनाए हुए हूँ। अब तक, विरोधी परीक्षण मुख्य रूप से आंतरिक टीमों या ओपन-सोर्स टूल्स के साथ हमलों की खोज पर केंद्रित रहा है। लेकिन Perturb कुछ अधिक दिलचस्प का सामना कर रहा है: निरंतर, प्रोत्साहित कठोरीकरण। ▸ वैश्विक माइनर्स वास्तविक विरोधी उदाहरण ढूंढने के लिए प्रतिस्पर्धा करते हैं ▸ सत्यापित हमलों का उपयोग केवल रिपोर्ट्स के लिए नहीं, बल्कि मॉडल प्रशिक्षण के लिए किया जाता है ▸ मजबूती स्कोर और ऐसे डेटासेट जिन पर कंपनियाँ कार्रवाई कर सकती हैं ▸ सबनेट गतिविधि से एक वास्तविक उत्पाद में स्थानांतरित होना यह एक-बार के रेड टीमिंग से निरंतर बाहरी दबाव में परिवर्तन है, जिसकी मुझे लगता है कि उत्पादन AI को आवश्यकता है। मैं वर्तमान में उनके उत्पाद लॉन्च के विकास और सबनेट के बाहर की टीमों के वास्तव में आउटपुट का उपयोग करने की प्रक्रिया पर नजर रख रहा हूँ। #TAO #SN26 #Perturb