मैं घोषणा करने के लिए उत्साहित हूँ कि मैंने पेरिस में @OpenAIDevs Codex x Mollie Hacka वर्ल्डवाइड हैकाथॉन जीता। 60+ बिल्डर्स, हर एक अकेले काम कर रहा था, एक दिन में शिप करने के लिए।
मैंने अपना प्रोजेक्ट एक एकल प्रश्न के आसपास बनाया: बुद्धिमत्ता का मालिकाना हक किसे मिलता है?
डिफ़ॉल्ट जवाब डरावना है। आप अपना डेटा कुछ ही लैब्स को सौंपते हैं, वे मॉडल को ट्रेन करते हैं, वे इसके मालिक बन जाते हैं, और आप अपने ही डेटा से संभव हुए चीज़ों का एक पतला हिस्सा किराए पर लेते हैं। आज के लिए यही समझौता है। मैं इसे स्वीकार नहीं करता।
इसलिए मैंने Lensemble बनाया: JEPA-आधारित वर्ल्ड मॉडल्स के लिए एक टेपेस्ट्री-जैसा वितरित प्रशिक्षण प्लेटफ़ॉर्म।
यह क्या सक्षम बनाता है: समुदाय द्वारा साथ-साथ सुधारे, संप्रभु रखे, और साझा मालिकाना हक रखे गए वर्ल्ड मॉडल्स।
इसके पीछे दो मान्यताएँ हैं।
पहली, परिप्रेक्ष्य।
भाषा मॉडल्स अगला टोकन प्रेडिक्ट करते हैं। पाठ के लिए शक्तिशाली, लेकिन भौतिक दुनिया के लिए एक मुश्किल समाप्ति। एक रोबोट को वाक्यों को पूरा करने की आवश्यकता नहीं होती, उसे दुनिया में अगला क्या होगा, यह प्रेडिक्ट करने की आवश्यकता होती है। JEPA यही करता है: यह पिक्सल ya token की बजाय प्रतिनिधित्वों को प्रेडिक्ट करके सीखता है।
मुझे पूरा विश्वास है कि वर्ल्ड मॉडल्स AI में सबसे कम समझे जाने वाले परिप्रेक्ष्य हैं, और हमारे पास robotics के लिए ChatGPT मोमेंट के सबसे करीबी समानता है।
दूसरी, राजनीति।
आपका कच्चा ट्रैजेक्टरी आपकी मशीन से कभी बाहर नहीं जाता। प्रत्येक प्रतिभागी साझा प्रोटोकॉल के साथ स्थानीय रूप से प्रशिक्षण करता है, और केवल अपडेट ही भेजता है, कभी डेटा नहीं। एक संघीय पल में, इन अपडेट्स को मिलाकर साझा वर्ल्ड मॉडल, LeWorldModel-आधारित मॉडल, में समाहित किया जाता है, और प्रगति मापी जाती है, स्वीकार नहीं की जाती: 12k-पैरामीटर adapter, 12% कम होने पर frozen backbone पर held-out prediction error, मॉडल स्पष्ट रूप से कम हैरान होता है।
फिर, प्रगति को समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर समय-समय पर सময़–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর সময়–সময় পর ફ્રીઝિંગ બેકબોન માં 12% ઘટાડો થાય છે, મોડેલ દુનિયા દ્વારા આશ્ચર્ય થતું ઓછું હોય છે.
फिर, 12k-parameter adapter, frozen backbone, held-out prediction error down about 12 percent, the model measurably less surprised by the world.
Then the upside is split by contribution weight, so the people who improved the model own a share of what it earns.
This is the thesis behind Project Tapestry, the AI Alliance and Yann LeCun's push for federated, sovereign frontier AI, carried into world models and robotics. Call it Tapestry for the physical world.
All of it built solo, in a single day, with Codex as my pair the whole way.
Thank you to OpenAI Codex and Mollie for backing builders who ship real things, and to @borvibe and the organizing crew for the room and the standard you set.
Intelligence the world improves, and the world owns.
That is the future I want for my kids, and the one I will keep building.
