सभी को लगता है कि बुद्धिमत्ता की असीमित मांग है, सिर्फ मैक्सिस ही नहीं। लेकिन मैक्सिस जो गलत समझते हैं, वह यह है कि एंथ्रोपिक और ओपनएआई और फ्रंटियर मॉडल जो बुद्धिमत्ता बना रहे हैं, वह वह सामान्य प्रकार की बुद्धिमत्ता नहीं है जिसकी आप कल्पना कर रहे हैं। मैं समझाता हूँ—
कंप्यूट का दो सबसे बड़े उपयोग लगभग या तो प्रशिक्षण है या निष्कर्षण। सभी द्वारा कही जाने वाली “सामान्य बुद्धिमत्ता” जिसकी असीमित मांग है, वह मुख्य रूप से निष्कर्षण से आती है, और निष्कर्षण को प्रशिक्षण की तुलना में बहुत अलग पावर और उपयोग की आवश्यकता होती है। निष्कर्षण बार-बार होता है, इसलिए आपको उपयोग समस्या को हल किए बिना, शीर्ष को संभालने के लिए पहले से ही क्षमता को अतिरिक्त बनाना पड़ता है, जिसका मतलब है कि हम परिभाषा के अनुसार ही अतिरिक्त क्षमता बनाएंगे। लेकिन प्रशिक्षण में ऐसी समस्या नहीं है: कार्यभार स्थिर होता है और मांग का वक्र पहले से ज्ञात होता है। इसलिए, डेटा सेंटर अभी सटीक रूप से अतिरिक्त हैं क्योंकि उपयोग अभी अनु tối ưu नहीं हुआ है।
इसलिए, एंथ्रोपिक और अन्य फ्रंटियर प्रयोगशालाएँ अपना भविष्य प्रशिक्षण पर बना रहे हैं, इसलिए ही वे कहते हैं कि वे सभी अतिरिक्त क्षमता को सोख सकते हैं। लेकिन उनकी “बुद्धिमत्ता” कार्यस्थल की उत्पादकता नहीं है। यह सिंगुलैरिटी-जैसे परिणामों की ओर कदम है: नए दवाओं की खोज, साइबर क्षमताएँ, पुनरावर्ती स्व-सुधार। ये सच्चे 1-ऑफ-1 हैं। इसलिए, jab anthropic "मानवता के मौलिक खतरों" के बारे में बात करता है, तो वह केवल नौकरियों के नुकसान के बारे में नहीं, सचमुच में, कहता। वह कहता है कि वेअविश्वसनीयखोजोंकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रायःप्राप्तहोनेकेप्रययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययययayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayayaya
और distillation सच है, open source सच है। किसी bhi frontier model का "अर्ध-आयु" (half-life) बहुत कम है, क्योंकि IP (बुद्धि संपदा) के समकक्ष कुछ bhi iske saath saman nahi karta jaise ek patent ko protect karta hai। ek rare disease drug company ki kalpana kijiye jo arbhut billion dollar research par kharch karta hai, aur ek breakthrough ke do mahine baad ek generic drug aajata hai। woh company kabhi apna investment wapas nahi le sakti, jab tak woh ek anant sankhya mein rare disease drugs na khoj le। THAT is the kind of intelligence anthropic is betting on. That’s what the $800bn of compute spend is betting on.
इसलिए, aapko ye sawal puchne chahiye: 1) agar intelligence do-tiered hai, to har tier ka kya cost hai? AGI ka cost kya hai, aur infinite demand wali generic intelligence ka cost kya hai? aur 2) kya hum capital ko sahi risk curve aur decay function ke saath allocate kar rahe hain taki pata chale ki AGI ka payoff sach mein hai ya nahi? aur agar yeh sach hai, to kya ek private company kabhi asal mein ise own kar payegi?
yehi puri paradox ke center mein cognitive dissonance hai: sab log ek dusre ko gaslight kar rahe hain ki intelligence kya hai, jabki measurement unit ko dono users aur suppliers ne jankari ke saath vague rakha hai। generic intelligence ki unlimited demand hai, lekin yeh ek nishchit race to the bottom hai। "superintelligence" bilkul ulta hai: iski unlimited demand definition ke anusaar nahi ho sakti, lekin agar yeh apne vaada ki aadhi bhi baat puri kare, to koi bhi private company kabhi ise apne paas nahi rakh payegi, kam se kam government ke bina jo moat ko protect kare (yahi wajah hai ki anthropic is angle ko itna upar utha raha hai, bina kisi demonstration ke ki yeh discovery level tak pahunch chuka hai)। aur us point par aapko yeh puchna hoga ki kaun bag hold karega, aur kya yeh asal mein bahut hi intelligent tha।