نیوڈیا کے سی ای او جینسن ہوئنگ تھیٹریکل انداز کے ماہر ہیں۔ حالیہ ایک پریزنٹیشن کے دوران، انہوں نے ایک 249 ڈالر کا AI کمپیوٹر ایک کچن کے اوون سے نکالا، کیونکہ اس وقت کے لیے اس طرح ہارڈویئر لانچ کرنا ہے جب آپ کی قیمت 100 ارب ڈالر سے زیادہ ہو۔ یہ ڈیوائس، جس کا نام جیٹسن آرین نینو سپر ڈویلپر کٹ ہے، بڑے زبان ماڈلز کو مقامی طور پر چلانے کے لیے ڈیزائن کیا گیا ہے، بجلی کی سبسکرپشن کی ضرورت نہیں۔
پیچ سادہ ہے: اپنی میز پر رکھے گئے ایک چھوٹے سے باکس پر Llama 3، Mistral، Gemma اور DeepSeek جیسے AI ماڈلز چلائیں۔ کوئی دوبارہ آنے والی API فیس نہیں۔ آپ کا ڈیٹا کسی اور کے سرور پر نہیں بھیجا جائے گا۔ صرف اسے جوڑ دیں اور شروع کر دیں۔
اس چیز کے اندر بالکل کیا ہے
جیٹسن اورن نینو سپر 67 سے 70 TOPS، یعنی ایک تریلین آپریشن فی سیکنڈ پیدا کرتا ہے، جبکہ صرف 25 واٹ بجلی استعمال کرتا ہے۔ حوالہ کے طور پر، یہ تقریباً ایک معیاری لائٹ بلب کی طرح بجلی کھاتا ہے۔ یہ ڈیوائس 8 جی بی میموری کے ساتھ آتا ہے جس کی بینڈ ویتھ 1,023 جی بی/سیکنڈ ہے۔
نیوڈیا کا دعویٰ ہے کہ وہ اپنے سابقہ مصنوعات، اصل Jetson Orin Nano کی کارکردگی دگنا کرتی ہے، جبکہ 50 فیصد زیادہ میموری بینڈ ویتھ فراہم کرتی ہے۔ اس قیمت کے تقسیم میں ایک ڈیوائس کے لیے یہ ایک معنی خیز اضافہ ہے۔
نیوڈیا نے یہ بھی کہا ہے کہ یہ ڈیوائس ان ورک فلوز کو بھی سنبھال سکتی ہے جو پہلے اس کے بہت بڑے HGX AI سپر کمپیوٹرز کا شعبہ تھے۔
مقامی AI کیوں اہم ہے، خاص طور پر کرپٹو کے لیے
مقامی انفرینس، جس کا مطلب ہے کہ آپ AI ماڈلز کو اپنے اپنے ہارڈویئر پر چلائیں، کرپٹو کمیونٹی کی دو اہم فکریں — ڈیٹا کی خفیہ رکھائی اور ڈی سینٹرلائزیشن — کو ب без واسطہ حل کرتا ہے۔ جب آپ ایک ماڈل کو مقامی طور پر چلاتے ہیں، تو آپ کے پرامپٹس اور ڈیٹا آپ کے مشین سے باہر نہیں جاتے۔ کوئی تیسری پارٹی API آپ کے سوالات کو لاگ نہیں کرتی اور آپ کے ان پٹس کو ٹریننگ ڈیٹا کے لیے اسکریپ نہیں کرتی۔
یہ بات Bittensor، Render، یا Akash جیسے نیٹ ورکس پر بننے والے ڈی سینٹرلائزڈ AI پراجیکٹس کے لیے اہم ہے۔ یہ پروٹوکولز ایسے تقسیم شدہ کمپیوٹنگ مارکیٹ پلیسز بنانے کی کوشش کر رہے ہیں جہاں افراد GPU کی طاقت فراہم کرکے ٹوکن انعامات کے بدلے میں حاصل کرتے ہیں۔ صلاحیت مند AI ہارڈویئر کے لیے $249 کا انٹری پوائنٹ ان نیٹ ورکس میں شرکاء کے مجموعے کو کافی حد تک بڑھا سکتا ہے۔
بار بار آنے والے API فیسز کو ختم کرنا ایک اور اہم پہلو ہے جس پر نظر رکھنا چاہیے۔ OpenAI، Anthropic اور Google اپنے کلاؤڈ مبنی ماڈلز کے لیے ہر ٹوکن پر فیس لیتے ہیں۔ AI فنکشنلٹی کو ٹریڈنگ بوٹس، اسمارٹ کنٹریکٹ آڈٹنگ یا آن-چین تجزیہ کے لیے اندماج کرنے والے کرپٹو منصوبوں کے لیے، یہ اخراجات جلد زیادہ ہو جاتے ہیں۔ ایک ایک بار کی $249 کی سرمایہ کاری جو مقامی طور پر قابلِ موازنہ اوپن سورس ماڈلز چلا سکتی ہے، بنیادی طور پر الگ معاشی تجویز ہے۔
اس کا سرمایہ کاروں کے لیے کیا مطلب ہے
broader AI ہارڈویئر مارکیٹ کے لیے، یہ ایک نیا معیار قائم کرتا ہے۔ اب مقابلہ کرنے والے کو ایک سیدھا سوال کا جواب دینا ہوگا: کیا وہ 25 واٹ پر 249 ڈالر کے لیے 67 سے 70 TOPS کے برابر کر سکتے ہیں؟
جو خطر پر نظر رکھنا ہے، وہ یہ ہے کہ مقامی ماڈلز صلاحیت کے لحاظ سے کلاؤڈ ہوسٹڈ فرنٹیئر ماڈلز کے ساتھ کیسے قدم رکھ سکتے ہیں۔ ایک 249 ڈالر کے ڈیوائس پر Llama 3 چلانا حیرت انگیز ہے، لیکن یہ GPT-4 نہیں ہے۔ بہت سے استعمال کے معاملات، خاص طور پر DeFi اور ٹریڈنگ میں، مقامی اوپن سورس ماڈلز اور اعلیٰ کلاؤڈ ماڈلز کے درمیان معیار کا فرق اب بھی اہم ہے۔