بیرونی ذرائع کے مطابق، AI ماڈلز کے استعمال کا خرچ اس سال کے دوسرے نصف میں کم ہوتا رہے گا، جس کی بنیادی وجہ نئی نسل کے انفراسٹرکچر کا مرکزی طور پر شروع ہونا ہے۔ جبکہ Nvidia Blackwell سسٹمز بڑے پیمانے پر ڈیپلومنٹ کے مراحل میں داخل ہو رہے ہیں، ماڈل تربیت اور استنتاج کی اکائی لاگت کم ہو رہی ہے، اور AI سروس فراہم کنندگان کے لیے ٹوکن قیمتیں کم کرنے کا امکان بڑھ رہا ہے۔
بلیکول کا بڑے پیمانے پر لانچ شروع
یہ مضمون کہتا ہے کہ لاگت میں کمی کا موجودہ مرکزی عامل AI ڈیٹا سینٹر میں بڑی تعداد میں بلاکول سسٹم کی نصبی ہے۔ اس سال کے دوسرے نصف میں، یہ سسٹم آہستہ آہستہ اپنی پیمانے پر پہنچ جائیں گے اور نئے ماڈلز کے تربیت اور زیادہ انفرنس ٹاسکس کو سنبھالنے کے لیے استعمال ہوں گے۔
ہاپر پلیٹ فارم کے مقابلے میں بلاک ویل کی تنصیب زیادہ پیچیدہ ہے۔ متعلقہ سسٹمز کو نئے ڈیٹا سنٹر کنفیگریشنز جیسے لیکوڈ کولنگ کی ضرورت ہوتی ہے، جس کی وجہ سے انسٹالیشن کا دورہ لمبا ہوتا ہے۔ لیکن ایک بار تنصیب مکمل ہونے کے بعد، حاصل ہونے والی کارکردگی میں اضافہ بہت واضح ہو سکتا ہے۔
单位产出明显提高
تحقیقی ادارہ SemiAnalysis نے Nvidia کے ٹاپ Blackwell سسٹم GB300 NVL72 کا موازنہ پچھلی نسل کے Hopper HGX 200 کے ساتھ کیا۔ ان کے ٹیسٹ کے نتائج کے مطابق، پرانے سسٹم میں ایک GPU فی سیکنڈ 90 ٹوکنز پیدا کرتا تھا، جبکہ نئے سسٹم میں یہ تعداد 6000 تک پہنچ گئی، جس سے پیداوار میں تقریباً 65 گنا اضافہ ہوا۔
اگر ہر میگاواٹ بجلی کے مطابق ٹوکن پیداوار کو دیکھا جائے، تو ہاپر کی رفتار 54,000 فی سیکنڈ ہے، جبکہ بلاکول کی رفتار 2.8 ملین فی سیکنڈ ہے، جو تقریباً 50 گنا بڑھ جاتی ہے۔ مضمون کے مطابق، بجلی کی لاگت بڑھنے کے پس منظر میں، یہ اشارہ AI ڈیٹا سینٹرز کے لیے خاص طور پر اہم ہے۔
- GB300 NVL72: فی سیکنڈ تقریباً 6000 ٹوکن
- ہاپر HGX 200: فی سیکنڈ تقریباً 90 ٹوکن
- ہر میگاواٹ ٹوکن پیداوار: تقریباً 50 گنا بڑھ جاتی ہے
ہر ملین ٹوکن کی لاگت 12 سینٹ تک کم ہو گئی
سیمی اینالیسس نے 100 ہزار ٹوکنز کی پیداوار کی لاگت کا بھی موازنہ کیا۔ ٹیسٹوں سے پتہ چلا کہ ہاپر سسٹم کی لاگت تقریباً 4.20 امریکی ڈالر ہے، جبکہ بلاکول سسٹم کی لاگت تقریباً 0.12 امریکی ڈالر ہے، جس میں 35 گنا کمی آئی ہے۔
اس بنیاد پر، جب مزید نئے ماڈلز Blackwell پلیٹ فارم پر ٹریننگ اور چلانے کی طرف منتقل ہوں گے، تو کم لاگت والے ٹوکن کی فراہمی مزید بڑھتی رہے گی۔ ماڈل فراہم کنندگان کی قیمتیں کم کرنے کا سبب صرف مقابلہ نہیں، بلکہ بنیادی کمپوٹنگ لاگت کا بھی کم ہونا ہے۔
اُپنے ہیڈ کے سی ای او سیم الٹمن نے بھی حال ہی میں اشارہ کیا ہے کہ AI کی لاگت ایک اہم مسئلہ بن گئی ہے، اور کمپنی زیادہ طریقوں کی تلاش کر رہی ہے تاکہ صارفین کو کم خرچ میں زیادہ قیمت حاصل ہو۔
قیمت میں کمی کے علامات ظاہر ہونا شروع ہو گئے ہیں
یہ مضمون Sil Token Issuance Data کے ایک ٹوکن خرچ کے اشاریہ کا حوالہ دیتا ہے جو مئی کے آخر میں تقریباً 2.06 تھا اور 10 جون تک گھٹ کر 1.75 ہو گیا۔ Sil Token Issuance Data کے سی ای او کارمن لی کا خیال ہے کہ اس کا مطلب ہو سکتا ہے کہ مختلف AI ماڈلز کے ٹوکن کی قیمتیں شروع ہو چکی ہیں۔
یہ مضمون کہتا ہے کہ اگر یہ رجحان جاری رہا، تو مارکیٹ کا "ٹوکن کے استعمال" پر توجہ کا مرکز بچت سے آگے بڑھ کر کم لاگت پر استعمال کو بڑھانے کی طرف منتقل ہو سکتا ہے۔