AMD نے مقامی پروگرامنگ پلیٹ فارم Instinct Coder 355 متعارف کرایا، جس میں 8 MI355X گرافکس کارڈ مقامی طور پر چلنے والے اعلیٰ ماڈلز کی 98% تک استدلال کی صلاحیت فراہم کرتے ہیں، اور ڈیفالٹ طور پر انٹرنیٹ سے منسلک نہیں ہوتے، ڈیٹا مقامی رہتا ہے۔مضمون کے مصنف، ذریعہ: AIBase
AMD نے بڑے ماڈلز کو بادل سے ڈیٹا سینٹر میں واپس لایا ہے، اور اس بار یہ کام کاروباری ڈویلپرز کے لیے کر رہا ہے۔ مقامی وقت کے مطابق 9 نومبر کو، AMD نے Spectro Cloud کے ساتھ مل کر کاروباری AI مدد کے ساتھ پروگرامنگ پلیٹ فارم Instinct Coder 355 متعارف کرایا، جو مقامی طور پر GLM-5.3 انفرینس چلا سکتا ہے اور اس کا کہنا ہے کہ یہ سب سے آگے کے ماڈلز کی 98 فیصد کارکردگی تک پہنچ جاتا ہے۔
اٹھ کارڈز ایک پروگرامنگ سرور کو سہارا دیتے ہیں
اس سسٹم کی اصل طاقت اس کے ہارڈویئر کے اضافات میں ہے: اس کا مرکز 8 AMD Instinct MI355X ایکسلریٹرز، 2 64-کور EPYC 9575F "Zen 5" پروسیسرز، 3TB DDR5-6400 میموری اور کل 63.36TB سولڈ سٹیٹ اسٹوریج کے ساتھ ہے۔ ڈیل اور سوپر مائیکرو مختلف اسپیسیفکیشنز کے ساتھ مکمل یونٹس فراہم کرتے ہیں، جس سے کمپنیاں اپنے دفتر کے مطابق مناسب حل منتخب کر سکتی ہیں۔ ایک نوڈ ایک ساتھ 85 ڈویلپرز کو سروس دے سکتا ہے، جن میں سے 50 ایک ساتھ کوڈنگ کر سکتے ہیں، جس سے ایک چھوٹی ٹیم کی کمپوٹنگ ضروریات ایک ہی کیس میں شامل ہو جاتی ہیں۔
ڈیفالٹ طور پر کنکٹ نہیں ہوتا، ڈیٹا مقامی طور پر محفوظ رہتا ہے
سچی کامیابی کا راز "بیٹھے ہوئے" کا ڈیزائن ہے۔ سپیکٹرو کلاؤڈ نے اس سسٹم کے لیے پیلیٹ AI Inference Launchpad مینجمنٹ سافٹ ویئر فراہم کیا ہے، جو ڈیفالٹ طور پر لوکل کمپوٹنگ پاور کا استعمال کرتا ہے، کلاؤڈ API نہیں، جس سے حساس کوڈ اور ڈیٹا باہر نہیں جاتا۔ لاگت اور مطابقت کے دوہرے دباؤ کے تحت، انفرینس کو اپنے ہی ڈیٹا سنٹر میں واپس لانا بڑی کمپنیوں کے لیے ایک نئی ترجیح بن رہا ہے — ایم ڈی اے کا یہ قدم واضح طور پر نیوڈیا اور دیگر کلاؤڈ فراہم کنندگان کے حصے سے اپنا حصہ حاصل کرنے کی کوشش ہے۔