
🚨 اس شخص نے اپنی $200/ماہ کی کلوڈ میکس سبسکرپشن کو اپنے ڈیسک پر ایک مینی پی سی سے بدل دیا!! Gemma 4 12B، جو GMKTEC EVO-X2 پر llama.cpp کے ذریعے لوکلی چل رہا ہے، Multi Token Prediction کے ساتھ، کوئی کلاؤڈ نہیں، کوئی API کی نہیں، کوئی ریٹ لِمٹ نہیں آپ کو Q4_K_M کوانتائزڈ ماڈل ڈاؤن لوڈ کرنا ہوگا، llama.cpp شروع کرنا ہوگا، اور اسے چلانا ہوگا یہ ایک کھلونا لگتا ہے جب تک کہ آپ آؤٹ پٹ نہ دیکھ لیں: ماڈل نے Starship کے انجینئرنگ، پروپلشن، Raptor انجن، Methalox فUEL، دوبارہ استعمال کے مکینزمز، گرڈ فن، Mechazilla کیچ کا مکمل ٹیکنیکل تجزیہ لکھ دیا، جس میں سیکشنز، بُلٹ پوائنٹس، اور آخر میں ایک صفائی چیک شامل تھی جینریشن سپیڈ: ~18 t/s پرامپٹ پروسسنگ، 60 t/s پر۔ GPU میموری 96% پر پکا ہوا۔ پورا نظام ایک جوتے کے باکس سے چھوٹے باکس پر چل رہا ہے زیادہ تر ڈویلپرز اب بھی کلاؤڈ AI پر استعمال کے لِمٹس کو چھوتے ہوئے $200/ماہ خرچ کر رہے ہیں، جبکہ اس شخص نے اپنے پہلے سے مالکانہ ہارڈ ویئر کے خرچ پر 24/7 بے حد لوکل انفرنس کا استعمال کر لیا ہے اسے بُک مارک کر لیں! جلد ہی مزید الفا آئے گا۔ $200/ماہ کی سبسکرپشن کا دور اب ایک حقیقی جانچ سے گزر چکا ہے
