اوڈیلی پلانیٹ ڈیلی کے مطابق، ویتالیک بیوٹیرین نے اپریل 2026 تک اپنے مقامی، نجی LLM ڈیپلومنٹ کا منصوبہ شیئر کیا ہے، جس کا مرکزی مقصد خصوصیت، تحفظ اور خود مختاری کو بنیاد بناتے ہوئے، ذاتی ڈیٹا تک دورِ مکان ماڈلز اور باہری سروسز کے رابطے کو کم سے کم رکھنا ہے، اور مقامی استدلال، فائل کا مقامی ذخیرہ سازی اور سینڈ باکس علیحدگی جیسے طریقوں کے ذریعے ڈیٹا لیک، ماڈل بھاگنا اور برے مقاصد کے لیے مواد کے استعمال کے خطرات کو کم کرنا ہے۔
ہارڈویئر کے لحاظ سے، انہوں نے NVIDIA 5090 GPU والے لیپ ٹاپ، AMD Ryzen AI Max Pro 128 GB یونیفائیڈ میموری ڈیوائسز اور DGX Spark جیسے حلز کا امتحان کیا، اور Qwen3.5 35B اور 122B ماڈلز کا استعمال کرتے ہوئے لوکل انفرنس کیا۔ ان میں، 5090 لیپ ٹاپ 35B ماڈل پر تقریباً 90 ٹوکنز/سیکنڈ تک پہنچ سکتا ہے، AMD حل تقریباً 51 ٹوکنز/سیکنڈ، اور DGX Spark تقریباً 60 ٹوکنز/سیکنڈ۔ وٹالک نے کہا کہ وہ لوکل AI ماحول بنانے کے لیے اعلیٰ پرفارمنس والے لیپ ٹاپس کو ترجیح دیتے ہیں، جبکہ مجموعی ورک فلو کو llama-server، llama-swap اور NixOS جیسے ٹولز کا استعمال کرتے ہوئے ترتیب دیتے ہیں۔
