ویتالیک بیٹرین مقامی پرائیویٹ LLM ڈیپلویمنٹ کی منصوبہ بندی شیئر کرتے ہیں، جس میں خفیہ رکھنے اور سیکورٹی کو ترجیح دی جاتی ہے

iconKuCoinFlash
بانٹیں
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconخلاصہ

expand icon
ویتالیک بیٹرین نے اپریل 2026 کے لیے ایک مقامی LLM ڈیپلویمنٹ منصوبہ تیار کیا، جس میں خصوصیات، حفاظت اور آن-چین ڈیٹا کنٹرول پر زور دیا گیا۔ یہ سیٹ اپ مقامی انفرنس، ڈیوائس پر اسٹوریج اور سینڈ باکسنگ کا استعمال کرتا ہے تاکہ ڈیٹا کی نمائش کم ہو۔ ٹیسٹنگ میں NVIDIA 5090، AMD Ryzen AI Max Pro اور DGX Spark شامل تھے، جن میں Qwen3.5 ماڈلز نے ترتیب سے 90، 51 اور 60 ٹوکن/سیکنڈ کی رفتار حاصل کی۔ بیٹرین اعلیٰ پرفارمنس والے لیپ ٹاپ اور NixOS جیسے ٹولز کو معاہدہ کی حفاظت اور ورک فلو کی کارکردگی کے لیے ترجیح دیتے ہیں۔

اوڈیلی پلانیٹ ڈیلی کے مطابق، ویتالیک بیوٹیرین نے اپریل 2026 تک اپنے مقامی، نجی LLM ڈیپلومنٹ کا منصوبہ شیئر کیا ہے، جس کا مرکزی مقصد خصوصیت، تحفظ اور خود مختاری کو بنیاد بناتے ہوئے، ذاتی ڈیٹا تک دورِ مکان ماڈلز اور باہری سروسز کے رابطے کو کم سے کم رکھنا ہے، اور مقامی استدلال، فائل کا مقامی ذخیرہ سازی اور سینڈ باکس علیحدگی جیسے طریقوں کے ذریعے ڈیٹا لیک، ماڈل بھاگنا اور برے مقاصد کے لیے مواد کے استعمال کے خطرات کو کم کرنا ہے۔

ہارڈویئر کے لحاظ سے، انہوں نے NVIDIA 5090 GPU والے لیپ ٹاپ، AMD Ryzen AI Max Pro 128 GB یونیفائیڈ میموری ڈیوائسز اور DGX Spark جیسے حلز کا امتحان کیا، اور Qwen3.5 35B اور 122B ماڈلز کا استعمال کرتے ہوئے لوکل انفرنس کیا۔ ان میں، 5090 لیپ ٹاپ 35B ماڈل پر تقریباً 90 ٹوکنز/سیکنڈ تک پہنچ سکتا ہے، AMD حل تقریباً 51 ٹوکنز/سیکنڈ، اور DGX Spark تقریباً 60 ٹوکنز/سیکنڈ۔ وٹالک نے کہا کہ وہ لوکل AI ماحول بنانے کے لیے اعلیٰ پرفارمنس والے لیپ ٹاپس کو ترجیح دیتے ہیں، جبکہ مجموعی ورک فلو کو llama-server، llama-swap اور NixOS جیسے ٹولز کا استعمال کرتے ہوئے ترتیب دیتے ہیں۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔