আপনার ওপেন-সোর্স মডেলগুলি এখন আপনার নিজের মেশিনে চালানো যাবে, কিছুই ক্লাউডে পাঠানোর প্রয়োজন নেই। @TPN_Labs (Bittensor SN65) প্রতিযোগিতামূলক অপ্টিমাইজেশনের মাধ্যমে মডেলগুলি সংকুচিত করে। মাইনাররা বাস্তব হার্ডওয়্যারের সীমাবদ্ধতা এবং বেঞ্চমার্কের ন্যূনতম মানের ভিত্তিতে এগুলিকে ছোট করে। ভ্যালিডেটররা পুনরায় টেস্টগুলি চালায়। যে সবচেয়ে ছোট মডেলটি এখনও বারের মানদণ্ড পূরণ করে, সেটিই বিজয়ী। @Gratis_AI তখন সেই মডেলগুলি (বা @huggingface-এর যেকোনো মডেল) নিয়ে ব্রাউজার বা ডেস্কটপ অ্যাপের মধ্যে স্থানীয়ভাবে চালায়। কিন্তু সতর্কবাণীটি হলো, স্থানীয় ইনফারেন্স এখনও আপনার হার্ডওয়্যারের উপর নির্ভরশীল। যা উল্লেখযোগ্য: • মডেলগুলি অন-চেইনে অপ্টিমাইজড। সম্প্রতির প্রতিযোগিতায় 17GB-এরও বেশি একটি মডেলকে 7.71GB-এ কমিয়েছে, এবং বেঞ্চমার্কস্কোর 66.57%-এর থেকে 74.93%-এ উন্নতি করা হয়েছে। • Gratis-এর জন্য কোনো সেটআপের প্রয়োজন নেই। একটি মডেল বাছুন, অথবা Hugging Face-এর থেকে একটি লোড করুন—এটি একবারইডাউনলোড হবে,এবংআপনারডিভাইসেচলবে। •গোপনীয়তা-ইডিফল্ট।প্রতিটিপ্রম্পটআপনারমেশিনেইথাকবে।প্রথমডাউনলোডএরপরঅফলাইনেকাজকরবে। •কোনোAPIফি,কোনোঅ্যাকাউন্টপ্রয়োজনহয়না। দ্রুতউদাহরণ:আগেযেমডেলটিকেউচ্চ-পারফরম্যান্সGPUপ্রয়োজনহত,সেটিকেএখনএকটিসাধারণল্যাপটপ-এচালানোযথথক,এবংGratis-এরমধ্যদিয়েআপনারডিভাইসছাড়াইচলবে। TPNছোট,ক্ষমতাশালীমডেলতৈরিকরে।Gratisসেগুলিকেচালায়। #Bittensor #Subnet65 #TPN