নভিডিয়া ঘরোয়া নেটওয়ার্কের জন্য ফ্রি পার্সোনাল এআই রাউটার চালু করেছে

নভিডিয়া আপনার হোম কম্পিউটারগুলিকে একটি দল হিসাবে কাজ করতে চায়। কোম্পানির নতুন পার্সোনাল এআই রাউটার, যার নাম PAIR, হল একটি বিনামূল্যে, ওপেন-সোর্স সফটওয়্যার যা একটি স্থানীয় নেটওয়ার্কে সামঞ্জস্যপূর্ণ মেশিনগুলি খুঁজে বের করে, তাদের একে অপরের সাথে লিঙ্ক করে এবং একটিও প্রম্পটকে ক্লাউডের বাইরে পাঠানোর প্রয়োজন ছাড়াই একাধিক GPU-এর মধ্যে AI ইনফারেন্স টাস্কগুলি বিভক্ত করার জন্য তাদের প্রস্তুত করে।

এটিকে আপনার বসার ঘরের জন্য একটি লোড ব্যালেন্সার হিসাবে ভাবুন। একটি পিসি একা একটি বড় ভাষা মডেল চালানোর জন্য সংগ্রাম করার বদলে, PAIR নেটওয়ার্কের প্রতিটি সক্ষম ডিভাইসের মধ্যে কাজের লোড বণ্টন করে, যে মেশিনের কাছে উপলব্ধ হেডরুম আছে, সেখানে অনুরোধগুলি রুট করে।

PAIR একটি ভৌত রাউটার নয়। কোনো নতুন হার্ডওয়্যারের প্রয়োজন নেই, দেয়ালে প্লাগ করার জন্য কোনো বক্স প্রয়োজন হয় না।

এটি স্থানীয় এআই অনুমানের জন্য নেটওয়ার্ক আবিষ্কার, ডিভাইস সমন্বয় এবং কাজের বণ্টন পরিচালনা করে। সামঞ্জস্যপূর্ণ টুলগুলির মধ্যে রয়েছে ওলামা এবং এলএম স্টুডিও, যা উপভোক্তা হার্ডওয়্যারে বড় ভাষা মডেল চালানোর জন্য সবচেয়ে জনপ্রিয় অ্যাপ্লিকেশনগুলির মধ্যে দুটি।

ডিভাইস সমর্থন প্রধানত নভিডিয়ার নিজস্ব বাস্তুতন্ত্রের দিকে ঝুঁকে আছে, যা GeForce RTX 20-সিরিজ কার্ড এবং তার চেয়ে নতুন যেকোনো ডিভাইস, RTX Pro GPU এবং DGX Spark সিস্টেমকে কভার করে। Apple-এর M4 চিপ বা তার চেয়ে নতুন চিপগুলিও সামঞ্জস্যপূর্ণ।

নভিডিয়ার DGX Spark স্থানীয় ইনফারেন্স লাইনআপের সর্বোচ্চ কীর্তি। যখন DGX Spark চালিত মেশিনগুলি ক্লাস্টার করা হয় এবং মডেলগুলি কোয়ান্টাইজড হয়, তখন সিস্টেমটি 200 বিলিয়ন প্যারামিটারের পরিসরের মডেলগুলি পরিচালনা করতে পারে।

RTX 5090 এর মতো হাই-এন্ড কনsumer কার্ডগুলি 24 থেকে 32 জিবি VRAM নিয়ে আসে। PAIR-এর কাজ হলো এই হার্ডওয়্যারটিকে শুধুমাত্র একটি ডেস্কটপেই সীমাবদ্ধ না রেখে সম্পূর্ণ হোম নেটওয়ার্কে ব্যবহারযোগ্য করে তোলা।

PAIR হল একটি ব্যাপক কৌশলগত পরিবর্তনের অংশ, যা নভিডিয়া একই সাথে বাস্তবায়ন করছে। কোম্পানিটি যা এআই গ্রিড নামে ডাকে, সেটি হল একটি উদ্যোগ যা ক্লাউড-ভিত্তিক এআই-এর সাথে জড়িত ল্যাটেন্সি এবং খরচ কমানোর জন্য গণনাকে ব্যবহারকারীর সবচেয়ে কাছাকাছি রাখার উপর ভিত্তি করে।

নভেম্বর ২৫, ২০২৬-এ নভিডিয়া পারপ্লেক্সিটির সাথে একটি চুক্তিতে প্রবেশ করে, যা কোম্পানিগুলি পোর্টেবল কম্পিউটার নামে ডাকে, যা একটি ডিভাইস যা নভিডিয়া হার্ডওয়্যারে মিড-টিয়ার Qwen মডেলগুলি স্থানীয়ভাবে চালানোর জন্য ডিজাইন করা হয়েছে। ন্যূনতম VRAM 24 GB থেকে শুরু হয়, যা RTX 5090 টিয়ারের সাথে সঙ্গতিপূর্ণ।

আধুনিক এআই এজেন্টগুলি একটি অনুরোধ পাঠানোর পরে বন্ধ হয়ে যায় না; তারা ধারাবাহিকভাবে দরজার দশগুলি মডেল কল, টুল ব্যবহার এবং যুক্তিসঙ্গত ধাপগুলি সংযুক্ত করে। দীর্ঘ চেইনের মধ্যে ক্লাউড ল্যাটেন্সি দ্রুত বৃদ্ধি পায়। PAIR দ্বারা সমন্বিত একটি স্থানীয় GPU নেটওয়ার্ক রাউন্ড-ট্রিপ সময়কে ন্যূনতম রাখে এবং হোস্টেড API-এর উপর স্কেল করে এজেন্টিক অ্যাপ্লিকেশনগুলি চালানোর জন্য প্রতি-টোকেন খরচগুলি এড়িয়ে চলে।

নভিডিয়া PAIR-কে বিনামূল্যে, ওপেন-সোর্স সফটওয়্যার হিসেবে প্রকাশ করে একটি গণনাকৃত পদক্ষেপ নিচ্ছে। এই টুলটি সরাসরি আয় উৎপন্ন করে না, কিন্তু ব্যবহারকারীদের নভিডিয়া হার্ডওয়্যারের উপর নির্ভরশীলতা বাড়ায়। যদি আপনার হোম AI নেটওয়ার্ক PAIR এবং RTX GPU-এর উপর ভিত্তি করে গড়ে উঠে থাকে, তবে আপনার পরবর্তী আপগ্রেডের জন্য সবচেয়ে কম প্রতিবন্ধকতাযুক্ত পথটি থাকবে নভিডিয়ার বাস্তুতন্ত্রের ভিতরে।

AMD এবং Intel উভয়ই স্থানীয় ইনফারেন্সের জন্য প্রতিদ্বন্দ্বী GPU লাইন প্রদান করে, এবং Ollama এর মতো টুলসের ওপেন-সোর্স প্রকৃতির কারণে কোনোটিই ওয়ার্কফ্লো থেকে বাদ পড়ে না। কিন্তু Nvidia-এর CUDA বাস্তুতন্ত্র এবং প্রধান ইনফারেন্স ফ্রেমওয়ার্কগুলির সাথে এর ঘনিষ্ঠ একীভূতকরণ PAIR-কে এমন একটি সামঞ্জস্যতার গভীরতা প্রদান করে যা প্রতিদ্বন্দ্বীদের দ্রুত পুনরায় তৈরি করা কঠিন।

ক্লাউড প্রোভাইডারদের জন্য, PAIR-এর প্রতিনিধিত্বকারী প্রবণতাটি সতর্কতার সাথে পর্যবেক্ষণ করা উচিত। অ্যামাজন ওয়েব সার্ভিসেস, গুগল ক্লাউড এবং মাইক্রোসফট এজুর সবগুলোই AI ইনফারেন্স API ট্রাফিক থেকে উল্লেখযোগ্য আয় অর্জন করে। এই ওয়ার্কলোডকে কনজিউমার হার্ডওয়্যারে স্থানান্তরিত করে এমন টুলগুলি সেই ব্যবসাগুলির পরবর্তী প্রজেকশনে যা বৃদ্ধির ধারণা রাখা হয়েছে, তা ধীরে ধীরে কমিয়ে দেয়।