নভিডিয়ার সিইও জেনসেন হুয়াং নাটকীয়তার প্রতিভাবান। একটি সাম্প্রতিক উপস্থাপনায়, তিনি একটি রান্নাঘরের ওভেন থেকে $249-এর একটি এআই কম্পিউটার বের করেন, কারণ প্রত্যক্ষভাবে এটিই হলো $100B+ মূল্যের হার্ডওয়্যার চালু করার উপায়। এই ডিভাইসটির নাম Jetson Orin Nano Super Developer Kit, যা ক্লাউড সাবস্ক্রিপশনের প্রয়োজন ছাড়াই স্থানীয়ভাবে বড় ভাষা মডেলগুলি চালানোর জন্য ডিজাইন করা হয়েছে।
পিচটি সহজ: আপনার ডেস্কে রাখা একটি কম্প্যাক্ট বক্সে Llama 3, Mistral, Gemma এবং DeepSeek এর মতো AI মডেল চালান। কোনো পুনরাবৃত্তি হওয়া API ফি নেই। আপনার ডেটা অন্যের সার্ভারে পাঠানোর প্রয়োজন নেই। শুধু প্লাগ করে দিন এবং শুরু করুন।
এই জিনিসটির ভিতরে আসলে কী আছে
জেটসন অরিন ন্যানো সুপার ৬৭ থেকে ৭০ ট্রিলিয়ন অপারেশন প্রতি সেকেন্ড (TOPS) প্রদান করে, যখন মাত্র ২৫ ওয়াট বিদ্যুৎ খরচ করে। প্রসঙ্গ হিসেবে, এটি প্রায় একটি স্ট্যান্ডার্ড বাল্বের শক্তি খরচের সমান। এই ডিভাইসে ৮ জিবি মেমোরি এবং ১,০২৩ জিবি/সেকেন্ড ব্যান্ডউইথ রয়েছে।
নভিডিয়া দাবি করে যে এটি তার আগের মডেল, মূল Jetson Orin Nano-এর পারফরম্যান্স দ্বিগুণ করেছে, যখন 50% বেশি মেমোরি ব্যান্ডউইথ প্রদান করে। একই মূল্যের শ্রেণিতে একটি ডিভাইসের জন্য এটি একটি অর্থপূর্ণ উন্নতি।
নভিডিয়া এমনকি বলেছে যে এই ডিভাইসটি আগে তার অনেক বড় HGX AI সুপারকম্পিউটারগুলির ক্ষেত্র ছিল এমন ওয়ার্কফ্লোগুলি পরিচালনা করতে পারে।
কেন স্থানীয় এআই গুরুত্বপূর্ণ, বিশেষ করে ক্রিপ্টোর জন্য
স্থানীয় ইনফারেন্স, অর্থাৎ একটি ক্লাউড প্রোভাইডারের মাধ্যমে নয়, আপনার নিজের হার্ডওয়্যারে এআই মডেল চালানো, ক্রিপ্টো সম্প্রদায়ের যে দুটি চিন্তা নিয়ে গভীরভাবে আগ্রহী তা সরাসরি সমাধান করে: ডেটা গোপনীয়তা এবং বিকেন্দ্রীকরণ। যখন আপনি একটি মডেল স্থানীয়ভাবে চালান, তখন আপনার প্রম্পট এবং ডেটা কখনও আপনার মেশিন ছেড়ে যায় না। কোনও তৃতীয় পক্ষের API আপনার কোয়েরি লগ করে না বা ট্রেনিং ডেটার জন্য আপনার ইনপুটগুলি স্ক্র্যাপ করে না।
এটি Bittensor, Render বা Akash-এর মতো নেটওয়ার্কে ভিত্তি করে তৈরি হওয়া ডিসেন্ট্রালাইজড এআই প্রকল্পগুলির জন্য গুরুত্বপূর্ণ। এই প্রোটোকলগুলি বিতরিত কম্পিউটিং মার্কেটপ্লেস তৈরির চেষ্টা করছে, যেখানে ব্যক্তিগতরা GPU শক্তি অবদান রাখে টোকেন পুরস্কারের বিনিময়ে। সক্ষম এআই হার্ডওয়্যারের জন্য $249 এন্ট্রি পয়েন্ট এই নেটওয়ার্কগুলিতে অংশগ্রহণকারীদের সংখ্যা অপারগুলি বাড়িয়ে তুলতে পারে।
পুনরাবৃত্ত এপিআই শুল্কের উঠে যাওয়া আরেকটি মূল্যবান দিক। ওপেনএআই, অ্যানথ্রোপিক এবং গুগল সবাই তাদের ক্লাউড-ভিত্তিক মডেলের জন্য প্রতি টোকেনে শুল্ক নেয়। ট্রেডিং বট, স্মার্ট চুক্তি অডিটিং বা অন-চেইন বিশ্লেষণের জন্য এআই ফাংশনality একীভূতকারী ক্রিপ্টো প্রকল্পগুলির জন্য এই খরচগুলি দ্রুত বেড়ে যায়। একটি এককবারের $249 বিনিয়োগ যা সমতুল্য ওপেন-সোর্স মডেলগুলি স্থানীয়ভাবে চালানোর অনুমতি দেয়, তা একটি মৌলিকভাবে ভিন্ন আর্থিক প্রস্তাব।
এটি বিনিয়োগকারীদের জন্য কী অর্থ বহন করে
ব্রড এআই হার্ডওয়্যার মার্কেটের জন্য, এটি একটি নতুন বেঞ্চমার্ক নির্ধারণ করে। প্রতিদ্বন্দ্বীদের এখন একটি সরল প্রশ্নের উত্তর দিতে হবে: তারা 25 ওয়াটে $249-এ 67 থেকে 70 TOPS-এর সমান করতে পারবে কি?
যে ঝুঁকি পর্যবেক্ষণ করা দরকার তা হলো, স্থানীয় মডেলগুলি ক্ষমতার দিক থেকে ক্লাউড-হোস্টেড ফ্রন্টিয়ার মডেলগুলির সাথে পাল্লা দিতে পারে কিনা। $249 এর ডিভাইসে Llama 3 চালানো অসাধারণ, কিন্তু এটি GPT-4 নয়। অনেক ব্যবহারের ক্ষেত্রে, বিশেষ করে DeFi এবং ট্রেডিং-এ, স্থানীয় ওপেন-সোর্স মডেল এবং শীর্ষস্থানীয় ক্লাউড মডেলের মধ্যে গুণগত ব্যবধান এখনও গুরুত্বপূর্ণ।