বিটডান্স প্রায় 10 ট্রিলিয়ন প্যারামিটার সহ একটি এআই মডেল প্রি-ট্রেন করার জন্য প্রস্তুত হচ্ছে, যা পরিচিত সমস্ত চীনা এআই সিস্টেমকে অতিক্রম করবে এবং কোম্পানিটিকে সবচেয়ে উন্নত পশ্চিমা ল্যাবগুলির সাথে সরাসরি প্রতিযোগিতায় ফেলে দেবে। এই প্রচেষ্টার জন্য প্রায় 30,000 GPU এবং 3 থেকে 6 মাসের অবিরাম প্রি-ট্রেনিংয়ের প্রয়োজন হবে।
10 ট্রিলিয়ন প্যারামিটারকে বোঝার জন্য, এটি Moonshot AI-এর Kimi K3-এর তিন গুণের বেশি, যার প্যারামিটার সংখ্যা 2.8 ট্রিলিয়ন এবং বর্তমানে চীনে উৎপাদিত সবচেয়ে বড় মডেলগুলির মধ্যে একটি। প্যারামিটারগুলি হল এমন বিভিন্ন নিয়ন্ত্রণ যা একটি AI মডেল ডেটা থেকে প্যাটার্ন শেখার সময় টিউন করে।
বাইটডান্স কী বানাচ্ছে তা
প্রশ্নোত্তর মডেলটি একটি মিক্সচার অফ এক্সপার্টস (MoE) আর্কিটেকচার ব্যবহার করে। প্রতিটি কোয়েরির জন্য প্রতিটি প্যারামিটার সক্রিয় করার বদলে, MoE মডেলগুলি প্রতিটি ইনপুটকে বিশেষায়িত “এক্সপার্ট” সাব-নেটওয়ার্কগুলির একটি উপসেটে রুট করে। এটি একই মোট আকারের ঘন মডেলের তুলনায় ইনফারেন্স সময়ে চালানোর জন্য অনেক বেশি দক্ষ।
বিবিড্যান্সের সিড এআই টিম, যার প্রায় ২,০০০ জন কর্মচারী রয়েছে বলে জানা গিয়েছে, এই প্রচেষ্টার নেতৃত্ব দিচ্ছে। এই টিমের আগের অভিজ্ঞতা রয়েছে ট্রেনিং রান স্কেল করার, যা আগে ১৭৫ বিলিয়ন প্যারামিটার পর্যন্ত মডেল ট্রেন করেছে প্রায় ১২,০০০ GPU ব্যবহার করে। বিবিড্যান্স তাদের মেগা-স্কেল ইনফ্রাস্ট্রাকচার সম্পর্কে গবেষণা প্রকাশ করেছে, যা ১০,০০০ GPU-এর বেশি বিতরিত ট্রেনিং সিস্টেম পরিচালনা করার জন্য ডিজাইন করা হয়েছে।
প্রি-ট্রেনিং পর্যায় শুধুমাত্র প্রথম ধাপ। প্রাথমিক রানের পর, যেকোনো সম্ভাব্য পাবলিক রিলিজের আগে মডেলটি ফাইন-টিউনিংয়ের মধ্যে দিয়ে যাবে। বাইটডান্সের প্রতিষ্ঠাতা জাং ইমিংকে বলা হয়েছে যে তিনি সিড এআই দলকে পশ্চিমা এআই সিস্টেমগুলির উপর নির্ভরশীল হওয়ার পরিবর্তে প্রকৃত প্রযুক্তিগত বিপ্লবের উপর ফোকাস করতে নির্দেশ দিয়েছেন।
বাইটダン্স কেন মনে করে এটা করতে পারবে
বাইটডান্সের কিছু কাঠামোগত সুবিধা রয়েছে যা এটিকে শুধুমাত্র একটি অহংকারের প্রকল্প থেকে বেশি কিছু করে তোলে। কোম্পানিটি টিকটক পরিচালনা করে, যা বিশ্বব্যাপী এক বিলিয়নেরও বেশি ব্যবহারকারীকে সেবা দেয়, এবং ডাবও, যা চীনের সবচেয়ে ব্যাপকভাবে ব্যবহৃত এআই সহায়কগুলির মধ্যে একটি। এই ভোক্তা প্রসার থেকে একটি বিশাল পরিমাণে ইন্টারঅ্যাকশন ডেটা উৎপন্ন হয় যা প্রশিক্ষণ এবং ফাইন-টিউনিংয়ের সিদ্ধান্তগুলির জন্য ব্যবহার করা যেতে পারে।
অবশ্যই, ঘরের হাতি হল যুক্তরাষ্ট্রের উন্নত এআই চিপের রপ্তানি সীমাবদ্ধতা। ওয়াশিংটন চীনা প্রতিষ্ঠানগুলিকে উচ্চ-প্রদর্শনকারী Nvidia GPU এবং অন্যান্য ত্বরক বিক্রির উপর ধাপে ধাপে নিয়ন্ত্রণ শক্তিশালী করেছে। বাইটডান্স এই প্রশিক্ষণ চক্রের জন্য কোন নির্দিষ্ট GPU মডেলগুলি ব্যবহার করার পরিকল্পনা করছে তা পাবলিকলি বিস্তারিতভাবে উল্লেখ করেনি, কিন্তু কোম্পানিটি ৩০,০০০টি এগুলি সংগঠিত করার ক্ষমতা থেকে বোঝা যায় যে এটি সীমাবদ্ধতাগুলির মধ্যে দিয়ে একটি কার্যকরী পথ খুঁজে পেয়েছে।
এটি যে প্রতিযোগিতামূলক পরিস্থিতি পুনরায় গঠন করে
বাইটডান্স একমাত্র চীনা এআই ল্যাব নয় যার বড় আকাঙ্ক্ষা রয়েছে। আলিবাবার Qwen টিম, বাইডু, এবং DeepSeek এবং Moonshot AI এর মতো স্টার্টআপগুলি সবাই মডেলের স্কেলের সীমানা বাড়ানোর চেষ্টা করেছে। কিন্তু 10 ট্রিলিয়ন প্যারামিটারের মডেলটি তাদের মধ্যে যেকোনো একটি দ্বারা প্রকাশ্যে ঘোষিত বা বাস্তবায়িত কিছুর চেয়ে একটি উল্লেখযোগ্য পদক্ষেপ হবে।
লক্ষ্যটি বাইটডান্সকে পশ্চিমা ফ্রন্টিয়ার ল্যাবসের সাথে আলোচনায় রাখে। অ্যানথ্রোপিকের সর্বশেষ সিস্টেমগুলি, যেগুলির প্রতিদ্বন্দ্বিতামূলক বেঞ্চমার্ক বাইটডান্সকে অনুসরণ করার দাবি করা হয়েছে, বর্তমানে প্রকাশিত এআই ক্ষমতার সর্বোচ্চ সীমা নির্দেশ করে।
3 থেকে 6 মাসের প্রি-ট্রেনিং উইন্ডোর অর্থ হল ফলাফল বা জটিলতাগুলি 2026 এর শেষের আগেই প্রকাশ পেতে পারে।