চীনের Z.ai, যা আগে Zhipu AI নামে পরিচিত ছিল, 26 আগস্ট GLM-5.3-Flash প্রকাশ করে, যা GLM-5 সিরিজের প্রথম ন্যাটিভ মাল্টিমোডাল মডেল। এই লঞ্চটি মডেলটির বাইরেও উল্লেখযোগ্য: এটি সম্পূর্ণরূপে দেশীয়ভাবে উৎপাদিত AI অ্যাক্সেলারেটরে চলে, যা চীনা হার্ডওয়্যার গুরুত্বপূর্ণ বড় স্কেলের কাজগুলি পরিচালনা করতে পারে তার প্রতি একটি স্পষ্ট প্রমাণ।
সময় গুরুত্বপূর্ণ। মার্কিন যুক্তরাষ্ট্রের রপ্তানি নিয়ন্ত্রণ চীনা ক্রেতাদের জন্য নভিডিয়ার সবচেয়ে উন্নত চিপগুলির প্রবেশাধিকার সীমিত করেছে, যা Z.ai সহ কোম্পানিগুলিকে তাদের যা আছে তার চারপাশে গড়ে তুলতে বাধ্য করেছে।
মডেলটি বাস্তবে কী করে
GLM-5.3-Flash একটি হাইব্রিড আর্কিটেকচার ব্যবহার করে যা স্পার্স এবং লিনিয়ার অ্যাটেনশনকে একত্রিত করে, যা গণনার প্রয়োজনীয়তা উল্লেখযোগ্যভাবে কমিয়ে দেয়। মডেলটিতে মোট 320 বিলিয়ন প্যারামিটার রয়েছে, কিন্তু প্রতি টোকেনে শুধুমাত্র 18 বিলিয়ন সক্রিয় হয়, যার অর্থ এটি প্রতিটি ইনফারেন্সে পূর্ণ গণনা খরচ পরিশোধ না করেও একটি বিশাল জ্ঞানের ভাণ্ডারের উপর নির্ভর করে।
কনটেক্সট উইন্ডো 1 মিলিয়ন টোকেনে স্থাপিত, যা এটিকে যেকোনো ওপেন মডেলের মধ্যে দীর্ঘতমগুলির মধ্যে একটিতে রাখে। ছবি এবং ভিডিও ইনপুটের জন্য নেটিভ সমর্থন এটিকে শুধুমাত্র যোগ করা ক্ষমতা হিসাবে নয়, বরং আর্কিটেকচার লেভেলে প্রকৃতপক্ষে মাল্টিমোডাল করে তোলে।
DeepSWE v1.1 কোডিং বেঞ্চমার্কে, GLM-5.3-Flash স্কোর করেছে 63.4, যা এর আগের সংস্করণ GLM-5.2-এর 46.2-এর তুলনায়। মডেলটি কৃত্রিম বিশ্লেষণাত্মক বুদ্ধিমত্তা সূচকেও 57 স্কোর করেছে।
দাম প্রতিযোগী। API অ্যাক্সেসের খরচ $0.15 প্রতি মিলিয়ন ইনপুট টোকেন এবং $0.50 প্রতি মিলিয়ন আউটপুট টোকেন, যেখানে ক্যাশড ইনপুট উপলব্ধ $0.03-এ। Z.ai এই খরচকে কিছু প্রতিযোগী বিকল্পের প্রায় এক-দশমাংশ হিসাবে বর্ণনা করে।
চীনা চিপ বাস্তব কাজ করছে
Z.ai স্থানীয়ভাবে তৈরি এআই অ্যাক্সেলারেটরের ক্লাস্টারগুলিতে GLM-5.3-Flash ডিপ্লয় করেছে, তারপর কাস্টম সার্ভিং স্ট্যাক তৈরি করে এবং সেই হার্ডওয়্যারের জন্য অনুকূলিত কোয়ান্টাইজেশন পদ্ধতি প্রয়োগ করেছে। ফলাফলটি ছিল একটি সাধারণ ডিপ্লয়মেন্ট পদ্ধতির তুলনায় এন্ড-টু-এন্ড পারফরম্যান্সে তিনগুণ উন্নতি।
মডেলটি MIT লাইসেন্সের অধীনে ওপেন ওয়েটস সহ আসে, যা Hugging Face এবং ModelScope-এ FP8 এবং BF16 ফরম্যাটে উপলব্ধ। MIT লাইসেন্স এতটাই অনুমোদনমূলক: ডেভেলপার এবং কোম্পানিগুলি সীমাবদ্ধতা ছাড়াই ওয়েটসগুলি ব্যবহার, পরিবর্তন এবং বাণিজ্যিকভাবে বিতরণ করতে পারে।