WAIC 2026-এ, সিঙ্গাপুরের এআই ইনফ্রা কোম্পানি এক্রাব এজেন্ট বক্স এবং জিΞলিক্স 1 চিপ প্রকাশ করেছে, যা এন্ড-সাইড এজেন্টিক এআই-এর জন্য কম্পিউটিং ভিত্তি প্রদানের লক্ষ্যে। পারম্পরিক এআই চিপের বিপরীতে, জিΞলিক্স 1-এ CPU এবং NPU-এর হাইব্রিড সহযোগিতা, ইউনিফাইড মেমোরি আর্কিটেকচার এবং প্রিফিল অপ্টিমাইজেশনকে জোর দেওয়া হয়েছে, যা 700 TOPS কম্পিউটেশনাল পাওয়ার এবং 273GB/s মেমোরি ব্যান্ডউইথ প্রদান করে। CEO কেন ফুয়া মনে করেন যে এআই এখন হাইব্রিড কম্পিউটিংয়ের যুগে প্রবেশ করেছে, CPU-এর কেন্দ্রীয় ভূমিকা আবারও ফিরেছে, এবং এক্রাব 3.5 বিলিয়ন ডলারেরও বেশি ফান্ডিং সংগ্রহ করেছে। এন্ড-সাইড এআই এখন “একটি মডেল চালানো”-এর পরিবর্তে “দীর্ঘমেয়াদি একটি স্মার্ট সিস্টেম চালানো”-এর দিকে যাচ্ছে, এবং আসল প্রতিযোগিতা চিপ,সফটওয়্যার স্ট্যাক এবং এজেন্ট ইকোসিস্টেমের সম্পূর্ণ একীভূতকরণের ক্ষমতায়।লেখক এবং উৎস: নিউজিয়েন
এজেন্টিক এআই কোন কম্পিউটিং বেসিসে চালানো উচিত?
কয়েক দিন পর, WAIC 2026-এর সবচেয়ে বেশি জনপ্রিয় ধারণাগুলির মধ্যে একটি—Agent Computer—শুধুমাত্র একটি প্রদর্শনীর নতুন আকর্ষণ হয়ে উঠেছে, এখন এটি একটি প্রকৃত প্রকৌশল সমস্যায় পরিণত হয়েছে।
একটি ডিভাইসে স্থানীয়ভাবে বড় মডেল চালানো এখন সবচেয়ে কঠিন অংশ নয়। আরও কঠিন হলো, যখন এজেন্ট ফাইল পড়তে থাকবে, মেমোরি রাখবে, টুলস কল করবে এবং ব্যাকগ্রাউন্ডে দীর্ঘস্থায়ীভাবে চলবে, তখন চিপটি শক্তি খরচ, ল্যাটেন্সি এবং খরচের সীমাবদ্ধতার মধ্যে স্থিতিশীল থাকতে পারবে কিনা।
এটি এন্ড-সাইড চিপের মূল্যায়ন পদ্ধতিকে পুনর্গঠন করবে। TOPS, মডেল প্যারামিটার এবং প্রতি সেকেন্ডে টোকেন এখনও গুরুত্বপূর্ণ, কিন্তু যদি মেমোরি ব্যান্ডউইথ অনুসরণ না করে, CPU এবং NPU-এর সমন্বয় খারাপ হয়, বা সফটওয়্যার স্ট্যাক টাস্কের অবস্থা বজায় রাখতে অক্ষম হয়, তবে সবচেয়ে সুন্দর শীর্ষ কেবলমাত্র একটি ডেমো সম্পন্ন করার জন্যই যথেষ্ট হবে।
আমরা লক্ষ্য করেছি যে, এই সপ্তাহে, সিঙ্গাপুরের কোম্পানি Acrab একটি অনলাইন প্রকাশনা আয়োজন করেছিল এবং Agent Box প্রকাশ করেছিল, যা একটি বিশ্লেষণযোগ্য নমুনা হতে পারে।
এই প্রেজেন্টেশনে, এই এআই ইনফ্রা কোম্পানি প্রিফিল, ইউনিফাইড মেমোরি, সিপিইউ-এনপিই হাইব্রিড কোঅর্ডিনেশন এবং এজেন্ট অর্ডারিংকে একসাথে উপস্থাপন করেছে।
এই কীওয়ার্ডগুলি একই সিদ্ধান্তের দিকে ইঙ্গিত করে: এডজ এআই একটি মডেল চালানোর থেকে একটি স্মার্ট সিস্টেমকে দীর্ঘমেয়াদি চালানোর দিকে যাচ্ছে।
চিপের সমস্যা এখন শুধু প্রসেসিং ক্ষমতা যথেষ্ট কিনা নয়, বরং ডেটা কীভাবে প্রবাহিত হবে, টাস্ক কীভাবে স্কিডিউল হবে এবং সফটওয়্যার ও হার্ডওয়্যার কীভাবে নিরন্তরভাবে সমন্বয় করবে।
সুতরাং, যখন WAIC-এর উত্তেজনা এবং নতুন পণ্য প্রকাশ, শিল্পের প্রবণতা ধীরে ধীরে স্থির হয়ে যায়, তখন প্রকৃতপক্ষে জিজ্ঞাস্য প্রশ্নগুলি আরও স্পষ্ট হয়ে ওঠে: যখন Agent একটি কল থেকে স্থায়ীভাবে কাজ করতে শুরু করে, তখন এন্ড-সাইড চিপটি কীভাবে পুনর্গঠন করা উচিত?
একটি যুক্তিসঙ্গত উপলব্ধি থেকে নিয়মিত কাজের দিকে
এজেন্ট এজেন্ট-সাইড লোড পরিবর্তন করেছে
চ্যাটবট সাধারণত একটি প্রশ্ন-উত্তর চক্র সম্পন্ন করে। এজেন্ট একটি কাজ পেলে, এটি প্রথমে তথ্য অনুসন্ধান করতে পারে, ফাইল পড়তে পারে, তারপর কোড, ব্রাউজার, ক্যালেন্ডার বা অফিস সফটওয়্যার কল করতে পারে; একটি অংশ সম্পন্ন করার পর ফলাফল পরীক্ষা করে, কাজের অবস্থা সংরক্ষণ করে, পরবর্তী ট্রিগারের জন্য অপেক্ষা করে। একটি কাজে প্রায়শই একাধিক মডেল কল জড়িত থাকে, এবং বিভিন্ন মডেল, টুল এবং অ্যাপ্লিকেশনের মধ্যে বারবার স্যুইচিংও হয়।
এক্রাব প্রেজেন্টেশনে একটি আপেক্ষিকভাবে সম্পূর্ণ কাজের প্রবাহ দেখিয়েছে: ব্যবহারকারী তার সন্তানের জন্য একটি স্পেস থিমযুক্ত উপহার তৈরির ইচ্ছা প্রকাশ করলে, সিস্টেম ক্রিয়েটিভ আইডিয়া দেয়, সমাধান বাছাইতে সহায়তা করে, সংশ্লিষ্ট টুলগুলি কল করে এবং তৈরির প্রগতি ট্র্যাক করে; যখন পরিবেশে নতুন অবস্থা দেখা দেয়, তখন এটি অন্যান্য স্মার্ট ডিভাইসগুলির সাথে সংযুক্ত হয়ে প্রক্রিয়াকরণ করে।
এই ডেমোর গুরুত্ব কোনো একটি উত্তর কতটা বুদ্ধিমানের সাথে দেওয়া হয়েছে তার উপর নয়, বরং একটি প্রাকৃতিক ভাষার বাক্যকে ক্রমাগত ক্রিয়াগুলিতে রূপান্তরিত করা যায় কিনা তার উপর। গণনা ব্যবস্থার জন্য, এজেন্ট আর শুধুমাত্র 'একবার মডেল কল' করে থাকে না, বরং মডেল, ডেটা, সফটওয়্যার এবং ডিভাইসের মধ্যে নিয়মিতভাবে স্যুইচ করে।
এই কাজের পদ্ধতিটি প্রথমে এন্ড-ক্লাউড বিভাজনকে বাড়িয়ে তোলে।
একবারের প্রসেসিংয়ের খরচ হয়তো কম, কিন্তু প্রায়শই এবং দীর্ঘকাল কল করলে, টোকেন টেকনিক্যাল ইন্ডিকেটর থেকে বাস্তব বিলে পরিণত হয়; একবারের নেটওয়ার্ক অপেক্ষা চ্যাটের উপর সীমিত প্রভাব ফেলে, কিন্তু একাধিক ধাপের কাজে এটি ধাপে ধাপে জমা হয়; Agent-এর জন্য ব্যক্তিগত প্রসঙ্গটি আরও সম্পূর্ণভাবে বুঝতে হবে, যা ডেটা ক্লাউডের সাথে বারবার আদান-প্রদানকে বৃদ্ধি করে।
তাই, এন্ড-সাইড এবং ক্লাউড একটি বা অন্যটি নয়। আরও বাস্তবসম্মত কাঠামোটি হল: হাই-ফ্রিকোয়েন্সি, গোপনীয়তা-সংবেদনশীল, দ্রুত প্রতিক্রিয়ার প্রয়োজন এবং দীর্ঘমেয়াদি অবস্থা বজায় রাখার প্রয়োজনীয়তা থাকা কাজগুলি যতটা সম্ভব স্থানীয়ভাবে রাখা হবে; ডিভাইসের সীমার বাইরের জটিল যুক্তিকে ক্লাউড সম্পদ কল করে পরিচালনা করা হবে।
প্রকৃত পরিবর্তনটি হল যে, এন্ড-সাইড শুধুমাত্র একবার মডেল ইনফারেন্স বহন করবে না, বরং একটি অক্ষম বিচ্ছিন্ন করা যায় এমন বুদ্ধিমত্তা সিস্টেম বহন করবে।
এটি বড় মডেল চালাতে হবে, দীর্ঘ কনটেক্সট, একাধিক কাজ এবং টুল কল প্রক্রিয়াকরণ করতে হবে; পারফরম্যান্স যথেষ্ট শক্তিশালী হতে হবে, কিন্তু বিদ্যুৎ খরচ এবং খরচ নিয়ন্ত্রণের বাইরে যাওয়া উচিত নয়, Runtime, টুলচেইন এবং Agent ইকোসিস্টেমও একসাথে অগ্রসর হতে হবে।
এন্ড-সাইড বড় মডেল সমাধান করে যে মডেলটি ডিভাইসে ফিট হয় কিনা, অ্যাজেন্টিক এআই সমাধান করে যে মডেল, মেমোরি, টুল এবং অ্যাপ্লিকেশনগুলি ডিভাইসে দীর্ঘমেয়াদি সহযোগিতা করতে পারে কিনা।
শুধু NPU জমা দেওয়া যথেষ্ট নয়
সিপিউ, মেমোরি এবং সফটওয়্যার স্ট্যাক একসাথে পুনর্নির্মাণ করতে হবে
আগে CPU বা SoC-এ একটি NPU যোগ করলেই টার্মিনালে ভয়েস রিকগনিশন, ইমেজ প্রসেসিং ইত্যাদি AI ক্ষমতা যোগ হত। কিন্তু যখন Agent অতিরিক্ত ফাংশন থেকে ডিভাইসের কেন্দ্রে পরিণত হয়, তখন শুধু শীর্ষ ক্ষমতা বাড়ানোই যথেষ্ট নয়।
কারণ হলো, এজেন্ট একটি স্থির নিউরাল নেটওয়ার্ক ইনফারেন্স চেইন নয়। বড় পরিসরে সম songাল গণনা NPU-এর উপর ছেড়ে দেওয়া উচিত, যেখানে টাস্ক বিভাজন, শর্ত নির্ধারণ, সিস্টেম স্কিডিউলিং, টুল কল, এক্সেপশন হ্যান্ডলিং এবং একাধিক সিস্টেমের সহযোগিতা উচ্চতর মাত্রায় CPU-এর উপর নির্ভরশীল। টাস্ক পাথ যতই ডাইনামিক হবে, CPU এবং NPU-এর মধ্যে সমন্বয় ততই গুরুত্বপূর্ণ।
এক্রাবের সিইও কেন ফুয়া এই পরিবর্তনটিকে এভাবে সারসংক্ষেপ করেছেন: 'CPU আবার AI যুগের কেন্দ্রে ফিরে এসেছে।'
তার মতে, এআই হেটারোজেনিয়াস কম্পিউটিং পরিবেশে প্রবেশ করছে, এবং কার্যক্ষমতা শুধুমাত্র এনপিইউ পারফরম্যান্সের উপর নির্ভর করে না, বরং সিপিইউ এবং এনপিইউ কতটা অবিরামভাবে সমন্বয় করতে পারে তার উপরও নির্ভর করে।
এটি এক্রাবের কয়েকটি মূল্যবান টিম লাইনের মধ্যে একটি।
কেন ফুয়া আর্ম ইউকেতে এশিয়া-প্রশান্ত মহাসাগরীয় অ্যাপ্লিকেশন ইঞ্জিনিয়ারিং দলের নেতৃত্ব দিয়েছিলেন এবং বিশ্বব্যাপী আইপি কৌশল প্রণয়নে অংশগ্রহণ করেছিলেন, তারপর আর্ম চাইনার সহ-সিইও হিসেবে দায়িত্ব পালন করেছিলেন।
এই অভিজ্ঞতার অর্থ শুধুমাত্র শিল্পের রেজুমে নয়, বরং এই কোম্পানিটি কেন CPU আর্কিটেকচার, হাইব্রিড কম্পিউটিং এবং বাস্তব অ্যাপ্লিকেশনের প্রয়োজনীয়তার ছেদস্থল থেকে Agent ওয়ার্কলোডকে পুনর্সংজ্ঞায়িত করেছে তার ব্যাখ্যা।
এক্রাব জেএক্সিল 1 কে একটি প্রাচীন এআই প্রসেসর হিসাবে সংজ্ঞায়িত করেনি, বরং এটিকে এন্ড-সাইড এআই যুগের কম্পিউটিং প্ল্যাটফর্ম হিসাবে বিবেচনা করেছে।
হার্ডওয়্যার সাইডে GΞLIX 1 কেন্দ্রীয় হিসাবে ব্যবহৃত হয়; সফটওয়্যার সাইডে বড় মডেল, অপ্টিমাইজড Runtime, পূর্ণাঙ্গ টুলচেইন, এবং মডেল, টুল, ডিভাইস এবং সার্ভিসগুলিকে সংযুক্ত করে এমন Agent অর্কেস্ট্রেশন লেয়ার অন্তর্ভুক্ত রয়েছে; এই ভিত্তির উপর, কোম্পানিটি টাইপিক্যাল স্কেনারিওর জন্য Agent রেফারেন্স ডিজাইনও প্রদান করে, যা ডেভেলপারদের এবং ইকোসিস্টেম পার্টনারদের অ্যাপ্লিকেশন দ্রুততরভাবে তৈরি করতে সহায়তা করে।
এজেন্ট বক্স হল এই সফটওয়্যার এবং হার্ডওয়্যার প্ল্যাটফর্মের প্রথম পূর্ণাঙ্গ পণ্য হিসেবে উপস্থাপিত সংস্করণ। এটিকে পার্সোনাল এআই সেন্টার হিসেবে সংজ্ঞায়িত করা হয়েছে, যা স্থানীয়ভাবে ট্রিলিয়ন প্যারামিটার স্কেলের মডেল চালাতে পারে এবং নেটওয়ার্ক কানেকশন ছাড়াও মূল ক্ষমতা বজায় রাখতে পারে।
Acrab হল Agentic Compute, Reasoning, Action এবং Brain-এর প্রথম অক্ষর, যা একটি জ্যোতির্বিদ্যাগত বহু-নক্ষত্র সিস্টেমের নামও হওয়ার সাথে সামঞ্জস্যপূর্ণ—যেমনটি এর ডিজাইন দর্শন: বিভিন্ন কম্পিউটিং ইউনিটগুলিকে নক্ষত্র সিস্টেমের মতো সমন্বিতভাবে কাজ করতে দেওয়া।
কোম্পানিটি এই লক্ষ্যে কাজ করছে যে এজেন্টের জন্য একটি চিন্তা ও কাজ করার মস্তিষ্ক তৈরি করা হোক এবং পরবর্তী প্রজন্মের কম্পিউটিং প্ল্যাটফর্ম গড়ে তোলা হোক।
সিঙ্গাপুর ভিত্তিক Acrab এখন পর্যন্ত 3.5 বিলিয়ন ডলারের বেশি ফান্ডিং সংগ্রহ করেছে, যার মধ্যে রয়েছে Temasek-এর গ্লোবাল ভেঞ্চার প্ল্যাটফর্ম Vertex (祥峰投資), সিঙ্গাপুরের পরিচিত টেক ইনভেস্টমেন্ট প্রতিষ্ঠান K3 Ventures ইত্যাদি।
তাদের প্রথম প্রজন্মের কম্পিউটিং প্ল্যাটফর্ম GΞLIX এখন কঠোর বাস্তব ডিপ্লয়মেন্ট পরিবেশে যাচাই করা হয়েছে এবং এখন প্রথম শিল্প গ্রহণ এবং বড় পরিসরে উৎপাদনের দিকে এগিয়ে যাচ্ছে।
ফান্ডিং বড় প্রকল্পের জন্য সময় কেনার সুযোগ দেয়, কিন্তু রুট সফল হবে কিনা তা নির্ভর করে সিস্টেম কি করে ডেলিভার করতে পারে তার উপর।
এই দৃষ্টিকোণ থেকে, "সিপিইউ আবার কেন্দ্রে ফিরে আসছে" মানে এটা নয় যে এনপিইউ আর গুরুত্বপূর্ণ নয়।
বর্তমানে এটি বোঝায় যে এআই গণনা এতটাই জটিল হয়ে উঠেছে যে একটি একক অ্যাক্সেলারেটর দিয়ে সমস্ত সমস্যা সমাধান করা সম্ভব নয়।
700 TOPS এর বাইরে
প্রিফিল এবং ডেটা প্যাথ বাস্তব অভিজ্ঞতা নির্ধারণ করে
অনেক সময়, বড় মডেল ইনফারেন্সের বাধা শুধুমাত্র গণনা ইউনিট যথেষ্ট দ্রুত না হওয়া নয়, বরং ডেটা গণনা ইউনিটে পৌঁছানোর আগেই সময় শেষ হয়ে যাওয়া।
যদিও চিপটির শীর্ষ গণনা ক্ষমতা অত্যন্ত উচ্চ হয়, যদি মেমোরি ব্যান্ডউইথ তার সাথে পাল্লা দিতে না পারে, তবে NPU-কে অপেক্ষা করতে হবে।
এজেন্ট ডেটা স্থানান্তরের সমস্যাকে আরও বড় করে তুলবে। এটিকে প্রায়শই ইতিহাস পড়তে হবে, বিভিন্ন মডেল এবং সফটওয়্যারের মধ্যে ডেটা পাঠাতে হবে এবং কাজের অবস্থা ধারাবাহিকভাবে সংরক্ষণ করতে হবে। প্রতিটি কপি ল্যাটেন্সি এবং শক্তি খরচ বাড়ায়, এবং কাজটি যত বেশি দীর্ঘস্থায়ী হয়, সিস্টেম ডিজাইনের গুরুত্বও তত বেশি হয়।
GΞLIX 1-এর ডিজাইনের মূল ফোকাস হল মডেলের প্রয়োজনীয় ডেটাকে ক্যালকুলেশন ইউনিটের কাছাকাছি রাখা এবং CPU, NPU, মেমোরি এবং বিভিন্ন অপারেটিং সিস্টেমের মধ্যে ডেটা বহনের প্রয়োজনীয়তা কমানো।
এক্রাবের প্রকাশিত আর্কিটেকচার অনুযায়ী, GΞLIX 1 প্রদান করে 700 ট্রিলিয়ন অপারেশন প্রতি সেকেন্ডের (TOPS) বেশি AI ক্ষমতা এবং 273 জিবি/সেকেন্ডের একীভূত মেমোরি ব্যান্ডউইথ, চিপের ভিতরে 8MB L1 ক্যাশে, 768 জিবি/সেকেন্ড ব্যান্ডউইথযুক্ত শেয়ার্ড L2 ক্যাশে, চারটি সমান্তরাল NPU কোর, এবং Attention গণনার জন্য ডিজাইন করা একটি বিশেষায়িত অ্যাক্সেলারেশন মডিউল।
Acrab বলেছেন, পরবর্তীটি সংশ্লিষ্ট গণনার দক্ষতা তিনগুণ বাড়াতে পারে।
বড় অন-চিপ ক্যাশে গুরুত্বপূর্ণ ডেটাকে ক্যালকুলেশন ইউনিটের কাছাকাছি রাখে; শেয়ার্ড L2 ক্যাশে ক্যালকুলেশন ইউনিটের মধ্যে প্যারামিটার এবং মধ্যবর্তী বৈশিষ্ট্যগুলি দক্ষতার সাথে শেয়ার করে; একীভূত মেমোরি আর্কিটেকচার মডেল, অপারেটিং সিস্টেম এবং অ্যাপ্লিকেশনের মধ্যে অপ্রয়োজনীয় ডেটা কপি কমিয়ে দেয়।
Acrab একটি একক মেমোরি আর্কিটেকচার ব্যবহার করে, যা বিভিন্ন অপারেটিং সিস্টেমের মধ্যে মেমোরি শেয়ার করার ক্ষমতা বাড়ায়। একটি মডেল চালানোর জন্য ডিভাইসের ক্ষেত্রে, এটি কেবলমাত্র দক্ষতা উন্নতির মতো; কিন্তু বিভিন্ন অ্যাপ্লিকেশন এবং টুলের মধ্যে নিরন্তরভাবে কাজ করার প্রয়োজন হওয়া Agent-এর জন্য, এটি সরাসরি কাজের সুচারুভাবে এগিয়ে যাওয়ার উপর প্রভাব ফেলে।
এটিই ব্যাখ্যা করে যে কেন Acrab প্রেফিলকে প্রকাশনার কেন্দ্রে রাখে। এজেন্ট নতুন ফাইল যোগ করার সময়, টাস্কের অবস্থা পুনরুদ্ধার করার সময় বা কনটেক্সট আপডেট করার সময়, প্রায়শই নতুন তথ্যগুলি পুনরায় প্রক্রিয়াকরণ করতে হয়। টাস্ক চেইনটি যত বেশি দীর্ঘ, প্রেফিলের দক্ষতা সামগ্রিক অভিজ্ঞতার উপর তত বেশি প্রভাব ফেলে।
Acrab-এর একটি স্ব-পরীক্ষায়, GΞLIX 1 40K KV Cache এবং 10,000 Token ইনপুট ব্যবহার করে 260 বিলিয়ন প্যারামিটার বিশিষ্ট Gemma মডেল চালায়, যার প্রিফিল গতি 1416 টোকেন/সেকেন্ডের বেশি; একই লোডে, এটি একটি প্রধান সাধারণ ডেস্কটপ প্ল্যাটফর্মের চেয়ে 7 গুণেরও বেশি কার্যকর।
এক্রাব জেলিক্স 1 কে একটি অনুরূপ ডেস্কটপ-লেভেলের এআই কম্পিউটিং প্ল্যাটফর্মের সাথে একই টেস্টিং ফ্রেমওয়ার্কে তুলনা করেছে।
ডেটা অনুসারে, GΞLIX 1 প্রিফিল এবং ডিকোড দুটি মূল মেট্রিক্সে প্রায় একই পারফরম্যান্স ব্যাপ্তিতে প্রবেশ করেছে, একইসাথে কম বিদ্যুৎ খরচ এবং প্রতিযোগিতামূলক সমগ্র মেশিন খরচ প্রদর্শন করছে।
এক্রাব প্রিফিল এবং ডেটা প্যাথের উপর জোর দেওয়ার মাধ্যমে একটি পণ্যের দিকনির্দেশনা প্রকাশ করেছে: এন্ড-সাইড এজেন্ট চিপগুলি শুধুমাত্র মডেলের আউটপুট কত দ্রুত হয় তার প্রতি মনোযোগ দেওয়ার পরিবর্তে, মডেলটি দীর্ঘ কনটেক্সট দ্রুত বুঝতে, টাস্কের অবস্থা পুনরুদ্ধার করতে এবং কাজ শুরু করতে পারে কিনা তা সমাধান করতে হবে।
ব্যবহারকারী একটি যুক্তি চেইনের ভিতরে কতগুলি ক্যাশ লেয়ার পার হয়েছে তা মনোযোগ দেবে না, এবং প্রতিটি ইন্টারঅ্যাকশনের আগে TOPS চেক করবে না। ব্যবহারকারী বাস্তবে শুধুমাত্র তিনটি জিনিস অনুভব করে: এটি দ্রুত বুঝতে পারে কিনা, এটি স্থিরভাবে চলতে পারে কিনা, এবং এটি অর্জন করা যথেষ্ট লাভজনক কিনা।
চিপ থেকে প্ল্যাটফর্ম
প্যারামিটারের বাইরে প্রকৃত প্রতিযোগিতা ঘটে
এই বছর WAIC-এ প্রদর্শিত এজেন্ট কম্পিউটার, ব্যক্তিগত AI কেন্দ্র এবং প্রতিষ্ঠানগত প্রান্তিক ডিভাইসগুলি এখনও একটি একীভূত পণ্যের আকার গঠন করেনি।
পারিবারিক পরিস্থিতিতে ব্যক্তিগত স্মৃতি, কন্টেন্ট এবং ডিভাইসের সমন্বয়কে বেশি গুরুত্ব দেওয়া হয়, যেখানে ব্যবসায়িক পরিস্থিতিতে জ্ঞানভাণ্ডার, ফাইল প্রক্রিয়াকরণ এবং অভ্যন্তরীণ ডেটা নিরাপত্তাকে বেশি গুরুত্ব দেওয়া হয়। বিভিন্ন গ্রাহকদের মডেলের আকার, মেমোরি ক্ষমতা, শক্তি খরচ এবং ইন্টারফেসের প্রয়োজনীয়তা অনেক ভিন্ন।
যত বেশি টার্মিনাল বিভক্ত হয়, তত বেশি কঠিন হয়ে পড়ে কম্পিউটিং প্ল্যাটফর্ম তৈরি করা। একটি চিপ শুধুমাত্র প্যারামিটারের মাধ্যমে সব স্কেনারিওকে কভার করতে পারে না; এর পাশাপাশি Runtime, মডেল অ্যাডাপ্টেশন, ডেভেলপমেন্ট টুলস এবং Agent ফ্রেমওয়ার্কও প্রদান করা প্রয়োজন, যাতে গ্রাহকরা নিম্নস্তরের ক্যালকুলেশন ক্ষমতাকে বিক্রয়যোগ্য পণ্যে রূপান্তরিত করতে পারেন।
এটি সাধারণ ইনফারেন্স চিপের তুলনায় এজেন্টিক এআই চিপের জন্য একটি অতিরিক্ত প্রশ্ন: চিপের পারফরম্যান্স নির্ধারণ করে মডেলটি চলবে কিনা, সফটওয়্যার স্ট্যাক নির্ধারণ করে ডেভেলপাররা এটি ব্যবহার করতে পারবেন কিনা, এবং এজেন্ট ইকোসিস্টেম নির্ধারণ করে ডিভাইসটি চূড়ান্তভাবে কী কাজ সম্পন্ন করতে পারবে। যদি এই তিনটি স্তরের যেকোনো একটি অনুপস্থিত থাকে, তবে একটি প্যারামিটারের দিক থেকে দুর্দান্ত চিপ শুধুমাত্র ডেমো পর্যায়েই আটকে থাকতে পারে।
অ্যাক্রাব এই সব ধাপগুলো একসাথে ধরে রাখার চেষ্টা করছে। সুবিধা হলো পণ্যের সংজ্ঞা আরও সম্পূর্ণ, কিন্তু ঝুঁকিও সরাসরি: যুদ্ধের রেখা অনেক লম্বা।
চিপগুলির পারফরম্যান্স, স্থিতিশীলতা এবং স্কেলযোগ্য ডেলিভারির ক্ষমতা প্রমাণ করতে হবে, সফটওয়্যার স্ট্যাককে মডেলের দ্রুত ইটারেশনের সাথে অনুসরণ করতে হবে, এবং এজেন্ট অর্কেস্ট্রেশন লেয়ারকে প্রায়শই পরিবর্তিত টুলস এবং অ্যাপ্লিকেশনগুলির সাথে সামঞ্জস্যপূর্ণ হতে হবে। ব্যক্তিগত ফাইল এবং দীর্ঘমেয়াদী মেমোরি স্থানীয়ভাবে রাখার পরে, অনুমতি বিচ্ছিন্নতা, প্লাগইন নিরাপত্তা এবং অপারেশন অডিটও একসাথে সমাধান করতে হবে।
অতএব, এক্রাব কি এজেন্টিক এআই যুগের কম্পিউটিং প্ল্যাটফর্ম হতে পারবে, তা নির্ভর করে বিজ্ঞাপনে কতগুলো টোকেন চালু হয়েছে বা এজেন্ট বক্স কতগুলো কাজ প্রদর্শন করতে পারে তার উপর নয়।
আরও গুরুত্বপূর্ণ যাচাই হল: ডেভেলপাররা এই প্ল্যাটফর্মে দ্রুত পণ্য তৈরি করতে পারেন কিনা; এজেন্ট কয়েক ঘন্টা ধরে নিরবচ্ছিন্নভাবে কাজ করার পরেও পারফরম্যান্স, শক্তি খরচ এবং স্থিতিশীলতা একসাথে বজায় থাকে কিনা; মডেল এবং এজেন্ট ফ্রেমওয়ার্ক পরিবর্তনের সাথে সাথে নিম্নস্তরের সফটওয়্যার এবং হার্ডওয়্যার তা অনুসরণ করতে পারে কিনা।
আর্কিটেকচার ইনোভেশন একটি চিপ কোম্পানির ক্ষমতার সীমানা নির্ধারণ করে, এবং ইঞ্জিনিয়ারিং এবং ইকোসিস্টেম এই সীমানাকে অর্ডারে পরিণত করতে পারে কিনা তা নির্ধারণ করে।
WAIC-এ ঘনঘন দেখা যাচ্ছে নতুন টার্মিনাল, যা শিল্পকে «বড় মডেল চালানো» থেকে «Agent-কে ধারাবাহিকভাবে কাজ করানো»-এর দিকে নিয়ে যাচ্ছে। পূর্ব পর্যায়ে কম্পিউটিং পাওয়ার, মেমোরি এবং মডেলের আকারের তুলনা হয়েছিল; পরবর্তী পর্যায়ে দীর্ঘ কনটেক্সট, ব্যক্তিগত মেমোরি, টুল কল এবং মাল্টি-টাস্ক সহযোগিতা সমাধান করতে হবে।
এক্রাব এই পরিবর্তনের উপর বেট বসিয়েছে।
এজেন্ট বক্স শেষ নয়, বরং একটি প্ল্যাটফর্মের ক্ষমতার উন্মোচনমূলক পরীক্ষা।
এন্ড-সাইড চিপকে পুনরায় তৈরি করতে হবে, কারণ TOPS গুরুত্বপূর্ণ নয়, বরং এজেন্ট পিক সংখ্যার পরিবর্তে গণনাকে দীর্ঘমেয়াদী চলমান সিস্টেম ক্ষমতায় রূপান্তরিত করছে। এটি কার্যকর হবে কিনা, তা চিপ, সফটওয়্যার এবং টার্মিনালগুলি বাস্তব কাজের প্রবাহে প্রবেশ করতে পারে কিনা, তার উপর নির্ভর করে।