মেটা খরচ কমাতে এআই মডেল রাউটার 'সুইচবোর্ড' বিকাশ করেছে, যা ওপেনরাউটারের সাথে প্রতিদ্বন্দ্বিতা করবে

Meta-র অভ্যন্তরীণ AI ইনকিউবেটর AAI Labs একটি “Switchboard“ নামের AI মডেল রাউটিং টুল তৈরি করছে, যা কাজের কঠিনতার স্কোরের ভিত্তিতে সহজ অনুরোধগুলোকে আরও সস্তা ছোট মডেলে পাঠিয়ে সামগ্রিক ইনফারেন্স খরচ কমায়। এই প্রকল্পটি বর্তমানে প্রাথমিক পর্যায়ে আছে এবং Meta এ বছরের মার্চে প্রতিষ্ঠা করা AAI Labs অভ্যন্তরীণ ইনকিউবেশন সংস্থার অধীনে। অভ্যন্তরীণ নথিপত্রে দেখা গেছে, Meta প্রতিটি প্রোগ্রামিং অনুরোধের জন্য সর্বোচ্চ স্তরের মডেলের দাম পরিশোধ করছে, যার মধ্যে ছোট মডেল দিয়ে সামলানো সম্ভব এমন সহজ কাজও রয়েছে; ইনফারেন্স খরচ ইতোমধ্যেই কোম্পানির জন্য বৃহৎ পরিসরে এজেন্ট মোতায়েনের “প্রধান বাধা” হয়ে দাঁড়িয়েছে। Meta এ বছর AI অবকাঠামো ব্যয়ে প্রায় ১৪৫০ বিলিয়ন ডলার পর্যন্ত খরচ করবে বলে অনুমান করা হচ্ছে এবং তারা বিভিন্ন উপায়ে AI ব্যয় নিয়ন্ত্রণ করছে। Switchboard-এর লক্ষ্যবাজারের মধ্যে মডেল রাউটিং ট্র্যাকও অন্তর্ভুক্ত, যেখানে ইতোমধ্যে OpenRouter-এর মতো প্রতিদ্বন্দ্বী রয়েছে; সংশ্লিষ্ট অধিগ্রহণ লেনদেন এর মূল্যায়নকে কয়েক দশক বিলিয়ন ডলার পর্যন্ত নিয়ে যেতে পারে।

লেখক এবং উৎস: ওয়াল স্ট্রিট ভিজন

এআই অবকাঠামোর ব্যয় অবিরাম বৃদ্ধির চাপে, মেটা খরচ কমানোর জন্য অভ্যন্তরীণভাবে পথ খুঁজছে।

জুলাই ২১-এ, টেক মিডিয়া The Information-এর প্রতিবেদন অনুযায়ী, মেটা-র অভ্যন্তরীণ AI হাইব্রিডার AAI Labs “Switchboard” নামক একটি AI মডেল রাউটিং টুল বিকাশ করছে, যার মূল লজিক OpenRouter-এর Auto Router পণ্যের সাথে অত্যন্ত সাদৃশ্যপূর্ণ—কাজের কঠিনতা স্কোর করে, সহজ অনুরোধগুলি কম খরচের ছোট মডেলগুলিতে পাঠিয়ে সমগ্র ইনফারেন্স খরচ কমানো।

সুইচবোর্ড এখনও প্রাথমিক পর্যায়ে রয়েছে, এবং এটি চূড়ান্তভাবে বাস্তবায়িত হবে কিনা তা অনিশ্চিত। তবে The Information-এর কাছে প্রাপ্ত অভ্যন্তরীণ ফাইলগুলির মতো, Meta-এর দল দুটি সম্ভাব্য পথ স্পষ্টভাবে উল্লেখ করেছে: একটি হলো খরচ কমানোর জন্য কোম্পানির ভিতরে ডিপ্লয় করা, আরেকটি হলো বড় পরিসরে AI প্রোগ্রামিং এজেন্টগুলি চালানোর জন্য বাইরের সংগঠনগুলির জন্য প্রকাশ করা।

বিশ্লেষণ বলছে যে, এটি শুধুমাত্র খরচ কমানোর একটি পদক্ষেপ নয়, বরং মেটা এআই টুলস বাজারে নতুন আয়ের উৎস খোলার একটি চেষ্টাও হতে পারে।

এছাড়াও, এই প্রকল্পটি কোম্পানির বর্তমানে মোকাবেলা করছে এমন একটি বাস্তব সমস্যার দিকে সরাসরি ইঙ্গিত করে: প্রতিটি প্রোগ্রামিং অনুরোধের জন্য শীর্ষ মডেলের দাম পরিশোধ করা, যা সহজ কাজগুলির জন্যও প্রয়োজন যেগুলি ছোট মডেলগুলি সহজেই পরিচালনা করতে পারে।

প্রতিবেদন অনুযায়ী, সুইচবোর্ড প্রকল্পের প্রতিষ্ঠার যুক্তি অন্তর্গত ফাইলগুলিতে খুব সরলভাবে বর্ণনা করা হয়েছে: “আমরা প্রতিটি প্রোগ্রামিং অনুরোধের জন্য শীর্ষস্থানীয় মডেলের মূল্য প্রদান করি, যার মধ্যে সহজ অনুরোধগুলিও অন্তর্ভুক্ত।”

ফাইলটি আরও উল্লেখ করে যে, বেশিরভাগ প্রোগ্রামিং এজেন্ট টাস্ক সম্পূর্ণরূপে ছোট মডেলগুলি দ্বারা পরিচালিত হতে পারে, কেবলমাত্র কয়েকটি টাস্কই সত্যিকারের অগ্রগতির বড় মডেলের ক্ষমতা প্রয়োজন। তবে বর্তমান অবস্থা হল “সমস্ত অনুরোধ একই মডেলের দিকে পাঠানো হয়, যার ফলে সহজ টাস্কে অতিরিক্ত খরচ হয় বা জটিল টাস্কে অপর্যাপ্ত পারফরম্যান্স দেখা যায়”。

ফাইলটি প্রতিনিধিত্বকারী ব্যবহারের জন্য উপস্থাপনের খরচকে "প্রধান বাধা" হিসাবে চিহ্নিত করেছে এবং স্পষ্টভাবে বলেছে: "খরচ হল আমাদের প্রতিনিধিদের বড় পরিসরে চালানোর জন্য প্রধান সীমাবদ্ধতা।"

এই বিবৃতিটি মেটা দ্বারা এখন পর্যন্ত AI ব্যয় নিয়ন্ত্রণের উপর করা বিভিন্ন পদক্ষেপের সাথে সামঞ্জস্যপূর্ণ। আগে The Information-এর প্রতিবেদন অনুযায়ী, মেটা এই বছর জুনে কর্মচারীদের জানিয়েছিল যে, সম্পূর্ণ কোম্পানিতে AI টুলগুলি ব্যাপকভাবে গ্রহণের প্রচেষ্টা শুরু করার কয়েক সপ্তাহ পরেই AI token ব্যবহারের জন্য সীমানা নির্ধারণ করা হবে, এবং AI ব্যয় ট্র্যাক করতে এবং token বাজেট প্রয়োগ করতে একটি অভ্যন্তরীণ প্ল্যাটফর্ম তৈরি করা হবে।

উল্লেখযোগ্য যে, সুইচবোর্ড প্রকল্পটি মেটার অধীনে অবস্থিত AAI ল্যাবসের অংশ, যা মেটার অ্যাপ্লাইড এআই ইঞ্জিনিয়ারিং দলের অন্তর্গত একটি অভ্যন্তরীণ হাইব্রিড প্রতিষ্ঠান এবং এই বছরের মার্চে আনুষ্ঠানিকভাবে প্রতিষ্ঠিত হয়। The Information দ্বারা পরীক্ষিত অভ্যন্তরীণ কাগজপত্রের মতে, এই পদ্ধতিটি কর্মচারীদের এআই পণ্য এবং সেবা প্রস্তাব জমা দেওয়ার অনুমতি দেয়, যা অনুমোদনের পরে ছোট দলগুলির দ্বারা তৈরি করা হয় এবং বাইরের দিকে প্রকাশের সুযোগ পায়।

এই বছর জুলাই পর্যন্ত, AAI Labs প্রায় ২০০টি প্রকল্প অনুমোদন করেছে, যা ভোক্তা পণ্য, ডেভেলপার টুল এবং অভ্যন্তরীণ অবকাঠামো এই তিনটি দিককে কভার করে। সুইচবোর্ড এই মধ্যে একটি।

এই কৌশলটি মেটা সিইও জ্যাক জাকারবার্গের একটি বৃহত্তর কৌশলগত দৃষ্টিভঙ্গির প্রতিফলন—AI ব্যবহার করে ছোট দলগুলিকে দ্রুত পণ্য তৈরি করতে সহায়তা করা। এপ্রিলে, জাকারবার্গ বিশ্লেষকদের বলেছিলেন যে AI এজেন্টগুলি “ছোট দলগুলির জন্য খুব দ্রুত অগ্রগতির সম্ভাবনা” তৈরি করে, এবং এই প্রযুক্তিটি “অসংখ্য উদ্ভাবন”কে উৎসাহিত করবে বলে পূর্বাভাস দিয়েছিলেন। তিনি আরও বলেছিলেন যে মেটা 50টিরও বেশি নতুন অ্যাপ্লিকেশন তৈরি করতে পারে।

সুইচবোর্ড যে মডেল রাউটিং সেগমেন্টকে লক্ষ্য করছে, তাতে ক্রমাগত বেশি মনোযোগ আকর্ষণ করছে।

ওপেনরাউটার ডেভেলপারদের বিভিন্ন এআই মডেলে কম খরচে অ্যাক্সেস দেওয়ার মাধ্যমে ডেভেলপার সম্প্রদায়ে প্রচুর জনপ্রিয়তা অর্জন করেছে। গত সপ্তাহে দ্য ইনফরমেশন পত্রিকা জানিয়েছে, ওপেনরাউটার একটি বড় প্রযুক্তি কোম্পানির সাথে সম্ভাব্য অধিগ্রহণের আলোচনা শুরু করেছে, যা সম্ভবত এই কোম্পানির মূল্যায়নকে দশs বিলিয়ন ডলার পর্যন্ত বাড়িয়ে দেবে—এই কোম্পানির এপ্রিল 2023-এর মূল্যায়ন ছিল 13 বিলিয়ন ডলার।

মডেল রাউটিং ধারণাটি ব্যাপকভাবে মনোযোগ আকর্ষণ করেছে, যখন OpenAI GPT-5 প্রকাশ করে একটি অন্তর্নির্মিত রাউটিং ফাংশন চালু করেছিল—যা ব্যবহারকারীর প্রম্পট সাপেক্ষে সরল হলে স্বয়ংক্রিয়ভাবে কম খরচের মডেলে স্যুইচ করে। এরপর Databricks এবং Palantir-এর মতো কোম্পানিগুলি খরচ নিয়ন্ত্রণ এবং দক্ষতা বৃদ্ধির জন্য নিজস্ব রাউটিং টুলস বিকাশ করেছে।

মেটা এই বার নিজের জন্য সুইচবোর্ড বিকাশ করেছে, যা নিজের খরচের চাপের প্রতিক্রিয়া হিসেবে একটি সক্রিয় পদক্ষেপ এবং এই দ্রুত বৃদ্ধি পাচ্ছে প্রতিযোগিতামূলক ক্ষেত্রে নিজস্ব ক্ষমতা গড়ে তোলার একটি কৌশলগত পছন্দ।

সুইচবোর্ড প্রকল্পের পিছনে রয়েছে মেটা যে বিশাল এআই বিনিয়োগকে নতুন টুল, নতুন ব্যবসা এবং নতুন আয়ের উৎসে রূপান্তরিত করার সামগ্রিক চাহিদা।

মেটা আগে পূর্বানুমান করেছিল যে এই বছর এআই অবকাঠামো এবং অন্যান্য সরঞ্জাম ও সুবিধায় ব্যয় হতে পারে প্রায় 1450 বিলিয়ন ডলার, যা 2025 সালের স্তরের চেয়ে দ্বিগুণেরও বেশি। একইসাথে, মেটা এআই উন্নয়নের ক্ষমতা শক্তিশালী করতে ইঞ্জিনিয়ারিং দলকে পুনর্গঠন করছে।

AAI ল্যাবস দ্বারা ইনকিউবেট প্রোজেক্টগুলি শুধুমাত্র সুইচবোর্ড পর্যন্ত সীমাবদ্ধ নয়। দ্য ইনফরমেশন দ্বারা প্রাপ্ত অন্য একটি অভ্যন্তরীণ ফাইলের মতো, AAI ল্যাবস একটি ড্রাইভার-অরিয়েন্টেড এআই গাইড অ্যাপও বিকাশ করছে, যা Apple CarPlay এবং Android Auto-এর মাধ্যমে চলবে এবং এআই ব্যবহার করে পাশের দর্শনীয় স্থানগুলির বর্ণনা দেবে এবং ড্রাইভাদের প্রশ্ন করার অনুমতি দেবে।

এই পণ্যটিকে ইনস্টাগ্রাম ম্যাপ অভিজ্ঞতার একটি প্রসারিত সংস্করণ হিসাবে প্রস্তুত করা হয়েছে, যা ভবিষ্যতে স্থানভিত্তিক রিলস কন্টেন্ট, ভ্রমণের সুপারিশ, এমনকি মেটা রে-ব্যান স্মার্ট চশমা একীভূত করতে পারে।

প্রতিবেদনে বলা হয়েছে, এই প্রকল্পগুলি একসাথে মেটার পথটি চিত্রিত করে: কর্মচারীদের ক্রিয়েটিভিটি থেকে শুরু করে, দ্রুত AI পণ্যের প্রোটোটাইপ তৈরি করা, এবং খরচ নিয়ন্ত্রণ করে বিজ্ঞাপন ব্যবসার বাইরে অতিরিক্ত আয়ের সুযোগ খোঁজার জন্য বাইরের বাজারে চালু করা।