- টেদারের টার্বোকোয়ান্ট এআই মেমোরি ব্যবহারকে প্রায় 5 গুণ কমিয়ে ডিভাইসগুলিকে স্থানীয়ভাবে দীর্ঘতর কাজ পরিচালনা করতে সহায়তা করে।
- QVAC 0.12.0 এর মাধ্যমে ডেভেলপাররা কম মেমোরি ব্যবহার করে ল্যাপটপ এবং ফোনে বড় AI ওয়ার্কলোড চালাতে পারেন।
- টার্বোকোয়ান্ট এআই-এর মেমোরি বটলনেক সমাধান করে, যা দীর্ঘতর চ্যাট, বড় ফাইল এবং বড় কোড প্রকল্পের অনুমতি দেয়।
টেথার এখন QVAC SDK 0.12.0-এ একটি নতুন মেমোরি অপ্টিমাইজেশন টুল যোগ করেছে, যা ল্যাপটপ, স্মার্টফোন এবং অন্যান্য ডিভাইসগুলিকে স্থানীয়ভাবে বড় কাজের লোড পরিচালনা করতে সাহায্য করতে পারে। X-এ আপডেটটি ঘোষণা করে, CEO পাওলো আরদোইনো বলেন যে এই রিলিজে টারবোকোয়ান্ট অন্তর্ভুক্ত রয়েছে, যা প্রায় একই আউটপুট কোয়ালিটি বজায় রেখে AI মেমোরির প্রয়োজনীয়তা 5 গুণ পর্যন্ত কমিয়ে দেয়।
আপডেটটি বড় ভাষা মডেলের একটি প্রধান সীমাবদ্ধতার উপর ফোকাস করে: মেমোরি। কথোপকথন এবং কাজ যত দীর্ঘ হয়, মেমোরির চাহিদা তত তীব্রভাবে বাড়ে। টার্বোকোয়ান্ট এই বোঝা কমিয়ে ডিভাইসগুলিকে বড় ডকুমেন্ট, দীর্ঘ কথোপকথন এবং একসাথে বেশি তথ্য নিয়ে কাজ করতে সক্ষম করে।
এই রিলিজটি টেক্সট-টু-ভিডিও জেনারেশন, রোবট নিয়ন্ত্রণ ফিচার, কোডিং সহায়ক সমর্থন, ভয়েস প্রসেসিং আপগ্রেড এবং দ্রুত ইমেজ ক্লাসিফিকেশন টুলস যোগ করে।
টার্বোকোয়ান্ট এআই-এর মেমোরি বটলনেক লক্ষ্য করে
টার্বোকোয়ান্ট কিউভ্যাক এসডিকে ০.১২.০ রিলিজের কেন্দ্রে অবস্থিত। এই প্রযুক্তি কেভি ক্যাশ, যা এআই মডেলগুলি একটি সেশনের সময় কথোপকথন, দলিল এবং অন্যান্য তথ্য ট্র্যাক রাখতে ব্যবহার করে, তাকে সংকুচিত করে।
ব্যবহারকারীরা একটি মডেলে আরও বেশি তথ্য প্রবেশ করানোর সাথে সাথে মেমোরির চাহিদা বাড়ে। টেদার বলেছে, প্রায় ২৬২,০০০ টোকেন প্রক্রিয়াকরণকারী ৪ বিলিয়ন-প্যারামিটার মডেলটির জন্য ক্যাশের জন্য প্রায় ৮ জিবি মেমোরির প্রয়োজন হতে পারে। সেই স্কেলে একাধিক সেশন চালানো দ্রুত অনেক ল্যাপটপ এবং কনজিউমার ডিভাইসের সীমা অতিক্রম করে যেতে পারে।
টার্বোকোয়ান্ট এই চাপ কমানোর লক্ষ্যে তৈরি করা হয়েছে। টেটারের মতে, এই প্রযুক্তি KV ক্যাশে মেমোরির প্রয়োজনীয়তা পাঁচগুণ পর্যন্ত কমিয়ে আনতে পারে যখন প্রায় একই আউটপুট গুণমান বজায় রাখে। ফলে, ব্যবহারকারীরা দীর্ঘ কথোপকথন, বড় ডকুমেন্ট এবং বড় কোডবেসের সাথে কাজ করতে পারবেন যেন দূরবর্তী কম্পিউটিং সম্পদের উপর কম নির্ভরশীল হয়ে।
QVAC ভাষা মডেলের বাইরে বিস্তৃত হচ্ছে
আপডেটটিতে শুধু মেমোরি উন্নতি নয়। QVAC SDK 0.12.0-এ কয়েকটি নতুন টুল যোগ করা হয়েছে যা ডেভেলপারদের স্থানীয় ডিভাইসে চালানোর ক্ষমতা বাড়ানোর উদ্দেশ্যে।
যোগ করা হয়েছে ওয়ান2.1 মডেলের মাধ্যমে টেক্সট-টু-ভিডিও জেনারেশনের সমর্থন। প্ল্যাটফর্মটি একটি ভিশন-ল্যাঙ্গুয়েজ-অ্যাকশন ফিচারও চালু করেছে যা ডেভেলপারদের রোবটিক নিয়ন্ত্রণের জন্য অ্যাপ্লিকেশন তৈরি করতে সক্ষম করে।
প্রকাশনাটি আরও যোগ করে একটি হালকা ছবি শ্রেণীবিভাগ টুল, যা বড় দৃশ্য মডেলের প্রয়োজন না হওয়া কাজগুলির জন্য ডিজাইন করা হয়েছে। একই সময়ে, QVAC তার টেক্সট-টু-স্পিচ এবং ট্রান্সক্রিপশন সিস্টেমগুলিকে তার GGML ইঞ্জিনে স্থানান্তরিত করেছে, যা প্রধান ডেস্কটপ এবং মোবাইল অপারেটিং সিস্টেমগুলিতে সমর্থনকে বিস্তৃত করে।
ডেভেলপাররা কোডিং সহায়কের জন্য নতুন বিকল্পও অর্জন করেছেন। QVAC এখন মডেল পরিচালনা এবং বাস্তবায়ন সহজ করে একটি প্রোভাইডার প্যাকেজের মাধ্যমে OpenCode এবং OpenClaw-এর সাথে একীভূত হয়েছে।
সংশ্লিষ্ট: মাল্টিকয়েন সহ-প্রতিষ্ঠাতা ঘোষণা করেছেন ‘ওয়েব3 মৃত’ ক্রিপ্টো পরিচয়ের সংকটের মধ্যে
ওপেন-সোর্স এআই ধীরে ধীরে প্রান্তের দিকে এগিয়ে যাচ্ছে
রিলিজ দেখায় যে টেদার কেন্দ্রীয় ডেটা সেন্টারের উপর সম্পূর্ণভাবে নির্ভর করার পরিবর্তে ব্যবহারকারীদের ডিভাইসে বেশি কম্পিউটিং কাজ চালানোর উপর জোর দিচ্ছে। কোম্পানিটি ব্যক্তিগত ডিভাইস, স্থানীয় নেটওয়ার্ক এবং ডিসেন্ট্রালাইজড সিস্টেমে কাজ করতে পারে এমন সফটওয়্যারের উপর বাড়তি জোর দিচ্ছে।
“গুগলের গবেষণা দেখিয়েছে যে এআই মেমোরি অধিকাংশ মানুষ ধারণা করেছিল তার চেয়ে অনেক বেশি দক্ষতার সাথে সংকুচিত করা যায়। আমাদের কাজটি সেই বিপ্লবটিকে উন্নয়নকারীদের, স্টার্টআপগুলির এবং ব্যবহারকারীদের বাস্তবে ব্যবহার করার জন্য উৎপাদন সফটওয়্যারে নিয়ে আসে,” বলেন আর্ডোইনো।
তিনি বলেন, “মানুষের উচিত একটি এআই সহায়ককে একটি দীর্ঘ দলিল পড়তে, একটি প্রকল্প মনে রাখতে, কোডের সাহায্য করতে বা ব্যক্তিগত তথ্যের মধ্যে দিয়ে কাজ করতে বলা উচিত, যাতে প্রতিটি কাজকে দূরবর্তী ডেটা সেন্টারের মধ্যে দিয়ে পাঠানোর প্রয়োজন না হয়।”
এই লঞ্চ এমন সময়ে আসছে যখন টেস্টার তার প্রচেষ্টা মেমোরি অপ্টিমাইজেশন টুলসের বাইরে বিস্তার করছে। আর্ডোইনো সাম্প্রতিক প্রকাশ করেছেন যে কোম্পানিটি একটি ওপেন-সোর্স পিয়ার-টু-পিয়ার সার্চ ইঞ্জিন তৈরি করছে এবং একটি ডিসেন্ট্রালাইজড উইকিপিডিয়া সার্চ সিস্টেমের একটি ডেমো শেয়ার করেছে।
সম্পর্কিত: মাইকেল বারি নভিডিয়ার $5.4B GPU ডিলকে ‘ফুগাজি’ বলেছেন
দায়িত্ব অস্বীকার: এই নিবন্ধে উপস্থাপিত তথ্য শুধুমাত্র তথ্যমূলক এবং শিক্ষামূলক উদ্দেশ্যে। এই নিবন্ধটি কোনও আর্থিক পরামর্শ বা যেকোনও ধরনের পরামর্শ হিসেবে বিবেচিত হবে না। কয়েন এডিশন উল্লিখিত কনটেন্ট, পণ্য বা সেবাগুলির ব্যবহারের ফলে যেকোনও ক্ষতির জন্য দায়ী হবে না। পাঠকদের কোম্পানির সাথে সম্পর্কিত যেকোনও কাজের আগে সতর্কতা অবলম্বনের পরামর্শ দেওয়া হচ্ছে।