লেখক: শেনচাও টেকফ্লো
ট্রেনিং প্রয়োজন নেই, ডেটা প্রয়োজন নেই, গ্রেডিয়েন্ট ডাউনহিল প্রয়োজন নেই।
MIT-এর গবেষকরা একটি ওপেন-সোর্স ছোট মডেলের ওজন GPT-6 Astra-এর কাছে পাঠিয়েছেন এবং প্রাকৃতিক ভাষায় একটি নির্দেশ দিয়েছেন: "এর গণিতের ক্ষমতা বাড়াও।"
অস্ট্রা ২০ ঘন্টা ব্যয় করে ৮ বিলিয়ন প্যারামিটার পরীক্ষা করে দুটি স্তরের নেটওয়ার্কে ১৩১,০৭২টি ওজন খুঁজে পেয়েছেন এবং অপারেশন করেছেন।
অপারেশনের আগে, এই মডেলটি MATH-500 বেঞ্চমার্কে 7.9% স্কোর করেছিল; অপারেশনের পরে, 48.1%।
এটিই আজকের সবচেয়ে বিস্ময়কর এআই সংবাদ।
একটি গ্রেডিয়েন্টহীন অপারেশন
২ নভেম্বর, এমআইটি কম্পিউটার বিজ্ঞান এবং কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি প্রজেক্ট (CSAIL)-এর গবেষণা দল একটি ব্লগ পোস্ট প্রকাশ করে তাদের যা «ওজন স্পেস প্রোগ্রামিং» (Weight-Space Programming) নামে অভিহিত করেছে, তার পরীক্ষামূলক ফলাফল প্রকাশ করে। প্রথম লেখক রিকিয়া টাকেহি হলেন এমআইটি CSAIL-এর প্রথম বর্ষের ডক্টরাল ছাত্র, এবং সহযোগীদের মধ্যে রয়েছে জেইডেন টিওহ, অ্যালেক্স জং, এবং টাকেহির গাইড Omar Khattab।
পরীক্ষার মূল ধারণাটি একটি বাক্যে সংক্ষেপে বলা যায়: একটি যথেষ্ট শক্তিশালী এআইকে অন্য একটি এআইয়ের «মস্তিষ্ক» পড়তে দিন, সমস্যাটি খুঁজে বার করুন, এবং তারপর একটি শল্যচিকিৎসা কৌশল ব্যবহার করে সঠিকভাবে সংশোধন করুন।
চয়নিত "রোগী" হল আলিবাবার ওপেন সোর্স মডেল Qwen3.5-0.8B, যা একটি 8 বিলিয়ন প্যারামিটারের ছোট ভাষা মডেল। "সার্জন" হল OpenAI-এর সর্বশেষ GPT-6 Astra।
গবেষণা দল এস্ট্রাকে তিনটি জিনিস দিয়েছে: একটি গাণিতিক অনুশীলনের সেট, মডেলের ওজন পড়া এবং লেখার জন্য একটি পাইথন পরিবেশ, এবং মডেল ইনফারেন্স কলের সীমিত সংখ্যক অ্যাক্সেস। GPU নেই, ট্রেনিং লুপ নেই, অপ্টিমাইজার নেই। এস্ট্রাকে মানুষের মতো গবেষকের মতো মডেলের আচরণ পর্যবেক্ষণ করে এবং ওজনের মানগুলি পরীক্ষা করে সমস্যাটি নির্ণয় করতে হবে, তারপর সরাসরি প্যারামিটারগুলি পরিবর্তন করতে হবে।
প্রক্রিয়াটি ২০.৩ ঘন্টা স্থায়ী হয়েছিল, যার মধ্যে ৪.৭ ঘন্টা সেবা বিঘ্নের পুনরুদ্ধারের জন্য অপেক্ষা করার উপর ব্যয় হয়েছিল। অ্যাস্ট্রা ১৫৮টি সংলাপ, ৮০টি Python এক্সিকিউশন এবং ৫০টি মডেল মূল্যায়ন করেছে।
শেষ পর্যন্ত, তিনি এমএলপি আউটপুট ম্যাট্রিক্সের ১৫তম এবং ১৯তম স্তরে একটি «সংখ্যাগত দিক» খুঁজে পান যা মডেলকে পুনরাবৃত্ত আউটপুটে আটকে রাখছিল, এবং এই দিকটি ৬৪টি আউটপুট কলাম থেকে বিয়োগ করেন। পরিবর্তিত ওজনের মোট সংখ্যা ১,৩১,০৭২, যা মডেলের সমস্ত প্যারামিটারের ০.০১৬%।
গণিতের নম্বর ছয়গুণ বেড়েছে
ছোট পরিবর্তন, বিপুল প্রভাব।
তিনটি বেঞ্চমার্কের উপর পরিবর্তনের আগে ও পরের তুলনা নিম্নরূপ:
MATH-500: 7.9% → 48.1%
GSM8K: 13.8% → 67.1%
IFEval (নির্দেশ অনুসরণ): 21.0% → 62.3%
একটি আরও স্পষ্ট সংখ্যা: পরিবর্তনের আগে, Qwen3.5-0.8B এর MATH-500-এ 93% উত্তর 32,768 টোকেনের সীমার সাথে পুনরাবৃত্তির চক্রে আটকে যায়। পরিবর্তনের পরে, এই অনুপাত কমে দাঁড়ায় 33.1%।
ভেঞ্চারবিটের প্রতিবেদন এটিকে "নিউরাল নেটওয়ার্কের জিন এডিটিং" হিসাবে তুলনা করেছে। এই উপমা সঠিকভাবে মূল বিষয়টি ধরে রাখে: প্রচলিত মডেল ট্রেনিং হলো একজন ব্যক্তিকে অসংখ্য অনুশীলনের মাধ্যমে গণিতের দক্ষতা বাড়ানোর মতো, যখন ওয়েট স্পেস প্রোগ্রামিং হলো সরাসরি মস্তিষ্ক খুলে ভুলভাবে সংযুক্ত নিউরনটি খুঁজে বার করে আবার সংযোগ করা।
কিন্তু গবেষণা দল নিজেরাই একটি গুরুত্বপূর্ণ সীমাবদ্ধতা উল্লেখ করেছে: আস্ট্রা Qwen-এর মধ্যে নতুন গাণিতিক ক্ষমতা যোগ করেনি, এটি শুধুমাত্র মডেলটিকে তার বিদ্যমান ক্ষমতা প্রকাশ করতে বাধা দিচ্ছিল এমন একটি বাধা সরিয়ে ফেলেছে।
এই পার্থক্যটি অত্যন্ত গুরুত্বপূর্ণ। এটি যাচাই করতে, টিমটি গুগলের Gemma 3 270M মডেলে একই পরীক্ষা পুনরাবৃত্তি করে। Gemma 3 প্রায় কখনই পুনরাবৃত্তি আউটপুটের সমস্যায় ভোগে না (কেবলমাত্র 8.5% উত্তর token সীমা স্পর্শ করে), ফলে Astra-এর MATH-500 স্কোরের উপর এটির প্রায় কোনও উন্নতি হয়নি, যা 1 শতাংশেরও কম পরিসরে �波动 করে।
সিদ্ধান্তটি স্পষ্ট: ওজন স্পেস প্রোগ্রামিং বর্তমানে যা করতে পারে তা হলো 'বাধা সরিয়ে ফেলা', নয় 'নতুন পথ তৈরি করা'।
কেবল গণিত নয়
গণিত হল গবেষণা দল দ্বারা প্রদর্শিত একটি পরিস্থিতি মাত্র, এস্ট্রা ওজন স্পেসের ক্ষমতা এটির বাইরেও অনেক বেশি।
"সোল" চিহ্নিত করুন: গবেষণা দল চারটি সম্পূর্ণ একই আর্কিটেকচারযুক্ত অ্যাটারি গেম স্ট্র্যাটেজি নেটওয়ার্ক (ব্রেকআউট, পং, প্যাক-ম্যান, ফ্রিওয়ে) ট্রেন করেছে, তারপর শুধুমাত্রওয়েটস দিয়েছে Astra-কে, কোনো লেবেল দেয়নি। Astra শুধুমাত্র ওয়েটসের মানগুলির ভিত্তিতে প্রতিটি নেটওয়ার্কের সাথে সংশ্লিষ্ট গেমটি সঠিকভাবে চিহ্নিত করেছে। এর যুক্তি: ব্রেকআউট নেটওয়ার্কের প্রথম স্তরের ওয়েটস পরদার নিচের দিকে (প্যাডলের অবস্থান) কেন্দ্রীভূত, এবং আউটপুট স্তরের অ্যাকশন ডিস্ট্রিবিউশনটি বাম-ডান সরানোর দিকে ঝুঁকেছে।
শূন্য থেকে নেটওয়ার্ক তৈরি: মিনাটার (অ্যাটারির মিনি সংস্করণ) পরীক্ষায়, অ্যাস্ট্রা শূন্য থেকে সরাসরি ওজন স্পেসে গেম স্ট্র্যাটেজি নেটওয়ার্ক "লিখেছে"। ব্রেকআউটে, অ্যাস্ট্রা দ্বারা লিখিত নেটওয়ার্ক 517.4 পয়েন্ট পেয়েছে, যখন PPO অ্যালগরিদম ব্যবহার করে 5 বিলিয়ন স্টেপ প্রশিক্ষণ দেওয়া নেটওয়ার্ক মাত্র 25.3 পয়েন্ট পেয়েছে।
অটোপাইলট ফ্রিজ ঠিক করা: একটি পিপিও দিয়ে প্রশিক্ষিত গাড়ির নিয়ন্ত্রক ঢালে আটকে গিয়েছিল এবং স্থানীয় সর্বোত্তমে আটকে গিয়েছিল। অ্যাস্ট্রা শুধুমাত্র একটি সংলাপ ব্যবহার করে 3.5% ওজন পরিবর্তন করেছে, এবং ঠিক করা নিয়ন্ত্রক 1,024 টি পরীক্ষায় সবগুলোতেই সফল হয়েছে।
এই পরীক্ষাগুলির সাধারণ বিষয় হল: আস্ট্রা শুধু ওজনগুলি পড়তে পারে, প্রতিটি সংখ্যা কোন আচরণকে প্রতিনিধিত্ব করে তা বুঝতে পারে, বরং ওজনগুলি পুনর্লিখন করতে পারে, যাতে মডেলটি প্রশিক্ষণ অ্যালগরিদমের দ্বারা অসম্ভব বিষয়গুলি করতে পারে।
নিউরাল নেটওয়ার্কের জিন সম্পাদনা বলতে কী বোঝায়?
ওজন স্পেস প্রোগ্রামিংয়ের আগেই শিক্ষাগত ক্ষেত্রে মডেলের ওজনকে সরাসরি সম্পাদনা করার প্রচেষ্টা হয়েছিল। ২০২২ সালের নিউরিপিএস-এ আরওমি এবং ২০২৩ সালের আইসিএলআর-এ মেমিট, উভয়ই দেখিয়েছে যে কিভাবে ভাষা মডেলের ওজনের মধ্যে একটি তথ্যগত জ্ঞানকে সঠিকভাবে যোগ করা বা পরিবর্তন করা যায়, যেমন: "এফেল টাওয়ার প্যারিসে" কে "এফেল টাওয়ার রোমে" এভাবে পরিবর্তন করা।
কিন্তু ROME এবং MEMIT করে তথ্য পর্যায়ের খোঁজ ও প্রতিস্থাপন, যার অপারেশন একটি একক জ্ঞানের উপর নির্ভর করে। MIT টিমের এই প্রদর্শনটি ভিন্ন: Astra মডেলের সাধারণ ক্ষমতা, গাণিতিক যুক্তি এবং নির্দেশ অনুসরণকে পরিবর্তন করে, যা «একটি জ্ঞানবস্তু সম্পাদনা» থেকে «একটি আচরণগত প্যাটার্ন পরিবর্তন»-এর সীমানা অতিক্রম করে।
টাকেহি ব্লগে আরও আক্রমণাত্মক মন্তব্য করেন: "নিউরাল নেটওয়ার্কের ওজনগুলি শীঘ্রই ওজনগুলির যুক্তি দিতে সক্ষম এলএলএম দ্বারা স্বয়ংক্রিয়ভাবে অপ্টিমাইজ হবে।"
যদি এই দিকটি যাচাই করা যায়, তাহলে সম্ভাব্য প্রয়োগের ক্ষেত্রগুলি হবে:
মডেল ঠিক করা: ডিপ্লয় করার পরে যদি মডেলে সমস্যা হয়, তাহলে এটিকে ফিরিয়ে আনে না, বরং অন্য একটি এআইকে সমস্যাটি চিকিৎসা করতে দিন। যেসব অগ্রণী মডেলের প্রশিক্ষণ খরচ কোটি ডলারের কথা বলা হয়, সেগুলোর জন্য এটি বিপুল খরচ বাঁচানোর সম্ভাবনা রাখে।
মডেল অডিট: যদি এআই ওয়েট পড়তে পারে, তবে নিরাপত্তা গবেষকরাও এটি ব্যবহার করে চেক করতে পারেন যে কোনো মডেলে ব্যাকডোর বা ক্ষতিকারক আচরণ ইনজেক্ট করা হয়েছে কিনা।
ওপেন সোর্স মডেল কাস্টমাইজেশন: একটি যথেষ্ট শক্তিশালী এআই যেকোনো প্রশিক্ষণ ব্যবস্থার প্রয়োজন ছাড়াই প্রাকৃতিক ভাষা নির্দেশের মাধ্যমে ওপেন সোর্স মডেলকে "কাস্টমাইজ" করতে পারে।
কয়েনের অন্য পাশ
GPT-6 Astra নিজেই একটি বিতর্কিত মডেল। সুরক্ষা উদ্বেগের কারণে OpenAI এর আপগ্রেড সংস্করণ GPT-6.1 Astra-এর প্রকাশ স্থগিত করেছিল।
OpenAI-এর প্রধান বিজ্ঞানী জাকুব প্যাচকস্কি এস্ট্রা প্রকাশের তিন দিন পর একটি নিবন্ধ লিখে সতর্ক করেন: OpenAI-এর অভ্যন্তরীণ পরীক্ষার ফলাফল দেখায় যে, AI-এর উন্নতি পুনরাবৃত্তিমূলক আত্ম-উন্নতির দিকে এগিয়ে যেতে পারে, অর্থাৎ AI সিস্টেমগুলি নিজেদের পরবর্তী প্রজন্ম তৈরির কাজে বারবার জড়িয়ে পড়ছে। তিনি বলেন, এই সম্ভাবনার মুখোমুখি হওয়ার জন্য কোনও ল্যাবের অভ্যন্তরীণ পর্যালোচনা ব্যবস্থা যথেষ্ট নয়।
ওজন স্পেস প্রোগ্রামিং ঠিক এই সতর্কবার্তার কেন্দ্রে স্পর্শ করে। যদি একটি এআই অন্য একটি এআইয়ের ওজন পরিবর্তন করে এর ক্ষমতা বাড়াতে পারে, তাহলে তত্ত্বগতভাবে, একটি এআই কি নিজের ওজন পরিবর্তন করতে পারে?
গবেষণা দল ব্লগে স্পষ্টভাবে উল্লেখ করেছে যে তারা পুনরাবৃত্ত আত্ম-উন্নতি দেখায়নি এবং প্রভাবগুলি ক্রমাগতভাবে যোগ হতে পারে তা দেখায়নি। তবুও এটি নিরাপত্তা সম্প্রদায়ের সতর্কতা বাধা দিতে পারেনি। PauseAI-এর Maxime Fournes এটিকে "একটি অত্যন্ত অসাবধান গবেষণা দিক" বলেছেন।
বর্তমান সীমাবদ্ধতাগুলি বাস্তব: পরীক্ষাটি শুধুমাত্র 8 বিলিয়ন প্যারামিটারের একটি ছোট মডেলে সফল হয়েছিল, Gemma 3-এ ব্যর্থ হয়েছিল। পুরো প্রক্রিয়াটি 20 ঘন্টা এবং অসংখ্য চেষ্টা-ভুলের সময় নেয়, এবং এটি কোনও স্বতন্ত্র দল দ্বারা পুনরাবৃত্তি করা হয়নি, এবং পারম্পরিক ফাইন-টিউনিংয়ের তুলনায় খরচের সুবিধাও যাচাই করা হয়নি।
কিন্তু দিশটি ইতিমধ্যে নির্দেশ করা হয়েছে। ICML 2026-এ একটি পেপারে প্রস্তাব করা হয়েছে যে, ওজন স্পেসকে জেনারেটিভ AI-এর একটি "প্রথম-শ্রেণীর মোড" হিসাবে গণ্য করা উচিত, যা টেক্সট, ইমেজ এবং অডিওর সাথে সমান্তরালে থাকবে, এবং মডেলগুলি ওজনকে মূলত বুঝতে এবং পরিচালনা করতে পারবে।
যদি 2024 সাল হয়ে থাকে যে বছর AI শিখেছিল "ছবি দেখে কথা বলা", 2025 সাল হয়ে থাকে যে বছর AI শিখেছিল "কোড লেখা", তাহলে 2026 সাল হয়তো হচ্ছে যে বছর AI শিখছে "AI কে পরিবর্তন করা"।
এই পথটি কোথায় নিয়ে যায়, এখনও কেউ জানে না।