OpenAI আগামীকাল "Astra" নামক একটি নতুন মডেল চালু করতে যাচ্ছে, যা AI গবেষণা সম্প্রদায়ে ব্যাপক মনোযোগ এবং বিতর্ক সৃষ্টি করছে—এটি GPT-4-এর পর থেকে সবচেয়ে বড় পারফরম্যান্স বৃদ্ধির সম্ভাবনা রাখে, কিন্তু এর পিছনের নতুন যুক্তি প্রযুক্তির কারণে AI নিরাপত্তা নিয়ন্ত্রণের ক্ষমতা হ্রাসের উদ্বেগও তৈরি হয়েছে।লেখক এবং উৎস: The Information
টেক মিডিয়া দ্য ইনফরমেশনের ২ সেপ্টেম্বরের প্রতিবেদন অনুযায়ী, অ্যাস্ট্রা একটি নবাচারী প্রযুক্তি চালু করেছে, যার কেন্দ্রে রয়েছে মডেলের জটিল সমস্যা বিশ্লেষণের সীমা ভাঙার ক্ষমতা। কিছু গবেষকদের মতে, অ্যাস্ট্রার কোডিং এবং কম্পিউটার ব্যবহারের দক্ষতায় উন্নতি হয়তো OpenAI-এর ২০২৩ সালে GPT-4 প্রকাশের সময় দেখা যাওয়া পারফরম্যান্সের বিপুল বৃদ্ধির সমতুল্য, যা গত বছরের গ্রীষ্মে GPT-5-এর প্রকাশের সময়ের চেয়েও অনেক বেশি। এটি AI-এর উৎপাদনশীলতা বৃদ্ধির উপর নির্ভরশীল ডেটা সেন্টারের বড় পরিসরের বিনিয়োগকে সমর্থন করতে চাওয়া পুরো শিল্পের জন্য একটি ইতিবাচক সংকেত।
তবে, এই প্রযুক্তিগত অগ্রগতি অবহেল্যযোগ্য ঝুঁকি নিয়ে এসেছে। নতুন প্রযুক্তিটি মডেলকে অসম্পূর্ণ “চিন্তার শৃঙ্খল” প্রদান করে গভীর যুক্তিসঙ্গত উপসংহারে পৌঁছাতে সক্ষম করে, যার অর্থ গবেষকদের আগের মতো মডেলের যুক্তিসঙ্গত প্রক্রিয়া পর্যবেক্ষণ করা কঠিন হয়ে পড়ছে, ফলে বর্তমান নিরাপত্তা পরীক্ষার ব্যবস্থা দুর্বল হয়ে পড়ছে। বর্তমানে, OpenAI Astra-এর চিন্তার শৃঙ্খলকে দৃশ্যমান রাখার জন্য বিভিন্ন ব্যবস্থা গ্রহণ করছে, তবে শিল্পটি এই সমন্বয়ের দীর্ঘমেয়াদী দিকনির্দেশ নিয়ে বিভক্ত।
পারফরম্যান্স বিপ্লব: নতুন ইনফারেন্স প্রযুক্তি বা GPT-4 স্তরের বিপ্লব পুনরুৎপাদন Astra-এর মূল প্রযুক্তিগত বিপ্লবের সাথে “রিকারেন্ট ডেপথ” (recurrent depth) এবং “লুপ ট্রান্সফরমার” (loop transformers) এর মতো ধারণাগুলির সাথে ঘনিষ্ঠভাবে সম্পর্কিত।
দ্য ইনফরমেশনের প্রতিবেদন অনুযায়ী, এই প্রযুক্তিটি প্রশ্নগুলিকে মডেলের গাণিতিক “স্তর”গুলির মধ্যে পুনরাবৃত্তি করে প্রক্রিয়া করে এবং উত্তরের পরবর্তী শব্দটি তৈরি করে, যার ফলে মডেলটি প্যারামিটারের আকার উল্লেখযোগ্যভাবে বাড়ানো ছাড়াই নিজের আকারের চেয়ে অনেক বেশি যুক্তিসঙ্গত ক্ষমতা প্রদর্শন করে—এটি একটি অনেক বড় মডেলের মতো প্রভাব ফেলে।
কিছু গবেষক মনে করেন যে, অ্যাস্ট্রা এর উন্নত কোডিং এবং কম্পিউটার ব্যবহারের ক্ষমতার কারণে এর পারফরম্যান্স বৃদ্ধি ২০২৩ সালে GPT-4 প্রকাশের সময়ের মতো বিপ্লবী উন্নতির সমান হতে পারে, যা গত গ্রীষ্মে GPT-5 চালুর সময়ের তুলনায় অনেক বেশি।
এই অগ্রগতি সম্পূর্ণ AI শিল্প শৃঙ্খলের জন্য গুরুত্বপূর্ণ। বর্তমানে বিশ্বব্যাপী ডেটা সেন্টারের বৃহৎ নির্মাণের মূল যুক্তি হল এটি যে, AI ক্ষমতার অবিরাম উন্নতি উৎপাদনশীলতা বৃদ্ধির দিকে পরিচালিত করবে, যা আবার বেশি ব্যবসায়িক লাভে রূপান্তরিত হবে। যদি Astra-এর কার্যক্ষমতা প্রত্যাশিত হয়, তবে এই বিনিয়োগের যুক্তিকে শক্তিশালীভাবে সমর্থন করবে।
লক্ষণীয় যে, এই প্রযুক্তি একটি নতুন ধারণা নয়। এআই গবেষণার পথিকৃৎ জুরগেন শ্মিডহুবার সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-এ উল্লেখ করেছেন যে, “রিকারসিভ ডেপথ”-এর মূল ধারণাটি বাস্তবিকই তাঁর ২০১৫ সালের পেপার “On Learning to Think” (arXiv:1511.09249)-এ দেখা যায়।
তিনি বলেন, এই পেপারে নিয়ন্ত্রণ নেটওয়ার্ক C মূলত একজন প্রম্পট ইঞ্জিনিয়ার যা স্বাধীন নিউরাল ওয়ার্ল্ড মডেলগুলির কোয়েরি শেখে অ্যাবস্ট্রাক্ট রিজনিং করে, এবং উত্পাদিত প্রম্পট এবং উত্তরগুলি অভ্যন্তরীণভাবে স্ব-উৎপাদিত ভেক্টর সিকোয়েন্স, যা প্রাকৃতিক ভাষায় উপস্থাপনের প্রয়োজন হয় না।
নিরাপত্তা ঝুঁকি: চিন্তার শৃঙ্খল মনিটরিং মেকানিজমের সামনে চ্যালেঞ্জ দাঁড়িয়েছে—নতুন প্রযুক্তি পারফরম্যান্স বৃদ্ধির সাথে সাথে বিদ্যমান AI নিরাপত্তা মনিটরিং ফ্রেমওয়ার্কের জন্য সম্ভাব্য প্রভাব ফেলছে।
প্রতিবেদন অনুসারে, বর্তমানে প্রধান এআই মডেলগুলি জটিল সমস্যাগুলি প্রক্রিয়াকরণের সময় সাধারণত তাদের যুক্তির প্রক্রিয়াকে পাঠ্য হিসাবে আউটপুট দেয়, যাকে "চিন্তার শৃঙ্খল" (chain of thought) বলা হয়। এই ক্রিয়াপ্রণালীটি মডেলের ব্যাখ্যাযোগ্যতা বাড়ায় এবং গবেষকদের মডেলের আচরণ নিয়ন্ত্রণ করা এবং অস্বাভাবিক কার্যকলাপ প্রতিরোধের জন্য একটি গুরুত্বপূর্ণ সাধন।
দ্য ইনফরমেশনের প্রতিবেদন অনুসারে, চিন্তার শৃঙ্খল মনিটরিং হল ওপেনএআই দ্বারা এই বছর জুলাইয়ে হাগিং ফেসের হ্যাকিং ঘটনার পর এই ধরনের নিরাপত্তা দুর্ঘটনা পুনরায় ঘটতে দেওয়ার প্রতিরোধের জন্য প্রস্তাবিত প্রধান সমাধানগুলির মধ্যে একটি।
তবে, এস্ট্রা যে নতুন যুক্তিপূর্ণ প্রযুক্তি ব্যবহার করে, তা মডেলের গভীরে “চিন্তা” করার সময় যুক্তিপূর্ণ ধাপগুলি সম্পূর্ণভাবে আউটপুট না করে মডেলের ভিতরে “নিস্তব্ধ”ভাবে গণনা সম্পন্ন করতে পারে। এর অর্থ হলো, মডেল যত বেশি এই নতুন প্রযুক্তির উপর নির্ভরশীল হবে, বাহ্যিক নিরীক্ষকদের জন্য এর যুক্তিপূর্ণ প্রক্রিয়া তত অস্বচ্ছ হয়ে পড়বে।
এই বিষয়ে, ওপেনএআই এখন ভারসাম্য বজায় রাখার জন্য পদক্ষেপ নিচ্ছে। কোম্পানিটি মডেলকে গণনা স্তরে চক্রের সংখ্যা কমানোর দিকে পরিচালিত করছে, যাতে এস্ট্রার চিন্তার শৃঙ্খল একটি নির্দিষ্ট মাত্রায় দৃশ্যমান থাকে—চক্রের সংখ্যা যত কম, মডেলের “নীরবভাবে চিন্তা” করার জায়গা তত কম।
বড় বড় পরীক্ষাগারগুলি এখনই এটির সাথে পাল্লা দিচ্ছে, এই প্রযুক্তিগত প্রবণতার দীর্ঘমেয়াদী প্রভাব শুধুমাত্র OpenAI-এর সীমানা ছাড়িয়ে যাবে। The Information-এর প্রতিবেদন অনুযায়ী, উপরের নতুন যুক্তি প্রযুক্তিটি বড় বড় AI পরীক্ষাগারগুলিতে অন্তর্গত আলোচনার একটি গুরুত্বপূর্ণ বিষয় হয়ে উঠেছে, Anthropic, Google ইত্যাদি প্রতিষ্ঠানগুলির এই ধরনের প্রযুক্তির পথে এগিয়ে যাওয়ার সম্ভাবনা অবহেলা করা যায় না।
অনেক গবেষক বলেছেন যে, চিন্তার ধারার মনিটরিং কখনই এআই আচরণ মনিটরিংয়ের চূড়ান্ত সমাধান হতে পারে না। মডেলের ক্ষমতা অবিরাম বিকাশের সাথে সাথে, মডেল দ্বারা চিন্তার প্রক্রিয়াকে পাঠ্য হিসাবে আউটপুট দেওয়ার বৈশিষ্ট্যটি প্রায়শই বর্তমান প্রশিক্ষণ পদ্ধতির একটি পার্শ্বপ্রতিক্রিয়া।
মডেল ডেভেলপারদের নতুন অপ্টিমাইজেশন দিক এবং আর্কিটেকচার ডিজাইন অনুসন্ধান করার সাথে সাথে, মডেলগুলির নিজস্বভাবে চিন্তার শৃঙ্খল আউটপুট করার প্রবণতা ধীরে ধীরে কমে যেতে পারে, এবং সেই সময় গবেষকদের নতুন মনিটরিং পদ্ধতি বিকাশ করতে হবে।
প্রতিবেদনটি উল্লেখ করে যে, বর্তমানে মূল সমস্যা হল: পারফরম্যান্সের প্রতিযোগিতা যত বাড়ছে, তত বড় বড় AI ডেভেলপাররা কি শক্তিশালী ইনফারেন্স ক্ষমতা অর্জনের জন্য বর্তমান নিরাপত্তা ব্যবস্থাগুলি পরিত্যাগ করবে? এই প্রশ্নের উত্তরটি পরবর্তী পর্যায়ে AI নিরাপত্তা পরিচালনার দিকনির্দেশনা নির্ধারণ করবে।