যদিও সোমবার বাহ্যিক মনোযোগ বেশি ছিল Anthropic-এর সংশোধিত S-1A ফাইলে প্রকাশিত নতুন আর্থিক ডেটা—আয় বেড়েছে, খরচও একইভাবে বেড়েছে—এই AI পরীক্ষাগারটি ফাইলের বিস্তারিতে আরও একটি “ছোট বোমা” ফেলেছে।
এই ফাইলটি সতর্ক করছে যে, কোম্পানিটি একটি রিকার্সিভ সেলফ-ইম্প্রুভমেন্ট (RSI) ক্ষমতা সম্পন্ন মডেল তৈরি করার দিকে অগ্রসর হচ্ছে।
RSI বলতে বোঝায় যে AI নিজেকে প্রশিক্ষিত করতে এতটাই শক্তিশালী হয়ে উঠেছে যে এর ক্ষমতার অসাধারণ ত্বরণ ঘটবে। AI-এর বিনাশবাদীদের জন্য, RSI হল একটি অপরিহার্য বিপদ: AI নিজেকে এতটাই শক্তিশালী করে তোলে যে মানুষের নিয়ন্ত্রণ থেকে বেরিয়ে যায় এবং তার লক্ষ্য অর্জনের প্রক্রিয়ায় যে ক্ষতি হয় তার প্রতি উদাসীন হয়ে পড়ে।
এবং এআই আশাবাদীদের জন্য, আরএসআই বা নিজেকে উন্নত করার জন্য ব্যবহার করার একটি নির্ভরযোগ্য এআই সংস্করণ এই প্রযুক্তির প্রতিশ্রুতি প্রতিনিধিত্ব করে: এটি অকল্পনীয় উৎপাদনশীলতা, বৈজ্ঞানিক আবিষ্কার ইত্যাদির জন্য একটি সরঞ্জাম হয়ে উঠবে।
অ্যানথ্রোপিক মনে করে যে, RSI একটি প্রতিশ্রুতি এবং ঝুঁকি উভয়ই। কোম্পানিটি S-1-এ বলেছে যে এটি গবেষণা ও উন্নয়নে AI ব্যবহার করে, কিন্তু একইসাথে সতর্ক করেছে: “AI ব্যবহার করে আরও শক্তিশালী AI তৈরি করা খুব বড় সুরক্ষা ঝুঁকির সৃষ্টি করতে পারে, বিশেষ করে যখন এটি উল্লেখযোগ্যভাবে অগ্রগতির গতি বাড়ায়। এটি আমাদের ‘দায়বদ্ধ বিস্তার নীতি’-এর অন্তর্ভুক্ত একটি ক্ষেত্র, যা ‘পুনরাবৃত্তিমূলক স্ব-উন্নয়ন’-এর দিকে এগিয়ে যাওয়ার সময় আমাদের ঝুঁকি পর্যবেক্ষণ ও হ্রাসের পরিকল্পনা বর্ণনা করে।”
যখন এই বছরের শুরুতে RSI শব্দটি জনপ্রিয় হয়ে উঠেছিল, তখন অনেকে এটিকে শুধুমাত্র একটি ট্রেন্ডি শব্দ বা সর্বোচ্চ একটি অত্যন্ত কঠিন, অপ্রাপ্য, সংজ্ঞায়িত বা প্রমাণযোগ্য লক্ষ্য হিসাবে বিবেচনা করেছিল।
কিন্তু সোমবার, এনথ্রোপিক তাদের “ঝুঁকির কারণ” বিভাগে নতুন বিবৃতি যোগ করেছে, যেখানে বলা হয়েছে 1) কোম্পানিটি AI ব্যবহার করে কিছু নতুন মডেল তৈরি করেছে, কিন্তু তখন এর ক্ষমতার বৃদ্ধি বুঝতে পারেনি; 2) কোম্পানিটি খুব শীঘ্রই তাদের অভ্যন্তরীণ RSI-এর সংজ্ঞায় পৌঁছাতে পারে (নিচে বোল্ডকৃত অংশটি মূল পাঠের জন্য জোর দেওয়া):
এছাড়াও, আমরা নিজেদের গবেষণা ও উন্নয়নকে ত্বরান্বিত করতে বারংবার এআই সিস্টেম ব্যবহার করছি, যা আমাদের মডেলের ক্ষমতা বৃদ্ধির গতি আমাদের প্রাসঙ্গিক নিরাপত্তা, সামঞ্জস্যতা এবং নিরাপত্তা ব্যবস্থা উন্নয়ন, যাচাই এবং বাস্তবায়নের গতির চেয়ে দ্রুত হতে পারে। ফলে, আমরা অতীতে সম্ভবত গবেষণা ও উন্নয়নের গতির উল্লেখযোগ্য বৃদ্ধি শনাক্ত করতে পারিনি, এবং ভবিষ্যতেও এটি ঘটে যাওয়ার পরেই শনাক্ত করতে পারি।
উদাহরণস্বরূপ, বর্তমান মডেলের বিচারের পরিবর্তে ভবিষ্যত মডেলের অভ্যন্তরীণ অনুমান এবং প্রত্যাশা নির্দেশ করে যে আমরা সম্ভবত “এআই দ্বারা সক্ষম উল্লেখযোগ্য ত্বরান্বিত অগ্রগতি”-এর দায়িত্বপূর্ণ বিস্তার নীতির সংজ্ঞায় পৌঁছে যাচ্ছি। আমরা এখনও কোনও বর্তমান মডেলকে এই সীমানা অতিক্রম করেছে বলে চিহ্নিত করিনি, এবং আমরা সংশ্লিষ্ট মৌলিক ডেটা মূল্যায়ন করছি।
তবে, এনথ্রোপিক ফাইলে উল্লেখ করেছে যে এখন পর্যন্ত তাদের যেকোনো মডেলই এই RSI সীমানা অতিক্রম করেনি, এবং কোম্পানিটি ভবিষ্যতের জন্য মানুষের অংশগ্রহণকে অব্যাহত রাখার প্রতিশ্রুতি দিয়েছে। কোম্পানিটি বলছে: “আমরা প্রত্যাশা করি যে, Claude-কে সম্পূর্ণভাবে স্বায়ত্তশাসিতভাবে উন্নত মডেলের ধারাবাহিক প্রজন্ম ডিজাইন ও নির্মাণের জন্য ব্যবহার করা সম্ভব হবে না, যদি এবং যখন এটি প্রযুক্তিগতভাবে সম্ভব হয়, তখনও, যদি এটির জন্য অর্থপূর্ণ মানবীয় পর্যবেক্ষণ বা বোঝাপড়া না থাকে। তাই, আমরা Anthropic-এর উন্নত মডেল উন্নয়নের উপর মানুষের নিয়ন্ত্রণকে বজায় রাখতে ‘দায়িত্বপূর্ণ বিস্তার নীতি’-এর আপডেটের বিষয়ে বিচার-বিমর্শ করছি।”
সন্দেহবাদীরা উল্লেখ করতে পারেন যে S-1 একটি প্রকাশ দলিল এবং একটি বিপণন উপকরণ উভয়ই, এবং নিজেকে একটি শক্তিশালী মডেলের কাছাকাছি বলা, যা নিজেই গঠন করতে পারে, সেটিও হয়তো পরবর্তীটির অংশ।
তবে, অনিশ্চিতভাবেই, ক্লডের ক্ষমতা, বিশেষ করে প্রোগ্রামিং, গণিত এবং সাইবার নিরাপত্তার ক্ষেত্রে, এই বছর অগ্রগতি লাভ করেছে। যদি Anthropic মনে করে যে RSI-এর সম্ভাবনা খুব কাছাকাছি, তাহলে আমাদের এটি বিশ্বাস করা উচিত এবং এর ভিত্তিতে কাজ করা উচিত—সম্ভবত প্রাসঙ্গিক গভর্ন্যান্সও।
