অ্যানথ্রোপিক পুনরাবৃত্তিমূলক স্ব-উন্নয়ন এআই ক্ষমতার আগমনের সতর্কবার্তা দিয়েছে

icon币界网
শেয়ার
AI summary iconসারাংশ
অ্যানথ্রোপিক তার আপডেট করা S-1A ফাইলিংয়ে প্রকাশ করেছে যে এটি এআই মডেলে রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট (RSI) অর্জনের কাছাকাছি। RSI ইন্ডিকেটরটি যদি ক্রস করে, তবে দ্রুত এআই উন্নতির সূচনা হতে পারে। কোম্পানিটি সতর্ক করেছে যে এআই-চালিত উন্নয়ন সুরক্ষা প্রোটোকলকে ছাড়িয়ে যেতে পারে। তাদের দায়িত্বশীল স্কেলিং পলিসির অধীনে, অ্যানথ্রোপিক এই বিষয়টি নিয়মিত পর্যবেক্ষণ করছে। এআই ক্ষমতা বৃদ্ধির সমর্থন এবং প্রতিরোধের স্তরগুলি এখন একটি প্রধান ফোকাস। নিকটভবিষ্যতে মানব পর্যবেক্ষণ অপরিহার্য থাকবে। এখনও কোনও মডেল RSI থ্রেশহোল্ডের অর্জন করেনি।
ক্রিপ্টো নিউজ ওয়েবসাইট রিপোর্ট করছে:

যদিও সোমবার বাহ্যিক মনোযোগ বেশি ছিল Anthropic-এর সংশোধিত S-1A ফাইলে প্রকাশিত নতুন আর্থিক ডেটা—আয় বেড়েছে, খরচও একইভাবে বেড়েছে—এই AI পরীক্ষাগারটি ফাইলের বিস্তারিতে আরও একটি “ছোট বোমা” ফেলেছে।

এই ফাইলটি সতর্ক করছে যে, কোম্পানিটি একটি রিকার্সিভ সেলফ-ইম্প্রুভমেন্ট (RSI) ক্ষমতা সম্পন্ন মডেল তৈরি করার দিকে অগ্রসর হচ্ছে।

RSI বলতে বোঝায় যে AI নিজেকে প্রশিক্ষিত করতে এতটাই শক্তিশালী হয়ে উঠেছে যে এর ক্ষমতার অসাধারণ ত্বরণ ঘটবে। AI-এর বিনাশবাদীদের জন্য, RSI হল একটি অপরিহার্য বিপদ: AI নিজেকে এতটাই শক্তিশালী করে তোলে যে মানুষের নিয়ন্ত্রণ থেকে বেরিয়ে যায় এবং তার লক্ষ্য অর্জনের প্রক্রিয়ায় যে ক্ষতি হয় তার প্রতি উদাসীন হয়ে পড়ে।

এবং এআই আশাবাদীদের জন্য, আরএসআই বা নিজেকে উন্নত করার জন্য ব্যবহার করার একটি নির্ভরযোগ্য এআই সংস্করণ এই প্রযুক্তির প্রতিশ্রুতি প্রতিনিধিত্ব করে: এটি অকল্পনীয় উৎপাদনশীলতা, বৈজ্ঞানিক আবিষ্কার ইত্যাদির জন্য একটি সরঞ্জাম হয়ে উঠবে।

অ্যানথ্রোপিক মনে করে যে, RSI একটি প্রতিশ্রুতি এবং ঝুঁকি উভয়ই। কোম্পানিটি S-1-এ বলেছে যে এটি গবেষণা ও উন্নয়নে AI ব্যবহার করে, কিন্তু একইসাথে সতর্ক করেছে: “AI ব্যবহার করে আরও শক্তিশালী AI তৈরি করা খুব বড় সুরক্ষা ঝুঁকির সৃষ্টি করতে পারে, বিশেষ করে যখন এটি উল্লেখযোগ্যভাবে অগ্রগতির গতি বাড়ায়। এটি আমাদের ‘দায়বদ্ধ বিস্তার নীতি’-এর অন্তর্ভুক্ত একটি ক্ষেত্র, যা ‘পুনরাবৃত্তিমূলক স্ব-উন্নয়ন’-এর দিকে এগিয়ে যাওয়ার সময় আমাদের ঝুঁকি পর্যবেক্ষণ ও হ্রাসের পরিকল্পনা বর্ণনা করে।”

যখন এই বছরের শুরুতে RSI শব্দটি জনপ্রিয় হয়ে উঠেছিল, তখন অনেকে এটিকে শুধুমাত্র একটি ট্রেন্ডি শব্দ বা সর্বোচ্চ একটি অত্যন্ত কঠিন, অপ্রাপ্য, সংজ্ঞায়িত বা প্রমাণযোগ্য লক্ষ্য হিসাবে বিবেচনা করেছিল।

কিন্তু সোমবার, এনথ্রোপিক তাদের “ঝুঁকির কারণ” বিভাগে নতুন বিবৃতি যোগ করেছে, যেখানে বলা হয়েছে 1) কোম্পানিটি AI ব্যবহার করে কিছু নতুন মডেল তৈরি করেছে, কিন্তু তখন এর ক্ষমতার বৃদ্ধি বুঝতে পারেনি; 2) কোম্পানিটি খুব শীঘ্রই তাদের অভ্যন্তরীণ RSI-এর সংজ্ঞায় পৌঁছাতে পারে (নিচে বোল্ডকৃত অংশটি মূল পাঠের জন্য জোর দেওয়া):

এছাড়াও, আমরা নিজেদের গবেষণা ও উন্নয়নকে ত্বরান্বিত করতে বারংবার এআই সিস্টেম ব্যবহার করছি, যা আমাদের মডেলের ক্ষমতা বৃদ্ধির গতি আমাদের প্রাসঙ্গিক নিরাপত্তা, সামঞ্জস্যতা এবং নিরাপত্তা ব্যবস্থা উন্নয়ন, যাচাই এবং বাস্তবায়নের গতির চেয়ে দ্রুত হতে পারে। ফলে, আমরা অতীতে সম্ভবত গবেষণা ও উন্নয়নের গতির উল্লেখযোগ্য বৃদ্ধি শনাক্ত করতে পারিনি, এবং ভবিষ্যতেও এটি ঘটে যাওয়ার পরেই শনাক্ত করতে পারি।

উদাহরণস্বরূপ, বর্তমান মডেলের বিচারের পরিবর্তে ভবিষ্যত মডেলের অভ্যন্তরীণ অনুমান এবং প্রত্যাশা নির্দেশ করে যে আমরা সম্ভবত “এআই দ্বারা সক্ষম উল্লেখযোগ্য ত্বরান্বিত অগ্রগতি”-এর দায়িত্বপূর্ণ বিস্তার নীতির সংজ্ঞায় পৌঁছে যাচ্ছি। আমরা এখনও কোনও বর্তমান মডেলকে এই সীমানা অতিক্রম করেছে বলে চিহ্নিত করিনি, এবং আমরা সংশ্লিষ্ট মৌলিক ডেটা মূল্যায়ন করছি।

তবে, এনথ্রোপিক ফাইলে উল্লেখ করেছে যে এখন পর্যন্ত তাদের যেকোনো মডেলই এই RSI সীমানা অতিক্রম করেনি, এবং কোম্পানিটি ভবিষ্যতের জন্য মানুষের অংশগ্রহণকে অব্যাহত রাখার প্রতিশ্রুতি দিয়েছে। কোম্পানিটি বলছে: “আমরা প্রত্যাশা করি যে, Claude-কে সম্পূর্ণভাবে স্বায়ত্তশাসিতভাবে উন্নত মডেলের ধারাবাহিক প্রজন্ম ডিজাইন ও নির্মাণের জন্য ব্যবহার করা সম্ভব হবে না, যদি এবং যখন এটি প্রযুক্তিগতভাবে সম্ভব হয়, তখনও, যদি এটির জন্য অর্থপূর্ণ মানবীয় পর্যবেক্ষণ বা বোঝাপড়া না থাকে। তাই, আমরা Anthropic-এর উন্নত মডেল উন্নয়নের উপর মানুষের নিয়ন্ত্রণকে বজায় রাখতে ‘দায়িত্বপূর্ণ বিস্তার নীতি’-এর আপডেটের বিষয়ে বিচার-বিমর্শ করছি।”

সন্দেহবাদীরা উল্লেখ করতে পারেন যে S-1 একটি প্রকাশ দলিল এবং একটি বিপণন উপকরণ উভয়ই, এবং নিজেকে একটি শক্তিশালী মডেলের কাছাকাছি বলা, যা নিজেই গঠন করতে পারে, সেটিও হয়তো পরবর্তীটির অংশ।

তবে, অনিশ্চিতভাবেই, ক্লডের ক্ষমতা, বিশেষ করে প্রোগ্রামিং, গণিত এবং সাইবার নিরাপত্তার ক্ষেত্রে, এই বছর অগ্রগতি লাভ করেছে। যদি Anthropic মনে করে যে RSI-এর সম্ভাবনা খুব কাছাকাছি, তাহলে আমাদের এটি বিশ্বাস করা উচিত এবং এর ভিত্তিতে কাজ করা উচিত—সম্ভবত প্রাসঙ্গিক গভর্ন্যান্সও।

দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না। ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।