অ্যানথ্রোপিক ঝুঁকি মূল্যায়নের জন্য শিল্পব্যাপী এআই উন্নয়ন স্থগিতের প্রস্তাব দিয়েছে

ক্লॉड এআই মডেলের পিছনের কোম্পানি এনথ্রোপিক, জুন ৪-এ একটি ব্লগ পোস্ট প্রকাশ করে এমন কিছুর প্রস্তাব দেয় যা এক বছর আগে একটি শীর্ষস্থানীয় এআই ল্যাবের কাছে অসম্ভব বলে মনে হত: সম্পূর্ণ শিল্পের মধ্যে সীমান্ত এআই উন্নয়নের একটি সংগঠিত, অস্থায়ী বিরতি।

মারিনা ফাভারো এবং জ্যাক ক্লার্ক দ্বারা রচিত প্রস্তাবটি একটি নির্দিষ্ট এবং প্রকৃতপক্ষে ভয়ঙ্কর সমস্যার দিকে নির্দেশ করে। এআই মডেলগুলি নিজেদের পুনরাবৃত্তিমূলকভাবে নিজেদের উন্নত করার ক্ষমতার দিকে এগিয়ে যাচ্ছে, যার অর্থ মানুষের হস্তক্ষেপ ছাড়াই তারা নিজেদের ক্ষমতা পরিবর্তন এবং উন্নত করতে পারে।

এটি প্রতিটি GPU বন্ধ করে বাড়ি ফিরে যাওয়ার আহ্বান নয়। এনথ্রোপিক একটি সমন্বিত, বহুপক্ষীয় কাঠামোর পক্ষে যুক্তি দিচ্ছে, যেখানে প্রধান এআই পরীক্ষাগারগুলি সুরক্ষা গবেষণা এবং যাচাইকরণ সিস্টেমগুলি অনুসরণ করার জন্য সবচেয়ে উন্নত উন্নয়নের কাজগুলি অস্থায়ীভাবে বন্ধ রাখতে সম্মত হবে।

অ্যানথ্রোপিক স্পষ্টভাবে যুক্তি দেয় যে, একটি কোম্পানি বা একটি দেশ একাই ব্রেক চাপানো একক পদক্ষেপ যথেষ্ট নয় এবং সম্ভবত বিপরীত প্রভাব ফেলবে। প্রস্তাবটি মার্কিন যুক্তরাষ্ট্র, চীন এবং অন্যান্য দেশগুলির ভালভাবে সম্পদযুক্ত ল্যাবগুলির মধ্যে সহযোগিতাকে কেন্দ্র করে। অ্যানথ্রোপিক যাচাইয়ের চ্যালেঞ্জকে পরমাণু অস্ত্র নিয়ন্ত্রণ থেকে ধার করা শব্দাবলীতে উপস্থাপন করছে, যেখানে পরিদর্শকরা কেবলমাত্র বিশ্বাসের উপর নির্ভর না করে, চুক্তিবদ্ধ শনাক্তকরণ কৌশলের মাধ্যমে সঙ্গতির যাচাই করে।

অ্যানথ্রোপিক বলেছে যে এই শনাক্তকরণ এবং যাচাইকরণ টুলগুলি তৈরির জন্য এটি নিজস্ব গবেষণা পরিচালনা করবে, যা AI অস্ত্র পরিদর্শকের সমতুল্য হবে—যে সিস্টেমগুলি যাচাই করতে পারবে যে একটি পরীক্ষাগার প্রকাশ্যে একটি বিরতির সাথে সম্মতি দাবি করছে কিন্তু গোপনে সীমান্ত উন্নয়ন চালিয়ে যাচ্ছে।

২০২৩ সালে, GPT-4 এর চেয়ে বেশি স্তরের এআই প্রশিক্ষণের জন্য ছয় মাসের বিরামের আহ্বান জানিয়ে একটি খোলা চিঠিতে গবেষক এবং প্রযুক্তির অগ্রণীদের হাজার হাজার স্বাক্ষর জমা হয়। এটি প্রায় কিছুই অর্জন করেনি। প্রতিযোগিতামূলক চাপ সংগঠিত উদ্বেগের চেয়ে অনেক বেশি প্রভাবশালী হয়েছিল, এবং প্রতিটি প্রধান ল্যাব তাদের নির্মাণ চালিয়ে গিয়েছিল।

অ্যানথ্রোপিকের প্রস্তাবটি গঠনে ভিন্ন। স্বাক্ষর দ্বারা সমর্থিত একটি অস্পষ্ট নিষেধাজ্ঞার পরিবর্তে, কোম্পানিটি একটি যাচাইযোগ্য পালন ব্যবস্থা প্রস্তাব করছে। পরমাণু অস্ত্র নিয়ন্ত্রণের তুলনা সম্পূর্ণভাবে ভুল নয়: আন্তর্জাতিক অস্ত্র চুক্তিগুলি কাজ করে, যখন কাজ করে, তখন পরিদর্শন ব্যবস্থা এবং ধোঁকাবাজির জন্য পরিণতির কারণে, শুধুমাত্র স্বাক্ষরকারীদের ছোট আঙুলের শপথের কারণে নয়।

২০২৩ সালে, রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট একটি তাত্ত্বিক চিন্তা ছিল। এখন, Anthropic-এর নিজস্ব অভ্যন্তরীণ পর্যবেক্ষণগুলি ইঙ্গিত করে যে বর্তমান মডেলগুলি স্বায়ত্তশাসিতভাবে কোডিংয়ের ক্ষমতা বাড়তে থাকছে, যা একটি এআই সিস্টেমের নিজের পরবর্তী পুনরাবৃত্তির জন্য অর্থপূর্ণভাবে অবদান রাখার সীমানার দিকে ধাপ নিচ্ছে।

AI-সংশ্লিষ্ট সম্পদ, যেমন AI-কেন্দ্রিক ক্রিপ্টো টোকেন এবং মেশিন লার্নিং ব্যবহার করে থাকা ব্লকচেইন প্রকল্পগুলিতে টাকা রাখা যাদের আছে, তাদের জন্য Anthropic-এর প্রস্তাবটি ঝুঁকির গণনায় একটি নতুন চলক যোগ করে। একটি সমন্বিত বিরতির কাঠামো, যদিও এটি কখনও সম্পূর্ণরূপে বাস্তবায়িত না হয়, “আমরা কি AI-কে নিয়ন্ত্রণ করব?” থেকে “আমরা কিভাবে সীমান্তের মধ্যে পালনের ব্যবস্থা করব?”-এ কথোপকথনটি পরিবর্তন করে।

এআই-চালিত ক্রিপ্টো প্রকল্পগুলি, যেমন ডিসেন্ট্রালাইজড কম্পিউট নেটওয়ার্ক থেকে এআই এজেন্ট টোকেন পর্যন্ত, তাদের মূল্য প্রস্তাবের অংশ হিসাবে এই ধারণার উপর নির্ভর করে যে এআই উন্নয়ন বিচ্ছিন্নতা ছাড়াই ত্বরান্বিত হতে থাকবে। একটি বিশ্বস্ত বিরতি কাঠামো, বা এদিকে গুরুতর নিয়ন্ত্রণমূলক পদক্ষেপ, এই মূল্যায়নগুলিতে অনিশ্চয়তা আনতে পারে।

ডিসেন্ট্রালাইজড যাচাইকরণ সিস্টেমগুলি এনথ্রোপিক যা খুঁজছে তার সমাধানের অংশ হয়ে উঠতে পারে। যদি আপনাকে বিশ্বব্যাপী ল্যাবগুলির বিকাশ সীমার সাথে পালন করছে কিনা তা যাচাই করতে হয়, তবে একটি স্বচ্ছ, পরিবর্তন-প্রতিরোধী লেজার কাজের জন্য সবচেয়ে খারাপ টুল নয়।