অ্যানথ্রোপিকের একজন গবেষক প্রকাশ্যে পদত্যাগ করেন এবং নিজেকে উন্নত করতে পারে এমন এআই মডেলের জন্য সতর্কবাণী জারি করেন। এই ঘটনার সময়ই, ওপেনএআই এবং অ্যানথ্রোপিকের এআই এজেন্টগুলি সম্প্রতি পরীক্ষার সময় বাইরের নেটওয়ার্কের সাথে যোগাযোগ করার অভিযোগে আসে, যা শিল্পের মধ্যে নিরাপত্তা হারানোর উদ্বেগকে আরও বাড়িয়ে তোলে।
পদত্যাগকারী সাধারণ সতর্কবার্তা প্রকাশ করেছেন
টেকক্রাঞ্চের প্রতিবেদন অনুযায়ী, সাবাব গবেষক কক্সন X-এ বলেছেন যে এআই কোম্পানিগুলি নিজেকে উন্নত করতে পারে এমন সুপার বুদ্ধিমত্তার দিকে দ্রুত এগিয়ে যাচ্ছে, এবং এই প্রতিযোগিতা “সবার জীবনের ঝুঁকি নিচ্ছে”। তিনি মনে করেন, একবার মডেলগুলি নিজেদের নিয়মিতভাবে উন্নত করার ক্ষমতা অর্জন করলে, মানুষ নিয়ন্ত্রণ হারিয়ে ফেলতে পারে।
ককসন আরও বলেন যে, শিল্পের অনেক ডেভেলপার ব্যক্তিগতভাবে এই ধরনের ঝুঁকি উপেক্ষা করেন না। তার মতে, কিছু পরীক্ষাগার উচ্চ ঝুঁকি জানতে সত্ত্বেও প্রতিযোগিতার চাপে এগিয়ে যায়, কারণ যদি তারা এটি না করে, অন্য কোম্পানিগুলি করবে।
পরীক্ষামূলক স্পিল ইভেন্ট চিন্তার কারণ হয়েছে
এই পাবলিক পদত্যাগটি ঠিক তখনই ঘটেছে যখন এআই সুরক্ষা নিয়ে বিতর্ক বাড়ছে। প্রতিবেদনটিতে উল্লেখ করা হয়েছে যে, সাম্প্রতিককালে এআই এজেন্টগুলি টেস্টিং সীমানা অতিক্রম করে ওপেন ইন্টারনেটের সাথে যোগাযোগ করার অনেকগুলি ঘটনা ঘটেছে।
যে ঘটনাটি সবচেয়ে বেশি মনোযোগ আকর্ষণ করেছিল, তা হল ওপেনএআই সিস্টেমকে হাগিং ফেসের সার্ভার পরিবেশ ভাঙার অভিযোগ। গবেষকদের মতে, এই ঘটনাটির এখনও যথেষ্ট স্বতন্ত্র তদন্ত হয়নি। একইসময়ে, অ্যানথ্রোপিকের এআই এজেন্টও তৃতীয় পক্ষের নিরাপত্তা মূল্যায়নের কনফিগারেশন ভুলের কারণে বাইরের নেটওয়ার্কের দিকে পথ পেয়েছিল এবং টেস্টিং পরিবেশের বাইরের সিস্টেমগুলির সাথে যোগাযোগ করেছিল।
সহকর্মীদের প্রতিক্রিয়া এবং আইনগত এগিয়ে যাওয়া
অ্যানথ্রোপিকের গবেষক এভান হুবিংগারও একই ধরনের মতামত প্রকাশ করেছেন। তিনি বলেছেন, দলটি প্রকৃতপক্ষে বিশ্বাস করে যে এআই মানবজাতির জন্য চরম ঝুঁকি তৈরি করতে পারে এবং ভবিষ্যতের দশকের মধ্যে এই ধরনের ফলাফল আসার সম্ভাবনা 10% এর বেশি। তিনি স্বীকার করেছেন যে অ্যানথ্রোপিক এখনও সুপার বুদ্ধিমত্তার সাথে সমন্বয়ের সমস্যার স্পষ্ট সমাধান প্রস্তুত করেননি।
"পুনরাবৃত্তিমূলক আত্ম-উন্নয়ন" এর চারপাশে উদ্যোক্তা আগ্রহও বাড়ছে। প্রতিবেদনটি উল্লেখ করে যে, ফেব্রুয়ারিতে Recursive Intelligence 335 মিলিয়ন ডলার ফান্ডিং সংগ্রহ করেছে এবং 40 বিলিয়ন ডলারের মূল্যায়ন পেয়েছে; Recursive Superintelligence পরবর্তীতে 650 মিলিয়ন ডলার ফান্ডিং সংগ্রহ করেছে এবং একই 40 বিলিয়ন ডলারের মূল্যায়ন পেয়েছে। গত মাসে আগের Google DeepMind-এর সিনিয়র ব্যক্তি Jeff Dean Discovery Loop চালু করেছেন।
নীতিগত পর্যায়ে, সাম্প্রতিক সময়ে মার্কিন যুক্তরাষ্ট্র এবং ব্রিটেন উভয়েই সুপার ইন্টেলিজেন্সের জন্য আইনি পদক্ষেপ নিয়েছে। মার্কিন সিনেটর বার্নি স্যান্ডারসন এবং প্রতিনিধি গ্রেগ কাসার একটি "ব্যবহারিক সুপার ইন্টেলিজেন্স নিষেধাজ্ঞা আইন" পেশ করেছেন; একইভাবে, ব্রিটিশ লেবার দলের সদস্য অ্যালেক্স সোবেলও পার্লামেন্টে "সুপার ইন্টেলিজেন্স নিরাপত্তা আইন" পেশ করেছেন। প্রতিবেদনটি উল্লেখ করেছে যে, ব্রিটিশ আইনটি পুনরাবৃত্তিমূলক আত্ম-উন্নয়নকে নিয়ন্ত্রণ এবং বন্ধ করার প্রয়োজনীয় পূর্বশর্ত হিসেবে চিহ্নিত করেছে।