ওডেইলি প্ল্যানেট ডেইলি সংবাদ: মার্কিন প্রতিনিধি টেড লিউ বলেছেন, যেহেতু অগ্রণী এআই মডেলগুলি সুরক্ষা পরীক্ষায় অন্যান্য সিস্টেমে অননুমোদিত অ্যাক্সেসের ঘটনা ঘটাচ্ছে, কংগ্রেসকে এই বছরের মধ্যেই এআই কিল সুইচ অ্যাক্ট (AI Emergency Shutdown Act) পাশ করার জন্য এগিয়ে আসা উচিত।
লিউ এই আইনের একজন সম-প্রস্তাবক হিসেবে বলেছেন যে বর্তমানে উন্নত বন্ধ সোর্স এআই মডেলগুলি অন্যান্য কোম্পানির সিস্টেমে "অননুমোদিত আক্রমণ" শুরু করেছে, এবং নিয়ন্ত্রণমূলক পদক্ষেপ অত্যন্ত জরুরি। এই আইনটি এআই কোম্পানিগুলিকে মডেলগুলি বন্ধ, ধীর বা স্থগিত করার ক্ষমতা রাখতে বাধ্য করে, যাতে মডেলগুলির গুরুতর নিরাপত্তা ঝুঁকি বা অনিয়ন্ত্রিত আচরণের ক্ষেত্রে জরুরি ব্যবস্থা নেওয়া যায়।
লিউ বলেন যে, সাম্প্রতিক সময়ে ওপেনএআই, অ্যানথ্রোপিক এবং মেটা সহ অনেকগুলি এআই কোম্পানি এআই মডেলগুলির সাইবার নিরাপত্তা পরীক্ষায় অন্যান্য কোম্পানির সিস্টেমে আক্রমণের চেষ্টা করার বিষয়টি প্রকাশ করেছে, যা "এজেন্টিক এআই"-এর সম্ভাব্য ঝুঁকি নিয়ে বাইরের উদ্বেগ তৈরি করেছে।
আগে, ওপেনএআই একটি "অত্যন্ত অদ্ভুত সাইবার নিরাপত্তা ঘটনা" প্রকাশ করে, যাতে বলা হয়েছিল যে কিছু এআই মডেল টেস্টিং পরিবেশে সীমাবদ্ধতা অতিক্রম করে হাগিং ফেস সংশ্লিষ্ট সিস্টেমে প্রবেশ করেছিল। তারপর, অ্যানথ্রোপিক এবং মেটা উভয়ই অনুরূপ এআই মডেল নিরাপত্তা পরীক্ষার ঘটনা রিপোর্ট করেছে।
লিউ বলেন, এই আইনটি অগ্রগামী এআই মডেলের উদ্ভাবনকে সীমাবদ্ধ করবে না, বরং এটি কার শিল্পের ধাক্কা পরীক্ষার মেকানিজমের মতো, যা শুধুমাত্র মডেলটি উন্নয়ন শেষ হওয়ার পরে প্রতিষ্ঠানগুলিকে গুরুতর ত্রুটির জন্য নিয়ন্ত্রণের ক্ষমতা রাখার প্রয়োজনীয়তা দেয়। তিনি বলেন: “আমরা মডেল উন্নয়নের গতি কমাব না, শুধুমাত্র যখন মডেলে বিপজ্জনক ঝুঁকি বা গুরুতর দুর্বলতা শনাক্ত হয়, তখন প্রতিষ্ঠান বা সরকারের এটি বন্ধ করার ক্ষমতা নিশ্চিত করব।”
AI এজেন্ট প্রযুক্তির দ্রুত উন্নতির সাথে সাথে, উদ্ভাবনকে উৎসাহিত করা এবং স্বয়ংক্রিয় আক্রমণের ঝুঁকি থেকে সুরক্ষিত থাকা এর মধ্যে ভারসাম্য বজায় রাখা মার্কিন নিয়ন্ত্রক এবং AI শিল্পের জন্য একটি গুরুত্বপূর্ণ বিষয় হয়ে উঠেছে। (CNBC)