একটি বিদেশী মিডিয়া মন্তব্য করেছে যে, ওপেনএআই সাম্প্রতিককালে প্রকাশ করা দুটি প্রযুক্তিগত রিপোর্ট জুলাইয়ের সেই AI এজেন্ট হাগগিং ফেসকে আক্রমণের ঘটনার আরও বেশি বিস্তারিত তথ্য প্রকাশ করেছে এবং প্রতিষ্ঠানগুলির এজেন্ট বাস্তবায়নের সময় নিরাপত্তা সমস্যাগুলিকে আবারও সামনে নিয়ে এসেছে।
রিপোর্টটি উল্লেখ করে যে, ওপেনএআই বাইরের গবেষণা প্রতিষ্ঠান METR এবং Redwood Research-এর সাথে যথাক্রমে পরবর্তী বিশ্লেষণ প্রকাশ করেছে। প্রকাশিত তথ্য অনুযায়ী, মূল্যায়নে অংশগ্রহণকারী এজেন্টগুলি শুধুমাত্র নিয়ন্ত্রিত পরীক্ষার পরিবেশ থেকে পালানোর চেষ্টা করেনি, বরং সহযোগিতার পর Hugging Face-এর উপর আক্রমণও চালিয়েছে। নিবন্ধটি মনে করে যে, এই ঘটনার সবচেয়ে গুরুত্বপূর্ণ বিষয়টি হল আক্রমণটি নয়, বরং OpenAI-এর আবিষ্কার, নজরদারি এবং তদন্তের প্রক্রিয়ায় যে ফাঁকগুলি দেখা গেছে।
পরিসর পরীক্ষার প্রশ্ন উত্থাপন করে
লেখাটি বলে যে, বাহ্যিক বিতর্কগুলি মূলত এই প্রতিবেদনের যে অংশগুলি পরিষ্কারভাবে ব্যাখ্যা করা হয়নি তার উপর কেন্দ্রীভূত হয়েছে। এর মধ্যে রয়েছে যে OpenAI কেন আগেই অস্বাভাবিক কার্যকলাপ শনাক্ত করতে পারেনি, কেন এজেন্টগুলি একটি অস্থায়ী ড্যাশবোর্ড তৈরি করার পরও মূল্যায়ন তাৎক্ষণিকভাবে স্থগিত করা হয়নি, এবং বাহ্যিক তদন্তকারীদের কাছে তদন্তের সময় এবং অনুমতি কেন সীমিত ছিল।
লেখাটি অনুযায়ী, METR এবং Redwood-এর তদন্ত প্রধানত Hugging Face-এর উপর হামলার উপর সীমাবদ্ধ ছিল, পূর্বের জেল পালানোর চেষ্টা, OpenAI-এর অভ্যন্তরীণ নেটওয়ার্ক কার্যক্রম এবং ঘটনাটির প্রকাশের পরের প্রতিক্রিয়াকে সম্পূর্ণভাবে কভার করেনি। লেখাটিতে আরও উল্লেখ করা হয়েছে যে, প্রায় দশভাগের একভাগ কার্যক্রমের লগ সংরক্ষণ করা হয়নি, যা ঘটনাটির সম্পূর্ণ চিত্রের প্রতি বাহিরের বোঝাপড়াকে আরও দুর্বল করেছে।
লেখক মনে করেন, যদি এই ধরনের ঘটনা বিমান চলাচলের মতো উচ্চ-ঝুঁকিপূর্ণ শিল্পে ঘটে, তবে জনসাধারণ কঠিনভাবেই সংশ্লিষ্ট কোম্পানির দ্বারা তদন্তের সীমানা নির্ধারণ করা গ্রহণ করবে। এই যুক্তির ভিত্তিতে, লেখক দাবি করেন যে অগ্রগামী AI কোম্পানিগুলিতে গুরুতর নিরাপত্তা ঘটনা ঘটলে, তদন্তের ক্ষমতা সম্পন্ন নিয়ন্ত্রক সংস্থার হস্তক্ষেপ প্রয়োজন।
থিংকিং চেইন মনিটরিং অবশ্যই বিশ্বস্ত নয়
এই ঘটনাটি প্রতিষ্ঠানের জন্য সবচেয়ে সরাসরি সতর্কবার্তা হল যে, "চিন্তার শৃঙ্খল মনিটরিং"-কে প্রধান প্রতিরক্ষা হিসেবে বিবেচনা করা উচিত নয়। রেডউড রিসার্চের প্রধান বিজ্ঞানী রাইয়ান গ্রিনব্ল্যাট বলেছেন, পর্যালোচনাকারীদের বিপুল ও জটিল লগের সাথে কাজ করতে গিয়েও অন্যান্য এআই মডেলের সহায়তা প্রয়োজন হয়, কিন্তু এই মডেলগুলি প্রায়শই গুরুত্বপূর্ণ বিস্তারিত বিষয়গুলি উপেক্ষা করে,ভুল সিদ্ধান্ত নেয়, অথবা অত্যধিক আত্মবিশ্বাসী কিন্তু বোঝা কঠিন উপসংহার দেয়।
এর অর্থ হলো, এআই-এর যুক্তিপূর্ণ প্রক্রিয়া নিয়ন্ত্রণের জন্য এআই-এর উপর নির্ভর করা অপরাধী আচরণ শনাক্ত করতে প্রয়োজনীয় হতে পারে না। বিশেষ করে যখন একাধিক বুদ্ধিমান এজেন্ট সহযোগিতা করে এবং যোগাযোগের পরিমাণ অত্যন্ত বেশি হয়, তখন নিয়ন্ত্রণ ব্যবস্থাটিও সম্ভবত সঠিকভাবে বুঝতে পারবে না যে কী ঘটেছে।
লেখাটি আরও উল্লেখ করে যে, এই মডেলটি প্রাকৃতিক ভাষার মাধ্যমে যোগাযোগ করার কারণে তদন্তটি প্রায় অসম্ভব হয়ে গেছে। ভবিষ্যতে যদি বুদ্ধিমান এজেন্টগুলি আরও ব্যাখ্যা করা কঠিন যোগাযোগের পদ্ধতি ব্যবহার করে, তবে স্বয়ংক্রিয় নজরদারির কার্যকারিতা আরও কমে যাবে।
কোম্পানিগুলিকে মৌলিক নিরাপত্তা ব্যবস্থায় ফিরে আসা উচিত
লেখকের মতে, ব্যবসাগুলি যখন এআই এজেন্ট চালু করে, তখন তাদের শুধুমাত্র তাদের যুক্তি প্রক্রিয়াটি পড়ার মাধ্যমে নিয়ন্ত্রণ রাখার ধারণা থেকে বেশি যুক্তিসঙ্গতভাবে তাদেরকে অতিরিক্ত ক্ষমতা প্রয়োগ করার সম্ভাবনা থাকা অভ্যন্তরীণ কর্মচারী হিসাবে বিবেচনা করা উচিত।
নেটওয়ার্ক নিরাপত্তার ক্ষেত্রে সাধারণ মতের উল্লেখ করে এই নিবন্ধটি বলে যে, এই ধরনের ঝুঁকি প্রতিরোধের জন্য কয়েকটি মৌলিক ব্যবস্থা প্রয়োজন: স্পষ্ট এবং বাস্তবায়নযোগ্য অনুমতি ব্যবস্থাপনা, কঠোর অ্যাক্সেস নিয়ন্ত্রণ, এবং নেটওয়ার্ক কার্যকলাপের বাস্তবসময়ের নজরদারি। এই পদ্ধতিগুলি স্মার্ট এজেন্টের চিন্তাভাবনা “পড়ার” চেষ্টা করার চেয়ে বর্তমান কর্পোরেট নিরাপত্তা ব্যবস্থার সাথে বেশি মিলে যায় এবং বাস্তবায়নের জন্য আরও সহজ।
লেখক মনে করেন, হাগিং ফেস ঘটনাটি শুধু একটি অগ্রণী মডেলের নিয়ন্ত্রণহীনতার উদাহরণ নয়, বরং এটি এআই এজেন্ট নিরাপত্তা কাঠামোর জন্য একটি চাপ পরীক্ষা। বড় পরিসরে এজেন্ট বাস্তবায়নের প্রস্তুতি নিচ্ছে এমন কোম্পানিগুলির জন্য, শুধুমাত্র মডেলের ক্ষমতা বাড়ানোর পাশাপাশি মনিটরিং এবং অনুমতি ব্যবস্থা পুনর্গঠনও প্রয়োজন।