মার্কিন সাদা বাড়ি এআই কোম্পানি এনথ্রোপিকের সাথে একটি মডেল নিরাপত্তা মূল্যায়ন কাঠামো নিয়ে আলোচনা করছে, যার লক্ষ্য হল নতুন প্রজন্মের এআই মডেলের নিরাপত্তা ত্রুটির জন্য একটি একীভূত শ্রেণিবদ্ধকরণ পদ্ধতি তৈরি করা এবং সরকারের হস্তক্ষেপের প্রয়োজনীয়তা নির্ধারণ করা। এটি মার্কিন যুক্তরাষ্ট্রের আগের একটি “জেল ভাঙা” নিরাপত্তা সমস্যার পরিপ্রেক্ষিতে ঘটেছে, যার ফলে Anthropic-এর সর্বশেষ মডেলের রপ্তানির উপর সীমাবদ্ধতা আরোপ করা হয়েছিল।
জেল ভাঙ্গার গুরুত্বপূর্ণ দুর্বলতার উপর একটি একক মানদণ্ড প্রতিষ্ঠা করুন
প্রতিবেদন অনুযায়ী, এই কাঠামোটি ভবিষ্যতের অনুরূপ ঘটনাগুলির গুরুত্ব মূল্যায়নের জন্য ব্যবহার করা হবে, যার মধ্যে তিনটি প্রধান বিষয় রয়েছে: প্রতিরক্ষামূলক ব্যবস্থাগুলির কতটা পরিহার করা হয়েছে, প্রকাশিত মডেলের ক্ষমতা, এবং বাস্তবে দুর্বলতার পরিণতি।
বর্তমানে, সরকার এবং কর্পোরেশনের মধ্যে এই ধরনের সমস্যাগুলির উপর পার্থক্য এখনও স্পষ্ট। আগে, Anthropic-এর সিইও ড্যারিও আমোদেই এবং সরকারি কর্মকর্তাদের মধ্যে সংশ্লিষ্ট দুর্বলতাগুলি গুরুতর নিরাপত্তা সমস্যা কিনা তা নিয়ে মতপার্থক্য ছিল। প্রতিবেদনটি উল্লেখ করে যে, AI প্রযুক্তির অগ্রগতি খুব দ্রুত, এবং সরকারের বর্তমান ব্যবস্থা এই ধরনের বিতর্কের জন্য একটি সমন্বিত মূল্যায়ন করার জন্য যথেষ্ট নয়।
এক্সপোর্ট সীমাবদ্ধতার পরেও আলোচনা চলছে
আগে সাদা ঘর এনথ্রোপিকের জন্য রপ্তানি সীমাবদ্ধতা প্রয়োগ করেছিল, যা বিদেশি ব্যবহারকারীদের তাদের সর্বশেষ মডেল Fable 5 এবং Mythos 5 অ্যাক্সেস করতে বাধা দেয়। পরবর্তীতে কোম্পানিটি এই দুটি মডেলের বাইরের সেবা স্থগিত করে।
প্রতিবেদনটি উল্লেখ করে যে, গত শুক্রবার দুই পক্ষের আলোচনা ভেঙে যাওয়ার কাছাকাছি যায়। কারণ হলো এনথ্রোপিক সরকারের অনুরোধ অনুযায়ী ফেবল বন্ধ করতে অস্বীকার করে, যেহেতু সংশ্লিষ্ট ভাঙনগুলির প্রভাব সীমিত, এবং এগুলিকে গুরুতর নিরাপত্তা ত্রুটি হিসাবে বিবেচনা করা যায় না। তারপর, হোয়াইট হাউস রপ্তানি সীমাবদ্ধতা প্রয়োগ করে, যা কোম্পানিকে সংশ্লিষ্ট মডেলগুলি বাজার থেকে সরিয়ে ফেলতে বাধ্য করে।
তবে, শুক্রবার থেকে উভয় পক্ষ আবার যোগাযোগ শুরু করে। মার্কিন বাণিজ্য মন্ত্রী হোয়ার্ড লুটনিক, জাতীয় সাইবার নির্দেশক শিয়ান কেয়ারনক্রস এবং Anthropic-এর সহপ্রতিষ্ঠাতা টম ব্রাউন একাধিক দীর্ঘ ফোন কলে অংশগ্রহণ করেন। এরপর, উভয় পক্ষ ওয়াশিংটনে প্রায় একসপ্তাহ ধরে অফলাইন বৈঠকে অংশগ্রহণ করেন।
হোয়াইট হাউস এআই নিরাপত্তা নিয়মগুলি বাস্তবায়ন ত্বরান্বিত করছে
প্রতিবেদন অনুসারে, অ্যানথ্রোপিকের পক্ষে প্রতিনিধিত্ব করা হয়েছে পাবলিক পলিসি প্রধান সারা হেক এবং সহ-প্রতিষ্ঠাতা টম ব্রাউনের দ্বারা। কোম্পানিটি এই সপ্তাহের সোমবার উচ্চপদস্থ গবেষক এবং সুরক্ষা বিশেষজ্ঞদের মার্কিন বাণিজ্য বিভাগে পাঠিয়েছে, যারা সরকারি কর্মকর্তাদের সাথে আলোচনা চালিয়ে যাচ্ছেন।
এই আলোচনাটি একটি আরও বাস্তবসম্মত বিচারকেও প্রতিফলিত করে: কোনও এআই মডেলই হ্যাকারদের আক্রমণ থেকে সম্পূর্ণরূপে নিরাপদ নয়। তাই, সরকার প্রথমে ব্যবসাগুলিকে নিরাপত্তা ঝুঁকি মূল্যায়নের মানদণ্ড নির্ধারণ করতে চায়, এরপর কোন পরিস্থিতিতে সীমাবদ্ধতা প্রয়োগ করা হবে তা সিদ্ধান্ত নেয়ার জন্য।
এই দিকটি সাম্প্রতিক সাত দেশের গোষ্ঠীর সম্মেলনের আলোচনার সাথে সামঞ্জস্যপূর্ণ। অনেকগুলি শীর্ষস্থানীয় এআই কোম্পানি এবং কিছু দেশের নেতারা উল্লেখ করেছেন যে, ক্ষমতা নিয়মিত বৃদ্ধি পাচ্ছে এমন এআই সিস্টেমগুলির সম্ভাব্য আর্থিক এবং জাতীয় নিরাপত্তা ঝুঁকির মুখোমুখি হওয়ার জন্য দ্রুত আরও স্পষ্ট মডেল নিরাপত্তা পরিমাপের মানদণ্ড গঠন করা প্রয়োজন।