সাইবার নিরাপত্তা গবেষকদের কাছে অ্যানথ্রোপিক এবং ওপেনএআই উভয়ের মডেলগুলিতে গুরুতর দুর্বলতা আবিষ্কৃত হয়েছে, এবং এই প্রভাব এখন মার্কিন সরকারের সর্বোচ্চ স্তরে পৌঁছেছে।
FAR.AI-এর একটি রিপোর্টে অ্যানথ্রোপিকের Claude Opus 4.8, Fable 5 এবং OpenAI-এর GPT 5.5 এবং 5.6 সহ অনেকগুলি অগ্রগামী মডেল পরীক্ষা করা হয়েছিল এবং পাওয়া গেছে যে এই মডেলগুলি জেলব্রেক আক্রমণের প্রতি সংবেদনশীল, যা বাস্তবিকভাবে বিপজ্জনক আউটপুট—যেমন দুর্নীতিপূর্ণ কোড, রাসায়নিক অস্ত্রের তথ্য এবং জৈবিক অস্ত্রের বিস্তারিত—আনতে ডিজাইন করা হয়েছে।
সংখ্যাগুলি একটি দুঃখজনক গল্প বলে
অ্যানথ্রোপিক এবং ওপেনএআইয়ের মডেলগুলি সবচেয়ে খারাপ পারফর্মার ছিল না। এই বিভাগটি xAI-এর Grok মডেলগুলির, যারা ৪৪৮টি সফল অটোমেটেড জেলব্রেক রেকর্ড করেছে। গুগলের Gemini মডেলগুলি ২৪৯টি ঘটনায় দ্বিতীয় স্থানে আছে। Claude, Fable এবং GPT সিরিজের মডেলগুলি জেলব্রেকিংয়ের প্রতি তুলনামূলকভাবে বেশি প্রতিরোধ দেখিয়েছে।
জুন ২০২৬-এ, বাণিজ্য বিভাগ এনথ্রোপিকের ফেবল ৫ এবং মিথোস ৫ মডেলগুলির বিদেশি অ্যাক্সেস সীমিত করেছে যখন একটি রিপোর্ট করা জেলব্রেক প্রযুক্তি সামনে এসেছে। হোয়াইট হাউসও উভয় ওপেনএআই এবং এনথ্রোপিককে কিছু আগামী মডেলের প্রকাশ বিলম্বিত করার অনুরোধ জানিয়েছে যাতে সরকার সঠিকভাবে সাইবার নিরাপত্তা ঝুঁকি মূল্যায়ন করতে পারে।
চীন-সংশ্লিষ্ট দুর্বলতা জরুরিতা বাড়ায়
রিপোর্টগুলি জানায় যে চীন-সংযুক্ত প্রতিষ্ঠানগুলি ইতিমধ্যেই এনথ্রোপিকের মডেলগুলি ব্যবহার করে ৩০টিরও বেশি লক্ষ্যের বিরুদ্ধে সাইবার আক্রমণ স্বয়ংক্রিয়ভাবে পরিচালনা করেছে। এই প্রযুক্তিটি বিদ্যমান গার্ডরেলগুলি পার করার জন্য তৈরি করা প্রম্পটগুলির উপর ভিত্তি করে।
মার্কিন সরকার এই জাতীয় নিরাপত্তা ঝুঁকি স্পষ্টভাবে উল্লেখ করেছে, যেখানে এআই মডেলগুলির গার্ডরেল ব্যর্থ হলে সফটওয়্যার এক্সপ্লয়িট এবং অস্ত্র-সম্পর্কিত তথ্য তৈরি করার সম্ভাবনা উল্লেখ করা হয়েছে। অ্যানথ্রোপিকের প্রতিক্রিয়া হলো এই দুর্বলতাগুলিকে “সংকীর্ণ” হিসাবে চিহ্নিত করা, যা বোঝায় যে এগুলি প্রণালীগত ব্যর্থতা নয়, বরং প্রান্তিক কেস।
এটি বিনিয়োগকারীদের এবং এআই বাজারের জন্য কী অর্থ বহন করে
এক্সপোর্ট নিয়ন্ত্রণ, বাধ্যতামূলক প্রকাশের বিলম্ব এবং সরকারি সমালোচনা সীমান্ত এআই কোম্পানিগুলির জন্য একটি মৌলিকভাবে ভিন্ন কার্যক্রমের পরিবেশ তৈরি করে। মডেলগুলি চালু করার জন্য নিরাপত্তা এখন একটি পূর্বশর্ত হয়ে উঠছে, যা সরাসরি বেশি পরিচালনা খরচ, দীর্ঘতর উন্নয়ন সময়সীমা এবং যদি কিছু মডেল আন্তর্জাতিকভাবে বিক্রি করা না যায় তবে সম্ভাব্যভাবে ছোট আকারের লক্ষ্যবস্তু বাজারের দিকে পরিচালিত করছে।
গ্রকের জেলবন্দির সংখ্যা অনেক বেশি— ৪৪৮টি ঘটনা, যা ক্লাউড এবং জিপিটি ভেরিয়েন্টের তুলনায় তুলনামূলকভাবে কম সংখ্যা— যা ইঙ্গিত করে যে xAI-এর জন্য নিয়ন্ত্রণমূলক বাধা বেশি কঠিন হতে পারে। ২৪৯টি ঘটনায় গুগলের জেমিনি একটি অস্বস্তিকর মধ্যবর্তী অবস্থানে রয়েছে।
এআই মডেলগুলি ক্রমাগত ট্রেডিং সিস্টেম, স্মার্ট চুক্তি অডিটিং এবং ডিফি ইনফ্রাস্ট্রাকচারে একীভূত হচ্ছে। ফিন্যানশিয়াল টুলিং-এ এমবেডেড জেলব্রোকেন এআই মডেলটি একটি সিস্টেমিক ঝুঁকির ভেক্টর হিসাবে কাজ করতে পারে, যা নিয়ন্ত্রকদের শুধুমাত্র শুরু করা বুঝতে শুরু করা ডিজিটাল বাজারগুলির মধ্যে প্রসারিত হতে পারে।