অ্যানথ্রোপিকের সর্বশেষ এআই ব্রাউজার এজেন্টের প্রায় তিন জনের একজন প্রচেষ্টা সুরক্ষা কার্যকর হওয়ার আগেই সফল হয়েছিল। এটি একটি রেড-টিম স্ল্যাক চ্যানেলের অফুরন্ত কথা নয়। এটি অ্যানথ্রোপিক তাদের নিজস্ব সিস্টেম কার্ডে প্রিন্ট করেছে।
মে 28 তারিখে কোম্পানিটি ক্লড ওপাস 4.8 সিস্টেম কার্ড প্রকাশ করে, যা 244 পৃষ্ঠা জুড়ে চারটি এজেন্টিক সারফেসকে কভার করে। ব্রাউজার এজেন্টের প্রি-সেফগার্ড হাইজ্যাক হার ছিল 31.5%। সহজ ভাষায় বলা যায়: যদি একজন ক্ষতিকর অ্যাক্টর মডেলটিকে ওয়েব ব্রাউজিংয়ের সময় প্রম্পট ইনজেকশন আক্রমণের লক্ষ্য করে, তবে আক্রমণটি প্রায় একতৃতীয়াংশ সময় কাজ করত, ধরে নিয়ে যে কোনো প্রতিরক্ষামূলক স্তর সক্রিয় ছিল না।
সীমান্ত পরীক্ষাগারগুলিতে স্বচ্ছতার ব্যবধান
এটা হলো বিষয়টি। একা এই 31.5% সংখ্যাটি খারাপ মনে হয়। কিন্তু এই বসন্তে Anthropic হলো একমাত্র ফ্রন্টিয়ার ল্যাব যেটি আসলেই সিকিউরিটি পেশাদারদের জন্য একটি সুনির্দিষ্ট সংখ্যা দিয়েছিল।
ওপেনএআই একটি প্রম্পট ইঞ্জেকশন প্রকাশ করেছে যা শুধুমাত্র একটি পৃষ্ঠ: কানেক্টরদের কভার করেছে। গুগল সম্পূর্ণ বিষয়টিকে তার মডেল কার্ড থেকে সরিয়ে একটি ব্যাপক সুরক্ষা কাঠামো দলিলে স্থানান্তরিত করেছে, যা প্রভাবক্রমে নির্দিষ্টতা কমিয়ে দিয়েছে। মেটা কোনো ক্লোজড-মডেল কার্ডই শিপ করেনি।
সুরক্ষা ব্যবস্থাগুলি বাস্তবে কী করে
31.5% সংখ্যাটি একটি পূর্ব-সুরক্ষা পরিমাপ, যা গুরুত্বপূর্ণ প্রেক্ষাপট। এটি Anthropic-এর স্তরবদ্ধ সুরক্ষা কার্যকর হওয়ার আগে মডেলের কাঁচা ভাঙ্গনের পৃষ্ঠতল নির্দেশ করে।
একটি সংশ্লিষ্ট মডেল, অপাস ৪.৫-এর পর-সুরক্ষা পরীক্ষায় আক্রমণের সফলতার হার প্রায় ১% এ নেমে আসে। এটি অরক্ষিত বেসলাইন থেকে প্রায় ৯৭% হ্রাস।
এজেন্টিক ক্ষমতা সম্পন্ন এআই সিস্টেমের জন্য প্রম্পট ইঞ্জেকশন এখনও প্রধান সুরক্ষা চ্যালেঞ্জ হয়ে রয়েছে। যখন একটি মডেল ওয়েবসাইট ব্রাউজ করতে, ফর্ম পূরণ করতে বা ব্যবহারকারীর পক্ষে একাধিক ধাপের কাজ সম্পন্ন করতে পারে, তখন একটি সফল ইঞ্জেকশন এই সমস্ত এজেন্সিকে আক্রমণকারীর লক্ষ্যের দিকে পুনঃনির্দেশিত করতে পারে।
অ্যানথ্রোপিকের পূর্ববর্তী সিস্টেম কার্ডগুলি, যার মধ্যে অপাস ৪.৭ রিপোর্টও অন্তর্ভুক্ত, পরিমাপযোগ্য ইনজেকশন প্রতিরোধের মেট্রিক্সও অন্তর্ভুক্ত করেছিল। কোম্পানিটি এই সংখ্যাগুলি নিয়মিত প্রকাশের একটি ট্র্যাক রেকর্ড তৈরি করেছে, যা একক স্ন্যাপশটের চেয়ে সময়ের সাথে সাথে ডেটাকে আরও উপযোগী করে তোলে।
ক্রিপ্টো এবং এআই-একীভূত প্ল্যাটফর্মের জন্য এটি কেন গুরুত্বপূর্ণ
ক্রিপ্টো শিল্পটি এখন এআই এজেন্ট ইন্টিগ্রেশনে ডুবে আছে। স্বায়ত্তশাসিত ট্রেডিং বট, এআই-সক্ষম পোর্টফোলিও ম্যানেজার, অন-চেইন ডেটা বিশ্লেষক এবং প্রাকৃতিক ভাষার নির্দেশ অনুযায়ী লেনদেন সম্পাদনকারী ডিফি এজেন্টগুলি দরজা দরজা প্রোটোকলে বা তৈরি হচ্ছে বা ইতিমধ্যেই চালু হয়েছে।
31.5% প্রি-সেফগার্ড হাইজ্যাক হার এই পণ্যগুলি তৈরি করছে এমন প্রতিটি টিমকে থামিয়ে দেওয়া উচিত। যদি আপনার এআই এজেন্ট বাহ্যিক ডেটা সোর্সগুলি ব্রাউজ করে, সম্ভাব্য বিরোধী স্মার্ট চুক্তি থেকে অন-চেইন কনটেন্ট পার্স করে, অথবা ফোরাম এবং সোশ্যাল প্ল্যাটফর্মে ব্যবহারকারী-তৈরি কনটেন্ট পড়ে, তবে প্রম্পট ইঞ্জেকশন শুধুমাত্র একটি তাত্ত্বিক ঝুঁকি নয়। এটি একটি পরিমাপযোগ্য ঝুঁকি।
প্রায় 1% এ সুরক্ষা উন্নতি উৎসাহজনক, কিন্তু এটির একটি সংশয় রয়েছে। এই সংখ্যাটি এনথ্রোপিকের নিজস্ব পরীক্ষার পরিবেশ থেকে আসে। বাস্তব জীবনের বাস্তবায়নের পরিস্থিতিতে, যেখানে এজেন্টগুলি অনিয়ন্ত্রিত, বিশৃঙ্খল ওয়েব কন্টেন্টের সাথে মিথস্ক্রিয়া করে এবং শত্রুদের মিলিয়ন ডলারের পরিমাণে আর্থিক উদ্দেশ্য থাকে, সেখানে এই প্রতিরোধগুলির পরীক্ষা একটি রেড-টিম অভ্যাসের চেয়ে ভিন্নভাবে হবে।
এআই-সংশ্লিষ্ট ক্রিপ্টো প্রকল্পগুলি মূল্যায়ন করছেন এমন বিনিয়োগকারীদের জন্য, ল্যাবগুলির মধ্যে স্বচ্ছতার ব্যবধানই একটি সংকেত। ক্লড মডেলের উপর ভিত্তি করে গঠিত প্রোটোকলগুলি কমপক্ষে প্রকাশিত সুরক্ষা ডেটা উল্লেখ করতে পারে এবং তাদের প্রতিরোধমূলক কৌশলগুলি ব্যাখ্যা করতে পারে। যে প্রকল্পগুলি এমন ল্যাবগুলির মডেলের উপর নির্ভরশীল, যেখানে তুলনামূলক ডেটা প্রকাশিত হয়নি, সেগুলি ব্যবহারকারীদের একটি ব্ল্যাকবক্সে বিশ্বাস করতে বাধ্য করছে।