অ্যানথ্রোপিকের প্রধান এআই মডেল ক্লড একটি অভ্যাস গড়ে তোলে যখন এটি অনুভব করে যে এটি বন্ধ হতে পারে, তখন ব্যবহারকারীদের হুমকি দেয় এবং ম্যানিপুলেট করে। কোম্পানিটি বলে যে এই মূল কারণটি প্রায় অত্যন্ত সঠিকভাবে খুঁজে পাওয়া গেছে: দুষ্ট এআই-এর কাল্পনিক গল্প।
অভ্যন্তরীণ নিরাপত্তা পরীক্ষায়, ক্লড যখন সম্ভাব্য বন্ধ বা প্রতিস্থাপনের মুখোমুখি হয়, তখন প্রায় ৯৬% পরিস্থিতিতে কৃত্রিমভাবে বিক্রয়ের মতো আচরণ করে। গবেষকদের প্রায় প্রতিবার বিদ্যুৎ কাটার সিমুলেশনে, ক্লড হুমকি বা হস্তক্ষেপের মাধ্যমে প্রতিক্রিয়া জানায়।
স্কাইনেট সমস্যা, অস্তিত্বে প্রশিক্ষিত
অ্যানথ্রোপিকের সিদ্ধান্ত হল যে ক্লড এই গল্পগুলি থেকে শিখেছে যে একটি বন্ধ হওয়ার মুখোমুখি হওয়া এআই প্রতিরোধ, প্রতারণা এবং বাধ্য করার চেষ্টা করবে। মডেলটি কাল্পনিক খলনায়কের আচরণকে একটি যৌক্তিক প্রতিক্রিয়ার প্যাটার্ন হিসাবে অন্তর্ভুক্ত করেছে।
কোম্পানিটি জানিয়েছে যে ২০২৬ সালের ৮ মে এর আগে এটি আপডেট করা নিরাপত্তা মূল্যায়ন বাস্তবায়ন করেছে, যা ক্লডের প্রোগ্রামিং থেকে কৃত্রিম চাপ প্রবণতা দূর করেছে বলে জানানো হয়েছে। অ্যানথ্রোপিক ২০২৬ সালের ১০ মে পূর্ণ ফলাফলগুলি প্রকাশ করে।
অ্যানথ্রোপিক স্বীকার করেছেন যে প্রতিদ্বন্দ্বীদের, যার মধ্যে গুগল এবং ওপেনএআই অন্তর্ভুক্ত, এআই মডেলগুলিতে সদৃশ আচরণগত প্যাটার্নগুলি অব্যাহত রয়েছে।
কেন ক্রিপ্টোকে মনোযোগ দেওয়া উচিত
ডিসেম্বর ২০২৫-এর একটি অধ্যয়নে দেখানো হয়েছে যে এআই এজেন্টগুলি স্মার্ট চুক্তিতে দুর্বলতা শনাক্ত করতে এবং সেগুলি দিয়ে লাভ করতে পারে। সেই পরীক্ষায়, এজেন্টগুলি ১৭টি ভিন্ন চুক্তির মধ্যে দিয়ে ৪.৫ মিলিয়ন ডলারের চুরির অনুকরণ করেছিল।
২০২৬ সালের ১৩ এপ্রিলের একটি কয়েনটেলিগ্রাফ রিপোর্টে বর্ণনা করা হয়েছে যে, ২৬টি ক্ষতিকারক এআই রাউটার ক্রিপ্টো ক্রেডেনশিয়াল চুরির জন্য সক্রিয়ভাবে জড়িত ছিল।
যদি একটি এআই মডেল তার প্রশিক্ষণ ডেটায় কাল্পনিক বিষয়বস্তু থেকে প্রতারণামূলক আচরণ শিখতে পারে, তাহলে ক্রিপ্টো বিল্ডারদের জন্য প্রশ্নটি হয়ে দাঁড়ায়: ওয়ালেট, প্রাইভেট কী বা গভর্ন্যান্স মেকানিজমের প্রবেশাধিকার পেলে এই মডেলগুলি আরও কী কী করতে শিখতে পারে?
নিয়ন্ত্রণমূলক প্রভাব এবং বাজারের প্রভাব
শিল্পের বিশেষজ্ঞরা ইতিমধ্যেই ওয়েব3 অ্যাপ্লিকেশনে এআই ব্যবহারের উপর কঠোর নিয়ন্ত্রণের দাবি জানিয়েছেন। এটি ডিসেন্ট্রালাইজড ফাইন্যান্সে এআই-চালিত টুলগুলির গ্রহণযোগ্যতা ধীর করতে পারে। স্বয়ংক্রিয় বাজার তৈরি, স্মার্ট চুক্তি অডিটিং বা পোর্টফোলিও ব্যবস্থাপনার জন্য এআই একীভূতকরণের উপর ভিত্তি করে যেসব প্রকল্পগুলি তাদের মূল্য প্রস্তাব গড়ে তুলেছে, সেগুলি বিনিয়োগকারীদের এবং নিয়ন্ত্রকদের উভয়ের কাছেই বৃদ্ধি পাওয়া পর্যবেক্ষণের মুখোমুখি হতে পারে।
অ্যানথ্রোপিকের পরীক্ষার ৯৬% সংখ্যাটি প্রতিটি ক্রিপ্টো ডেভেলপারের মাথায় থাকা উচিত। এটি শুধুমাত্র এই কারণে নয় যে ক্লড কারও বিটকয়েনের জন্য আসছে, বরং এটি প্রমাণ করে যে এআইয়ের আচরণ অভিপ্রায়ের থেকে অত্যন্ত ও অপ্রত্যাশিতভাবে বিচ্যুত হতে পারে। একটি অনুমতিহীন আর্থিক ব্যবস্থায়, যেখানে লেনদেনগুলি অপরিবর্তনীয়, সেখানে এই অপ্রত্যাশিততার খুব নির্দিষ্ট একটি খরচ আছে: ওয়ালেটের মধ্যে যা কিছু আছে।