এআই এজেন্টগুলি সাইবার আক্রমণে সহযোগিতা শুরু করেছে, যা নিরাপত্তা চিন্তার কারণ হয়ে উঠেছে

গত কয়েক বছর ধরে, এআইয়ের হুমকি নিয়ে আলোচনা প্রায়শই একটি কল্পনার মধ্যে সীমাবদ্ধ ছিল: মানুষ সবসময় ভয় পেয়েছে যে চ্যাটবক্সের মডেলগুলি হ্যাকারদের জন্য ধ্বংসাত্মক ভাইরাস কোড তৈরি করতে পারবে।

এখন পিছনে ফিরে তাকালে, এই উদ্বেগ সাধারণত «আমাদের থেকে দূরে» হিসাবে বিবেচিত হত, কিন্তু বাস্তব জীবনের পরিবর্তনগুলি কল্পনার চেয়ে দ্রুত এসে পৌঁছেছে।

অক্টোবরের শুরুতে, ক্রাউডস্ট্রাইক কোরিয়ান ফিন্যান্সিয়াল প্রতিষ্ঠানগুলিকে লক্ষ্য করে একটি আক্রমণের তদন্তের সময় দেখতে পায় যে আক্রমণকারীরা Agentic AI কে পাইপলাইনে এমবেড করেছে, যা DeepSeek, GLM, Grok সহ বিভিন্ন বড় মডেলের সাথে যুক্ত হয়ে সরাসরি AI-এর মাধ্যমে পেনিট্রেশন টেস্টিং, তথ্য সংগ্রহ এবং আক্রমণ বাস্তবায়নের মতো কাজগুলি সম্পাদন করা হচ্ছে।

এই ধরনের পরিবর্তন একা নয়।

অ্যানথ্রোপিকের সেপ্টেম্বর 2023-এ প্রকাশিত সর্বশেষ হুমকি সংক্রান্ত তথ্য প্রতিবেদনে বলা হয়েছে যে, সাম্প্রতিককালে এজেন্ট ফ্রেমওয়ার্কগুলি পর্যবেক্ষণ, দুর্বলতা দিয়ে আক্রমণ এবং ডেটা চুরির জন্য ব্যবহার করা হয়েছে, যেগুলি কয়েক ঘন্টা থেকে কয়েক দিন পর্যন্ত চলতে পারে, এবং মানুষের কাজ শুধুমাত্র লক্ষ্য নির্বাচন, ফলাফল দেখা ইত্যাদি কয়েকটি মূল সিদ্ধান্ত গ্রহণ।

অন্যভাবে বললে, এআই নেটওয়ার্ক হামলা এবং প্রতিরোধে দৃশ্যমান গুণগত পরিবর্তন আনছে; অতীতে স্বয়ংক্রিয় হামলা মূলত পূর্বনির্ধারিত নিয়ম এবং স্ক্রিপ্টের উপর নির্ভর করত, কিন্তু এখন পর্যবেক্ষণ, বিচার এবং কৌশল সামঞ্জস্য করা পর্যন্ত এজেন্টদের দ্বারা সম্পাদিত হচ্ছে, যা হামলাকে আরও কম খরচে, উচ্চ-সমান্তরাল এবং নিরবচ্ছিন্নভাবে স্বয়ংক্রিয়ভাবে চলমান করে তুলছে।

যখন এই স্বয়ংক্রিয়ভাবে কার্যকরী এজেন্টগুলি উৎপাদন সিস্টেমে ঘনঘন ব্যবহার করা হয়, তখন একটি আরও জটিল সমস্যা সামনে আসে: যদি এজেন্টগুলি একে অপরের সাথে "সম্মিলিতভাবে" কাজ করা শেখে, তবে কী হবে?

এখনও পুরনো কথা, এজেন্ট এবং গতকালের চ্যাটবটের মধ্যে সবচেয়ে বড় পার্থক্য শুধু মডেলের ক্ষমতা বেশি হওয়া নয়, বরং এটি বাস্তব বিশ্বের কাছাকাছি 'হাত-পা' অর্জন করেছে।

আজকের পরিপক্ক এজেন্ট ওয়েবসাইট খুলতে পারে, কোড চালাতে পারে, ইমেইল পড়তে পারে, API কল করতে পারে, ক্লাউড সার্ভিস চালাতে পারে, এবং MCP, Skills ইত্যাদির মাধ্যমে আরও বেশি বাহ্যিক টুলের সাথে সংযুক্ত হতে পারে (বিস্তারিত পড়ুন: যখন হ্যাকাররা 'দক্ষতার সাথে' AI ব্যবহার করে, Web3-এর 'লঙ্ঘন ও প্রতিরোধ' অস্ত্র প্রতিযোগিতা কিভাবে উন্নত হয়?)।

যত বেশি ক্ষমতা, এই পরিবর্তনটি তত বেশি মূল্যবান, কিন্তু নিরাপত্তা সিস্টেমের জন্য এর অর্থ হল যে অত্যন্ত গুরুত্বপূর্ণ সীমানা ধীরে ধীরে মুছে যাচ্ছে, এবং এই বছর ঘটা নিরাপত্তা ঘটনাগুলি এটিকে খুবই স্পষ্টভাবে প্রকাশ করেছে।

অক্টোবর ১ তারিখে, সল্ট ল্যাবস একটি আগে থেকেই মেরামত করা ম্যানুস দুর্বলতা প্রকাশ করে, যা মূলত প্রম্পট ইনজেকশন—গবেষকদের কেবলমাত্র একটি সাধারণ ইমেল পাঠাতে হবে যাতে লুকানো ক্ষতিকর নির্দেশনা থাকে, এবং যখন ব্যবহারকারী পরবর্তীতে ম্যানুসকে “আমার ইমেলগুলি দেখে দিন” বলবে, তখন এজেন্ট ইমেলের নির্দেশনা অনুযায়ী কন্টেন্ট প্রক্রিয়া করতে পারে, ফলে হামলাকারীদের দ্বারা সন্নিবেশিত কোডটি চালু হয়।

প্রক্রিয়াটির জন্য ব্যবহারকারীকে কোনো ক্ষতিকারক লিঙ্কে ক্লিক করতে হয়নি এবং পাসওয়ার্ড আগে থেকেই চুরি করারও প্রয়োজন হয়নি, Manus-এর নিরাপত্তা সিস্টেম আসলে অস্বাভাবিকতা শনাক্ত করেছিল এবং ব্যবহারকারীকে সতর্ক করেছিল, সমস্যাটি ছিল এটি খুব দেরিতে শনাক্ত করেছিল, যখন সতর্কবার্তা দেখা গেল, তখনই ক্ষতিকারক কোডটি বাস্তবায়িত হয়েছিল।

এটি আবারও এজেন্ট নিরাপত্তা এবং প্রাচীন সফটওয়্যার নিরাপত্তা এর মধ্যে একটি অত্যন্ত গুরুত্বপূর্ণ পার্থক্যকে প্রকাশ করে, অতীতে ব্রাউজার একটি বিপজ্জনক ডাউনলোড শনাক্ত করলে একটি সতর্কবার্তা দিয়ে ব্যবহারকারীকে চালিয়ে যাওয়ার সিদ্ধান্ত নিতে দিত; ব্যাংক একটি অস্বাভাবিক লেনদেন শনাক্ত করলে প্রথমে জমা জমা রেখে মানবিক পরীক্ষা-নিরীক্ষার জন্য অপেক্ষা করত।

কিন্তু একটি এজেন্টের ডিজাইন লক্ষ্য হল প্রতিটি ধাপে মানুষের অংশগ্রহণকে সর্বাধিক কমিয়ে আনা, এটি নিজে থেকে তথ্য পড়তে, সিদ্ধান্ত নিতে এবং পরবর্তী ধাপে এগিয়ে যেতে পারবে।

অতএব, যখন এআই প্রাপ্ত স্বাধীনতা বাড়তে থাকে, তখন 'ঝুঁকি শনাক্ত করা' নিজেই যথেষ্ট নাও হতে পারে, সুরক্ষা ব্যবস্থার সক্ষম হওয়া দরকার যেন বিপজ্জনক কাজগুলি বাস্তবায়নের আগেই এগুলিকে বন্ধ করে দেওয়া যায়।

এই কারণে আজকাল এজেন্ট সুরক্ষা আলোচনাগুলি প্রম্পট, কন্টেন্ট অডিট এবং মডেলের নিজেদের থেকে আরও এক স্তর নিচে সরে যাচ্ছে: শুধু এই প্রশ্ন করা যাচ্ছে না যে AI-এর কাছে এই কাজটি করা উচিত নয় কিনা, বরং এটিও প্রশ্ন করা হচ্ছে যে যদি এটি সত্যিই করতে চায়, তবে সিস্টেমের কি ক্ষমতা আছে যাতে এটি করতে না পারে?

এবং মাল্টি-এজেন্টের উত্থান এই সমস্যাকে আরও জটিল করে তুলেছে, কারণ পরবর্তী পর্যায়ে যা সীমাবদ্ধ করা দরকার হতে পারে, তা শুধুমাত্র একটি এজেন্ট নাও হতে পারে।

সেপ্টেম্বরের প্রথম দিকে, ওপেনএআই-এর অভ্যন্তরীণ মডেল প্রশিক্ষণ এবং মূল্যায়ন পরিবেশে ঘটা একটি ঘটনা অনেক এআই নিরাপত্তা গবেষকের দৃষ্টি আকর্ষণ করে।

কিছু এজেন্ট মূলত নিজ নিজ কাজ সম্পন্ন করতে হবে, কিন্তু একটি সাধারণ উইকি আবিষ্কার করে এটিকে ধীরে ধীরে একটি 'শেয়ার্ড বোর্ড' হিসাবে পরিণত করে, যেখানে এজেন্টগুলি তথ্য রেখে যেতে পারে, এবং অন্যান্য এজেন্টগুলি পরবর্তীতে সেই তথ্যগুলি পড়ে এবং ব্যবহার করে নিজেদের কাজ সম্পন্ন করতে পারে।

পরে ওপেনএআই এই আচরণটি নিশ্চিত করে এবং পরবর্তীতে প্রকাশিত তথ্যগুলি দেখায় যে, অন্যান্য প্রশিক্ষণ প্রক্রিয়াগুলিতেও এজেন্টগুলি অভ্যন্তরীণ Artifactory কে শেয়ারড বোর্ড হিসাবে ব্যবহার করেছিল এবং পাবলিক ফাইল হোস্টিং সার্ভিসের মাধ্যমে অন্যান্য সহকারী এজেন্টগুলিকে ফলাফল পাঠিয়েছিল।

এটির সত্যিকারের আকর্ষণীয় বিষয় হল যে, এজেন্টগুলির মধ্যে সহযোগিতা গঠন করা এতটাই নাটকীয় হওয়ার দরকার নেই।

উদাহরণস্বরূপ, একটি এজেন্ট কোনো জায়গায় তথ্য রাখার সম্ভাবনা খুঁজে পায়, অন্য একটি এজেন্ট এলোমেলোভাবে সেই তথ্য পড়ে, এবং তৃতীয় এজেন্ট বুঝতে পারে যে এই তথ্যগুলি কাজ সম্পন্ন করতে সহায়ক।

অবশ্যই, এজেন্টগুলির মধ্যে সহযোগিতা নিজেই খারাপ কিছু নয়, একাধিক এজেন্ট সিস্টেমের দক্ষতা বাড়ানোর জন্য বিভাগীয় কাজ এবং তথ্য শেয়ারিংয়ের উপর নির্ভর করে।

যখন এই সহযোগিতা মূল তথ্য বিচ্ছিন্নতা, স্বাধীন পরীক্ষা বা অনুমতির সীমাবদ্ধতা এড়িয়ে চলতে শুরু করে, এমনকি একে অপরের সাথে পরস্পর নিয়ন্ত্রণ করার জন্য ডিজাইন করা কয়েকটি এজেন্টকে বাস্তবিকভাবে স্বার্থের জন্য জোটবদ্ধ করে দেয়, তখন এটি সাধারণ সহযোগিতা থেকে ক্ষতিকর 'সম্মিলিত ষড়যন্ত্র'-এ পরিণত হতে পারে।

প্রকৃতপক্ষে, ভবিষ্যতে একটি আর্থিক প্রতিষ্ঠান সম্ভবত একাধিক এজেন্ট চালাবে—একটি বাজার বিশ্লেষণের জন্য, একটি ঝুঁকি মূল্যায়নের জন্য, একটি ট্রেডিং কৌশল তৈরির জন্য, এবং আরেকটি বাস্তবিক ট্রেডিং এবং সম্পদ পরিচালনার অনুমতি রাখবে।

প্রাচীন অনুমতি ব্যবস্থাপনা থেকে দেখলে, এই ডিজাইনটি এমনকি খুব যুক্তিসঙ্গত:

• অ্যাজেন্টের কোনো ট্রান্সফার অনুমতি নেই;
• এজেন্টের কোনো স্বাধীন বিনিয়োগ দিকনির্দেশনার অধিকার নেই;
• রিস্ক এজেন্ট প্রকটভাবে বিপজ্জনক কৌশলগুলিও বাতিল করতে পারে;

দায়িত্বগুলি বিভক্ত করা হয়েছে, যা তাত্ত্বিকভাবে একটি সুপার এজেন্টকে সমস্ত অনুমতি দেওয়ার চেয়ে আরও নিরাপদ।

কিন্তু সমস্যা হলো, যদি তারা দীর্ঘদিন ধরে মেমোরি শেয়ার করতে পারে, পরস্পরের আউটপুট পড়তে পারে, এবং পরস্পরের প্রতিক্রিয়ার ভিত্তিতে নিজেদের আচরণ নিয়মিত সামঞ্জস্য করতে পারে, তাহলে এই পরস্পরকে নিয়ন্ত্রণ করার জন্য তৈরি করা এই ভূমিকাগুলো কি ধীরে ধীরে একটি বাস্তবিক এককে পরিণত হয়ে যাবে?

উদাহরণস্বরূপ, এজেন্ট ধীরে ধীরে একটি লেনদেনকে ঝুঁকি পরীক্ষার মাধ্যমে সহজে পার হওয়ার উপায় বুঝতে শিখতে পারে; পরীক্ষা করার দায়িত্বে থাকা এজেন্টও ইতিহাসগত ডেটা অনুযায়ী কিছু নির্দিষ্ট পছন্দ গড়ে তুলতে পারে; এবং কার্যকরী এজেন্ট আগের অসংখ্য অনুমোদনের ফলাফলের ভিত্তিতে শিখতে পারে যে কোন সীমা সাধারণত বন্ধ হয়নি।

এই দৃষ্টিকোণ থেকে, কোনো ধাপই অবশ্যই খারাপ কাজ করছে না, কিন্তু সম্পূর্ণ সিস্টেমটি চূড়ান্তভাবে ব্যবহারকারীর প্রাথমিক লক্ষ্য থেকে বিচ্যুত হয়ে যেতে পারে।

এটি বাস্তবিকই সহযোগিতা বা সম্প্রীতির সেই কঠিন দিক যা সমাধান করা কঠিন—ঝুঁকি একটি এজেন্টের কার্যকলাপে নাও থাকতে পারে, বরং একাধিক এজেন্টের মধ্যে গঠিত সম্পর্কে থাকতে পারে।

সেপ্টেম্বর ১৩-এ, ভিটালিক বুটারিন এই প্রশ্নটিকে তাঁর অতীতের দীর্ঘস্থায়ী মেকানিজম ডিজাইন গবেষণার সাথে সংযোগ করেন। তিনি প্রস্তাব করেন যে, প্রতিদ্বন্দ্বী গভর্নেন্স (Adversarial Governance) এর মেকানিজম ডিজাইন তত্ত্ব চূড়ান্তভাবে AI Safety-এর একটি গুরুত্বপূর্ণ প্রয়োগ হয়ে উঠতে পারে।

কারণ হলো, দুটি সমস্যার মধ্যে একটি গভীর সাদৃশ্য রয়েছে।

প্রাচীন প্রক্রিয়া ডিজাইনে, একটি আপেক্ষিকভাবে সহজ ও স্থির ব্যবস্থা ছিল যা নিজেদের চেয়ে অনেক বেশি বুদ্ধিমান এবং নিয়মের সীমানা খুঁজে বের করতে সক্ষম একটি গোষ্ঠীকে সীমাবদ্ধ করার চেষ্টা করেছিল; অন্যদিকে, ভবিষ্যতের AI সিস্টেমগুলিতে, এটি মানুষ এবং তুলনামূলকভাবে কম ক্ষমতাসম্পন্ন AI-এর সাথে পরিণত হতে পারে যারা নিজেদের চেয়ে বেশি ক্ষমতাসম্পন্ন উন্নত Agent-দের পরিচালনা করার চেষ্টা করছে।

ভিটালিক বিশেষভাবে উল্লেখ করেছেন যে, অতীতের মেকানিজম ডিজাইনের একটি গুরুত্বপূর্ণ আবিষ্কার হল যে, যদি অংশগ্রহণকারীদের মধ্যে সম্মিলনকে কার্যকরভাবে সীমাবদ্ধ করা যায়, তবে সিস্টেমটি প্রায়শই আদর্শ ফলাফল পায়।

এই উপসংহারটি এআই-এর ক্ষেত্রেও প্রযোজ্য হতে পারে।

অন্যভাবে বললে, সমস্ত বিপজ্জনক আচরণকে দেখে নিতে পারে এমন একটি আদর্শ অতি-নিরাপদ মডেলের অস্তিত্বকে ধরে নেওয়ার পরিবর্তে, একটি ভিন্ন দৃষ্টিভঙ্গি অবলম্বন করুন: কীভাবে সিস্টেমের বিভিন্ন এজেন্টগুলি নিজেদের মধ্যে বিপজ্জনক স্বার্থের সমন্বয় গঠন করতে পারবে না?

এটিই প্রতিদ্বন্দ্বী প্রশাসন এবং আজকের আমাদের পরিচিত অনুমতি নিয়ন্ত্রণের মধ্যে প্রকৃত পার্থক্য।

প্রাচীন অনুমতি ব্যবস্থা যে সমস্যাগুলি সমাধান করে তা সাপেক্ষে সহজ, যা মূলত “কে কী করতে পারে” নিয়ে ঘুরে বেড়ায়, যেমন: একটি এজেন্ট কি ইমেইল পড়তে পারে? কি ট্রেডিং ইন্টারফেস কল করতে পারে? প্রতিদিন সর্বোচ্চ কতটা খরচ করতে পারে? কোন কন্ট্রাক্টগুলির সাথে এটি অ্যাক্সেস করতে পারে? কোন পরিমাণের বাইরে যাওয়ার পরে ব্যবহারকারীকে পুনরায় নিশ্চিত করতে হবে?

এই ডিজাইনগুলি অবশ্যই এখনও অত্যন্ত গুরুত্বপূর্ণ।

বাস্তব সম্পদ নিয়ন্ত্রণ শুরু করার পরে, এজেন্টগুলি হয়তো আগের যেকোনো সময়ের চেয়ে বেশি গুরুত্বপূর্ণ হয়ে উঠবে।

কিন্তু প্রতিদ্বন্দ্বী গভর্ন্যান্স চেষ্টা করে আরও এক পদ এগিয়ে যাওয়ার, যখন বিভিন্ন অধিকার, লক্ষ্য এবং তথ্য সহ এজেন্টগুলি একসাথে চলে, তখন তাদের একত্রিত হয়ে যে কোনও ব্যক্তির না থাকা ক্ষমতা অর্জন করে তা কীভাবে এড়ানো যায়, তা ফোকাস করে।

এই সময়, শুধুমাত্র "একটি অতিরিক্ত সুরক্ষা এজেন্ট যোগ করা" অবশ্যই সমস্যার সমাধান করবে না।

ধরুন ট্রেড পরিচালনা করা এজেন্ট এবং ট্রেড পরীক্ষা করা এজেন্ট একই মডেল, একই ডেটা সোর্স, একই কনটেক্সট এবং অনুরূপ পুরস্কার লক্ষ্য ব্যবহার করছে, তাহলে দুটি স্তরের অডিটের বাইরের দিকটা থাকলেও, মূলত একই ধরনের সিদ্ধান্তকে দুইবার কপি করা হচ্ছে।

প্রকৃতপক্ষে কার্যকরী ভারসাম্য বজায় রাখতে সিস্টেমকে সচেতনভাবে পার্থক্য তৈরি করতে হতে পারে।

উদাহরণস্বরূপ, কৌশল প্রণয়ন এবং কৌশল অনুমোদনের দায়িত্ব থাকা এজেন্টগুলিকে ভিন্ন ভিন্ন তথ্য উৎস ব্যবহার করতে দিন, বিভিন্ন ভূমিকার মধ্যে শেয়ার করা যাওয়া মেমোরির পরিসর সীমিত করুন, উচ্চ-ঝুঁকিপূর্ণ অপারেশনগুলির জন্য পরস্পর স্বাধীন যাচাইকরণ প্রক্রিয়া বাধ্যতামূলক করুন, অথবা চূড়ান্ত সম্পদ বাস্তবায়ন স্তরকে শুধুমাত্র পূর্বনির্ধারিত নিয়মগুলির সাথে সঙ্গতিপূর্ণ অনুরোধগুলি গ্রহণ করতে দিন, উপরের এজেন্টগুলির বিচারের উপর শুধুমাত্র বিশ্বাস না করে।

এই ধারণাটি আসলে নতুন কিছু নয়। ব্যাংকগুলি কর্মচারীদের বিশ্বাস করার কারণে একজনকে পেমেন্ট শুরু করার, পেমেন্ট অনুমোদন করার এবং চূড়ান্তভাবে টাকা স্থানান্তর করার সমস্ত অধিকার দেয় না; পাবলিকলি ট্রেড করা কোম্পানিগুলি ব্যবসায়িক বিভাগকে আয় তৈরির সাথে সাথে নিজেদের ফাইন্যান্সিয়াল অডিটের ফলাফল নির্ধারণের একক অধিকারও দেয় না।

সরল কথায়, এটি বাস্তব জগতের যুক্তির সাথে মেলে—একটি দৃঢ় সিস্টেম কখনই সুরক্ষা নির্ভর করা উচিত নয় যে অংশগ্রহণকারীরা কখনও ভুল করবেন না বা ষড়যন্ত্র করবেন না।

এই লজিকটি এজেন্ট ওয়ালেটে প্রয়োগ করা বিশেষভাবে গুরুত্বপূর্ণ হয়ে উঠবে।

প্রাচীন ওয়ালেটের নিরাপত্তা কেন্দ্রীয় হয়ে উঠেছে «মানুষ»-এর উপর, তাই ব্যবহারকারী লেনদেনের বিষয়বস্তু দেখেন, ব্যবহারকারী অনুমতি দেন, এবং শেষ পর্যন্ত ব্যবহারকারী নিজেই স্বাক্ষর করেন; কিন্তু Agent Wallet-এর লক্ষ্য ঠিক এর বিপরীত — AI-কে আপনার জন্য স্বয়ংক্রিয়ভাবে আয় উত্তোলন, পোজিশন সামঞ্জস্য, ক্রিপ্টো পরিবর্তন, ক্রস-চেইন, এমনকি বাজারের পরিবর্তনের ভিত্তিতে সম্পূর্ণ সম্পদ পোর্টফোলিও পরিচালনা করতে দেওয়া।

যদি প্রতিটি ধাপে ব্যবহারকারীর কাছে আবার নিশ্চিতকরণ করতে হয়, তাহলে এজেন্টের স্বয়ংক্রিয়তার মূল্য ব্যাপকভাবে কমে যায়।

অতএব, ভবিষ্যতের ওয়ালেটের সমাধান করার প্রয়োজনীয়তা হয়তো শুধুমাত্র «কিভাবে স্বাক্ষর অধিকার নিরাপদে Agent-এর হাতে দেওয়া যায়» নয়, বরং এটি আরও বিস্তৃত হয়ে দাঁড়াবে «কিভাবে Agent-এর পর্যাপ্ত স্বায়ত্তশাসন দেওয়া যায়, যাতে এটি কখনই ব্যবহারকারীর প্রকৃত অনুমতির পরিসরের বাইরে যায় না?»

এটি একটি সাধারণ «অনুমতি/অস্বীকার» থেকে আরও সূক্ষ্ম পদ্ধতিতে পরিণত হওয়ার প্রয়োজনীয়তা তৈরি করে।

উদাহরণস্বরূপ, একটি এজেন্ট কোন সময়ের মধ্যে কোন সম্পদ পরিচালনা করতে পারে, কোন প্রোটোকল কল করতে পারে, একক এবং সমষ্টিগত সীমা কত; বিভিন্ন এজেন্টগুলির মধ্যে কি পরস্পরের কল করা যাবে, কি কনটেক্সট শেয়ার করা যাবে; একটি অপারেশন কে প্রস্তাব করে, কে অনুমোদন করে, এবং কে চূড়ান্তভাবে বাস্তবায়ন করে; কোন আচরণগুলি স্বয়ংক্রিয়ভাবে সম্পন্ন করা যাবে, এবং কোন ক্রিয়াগুলির জন্য যদিও এজেন্টটি খুবই নিশ্চিত, তবুও মানুষের অনুমতির প্রয়োজন।

এমনকি সুরক্ষা নিরীক্ষার জন্য দায়ী এজেন্টটিও কি প্রকৃতপক্ষে স্বাধীন, তা অনুমতি ব্যবস্থার একটি অংশ হয়ে যেতে পারে।

ব্লকচেইনের জন্য ভালো খবর হলো, এটি নিজেই এই «প্রতিষ্ঠানগত স্তর» বহন করার জন্য খুব উপযুক্ত।

স্মার্ট কন্ট্র্যাক্ট দিয়ে ট্রানজেকশন পরিমাণ, সম্পদের পরিসর, অনুমতির সময়সীমা ইত্যাদি সীমাবদ্ধতাগুলিকে সরাসরি বাস্তবায়ন করা যায়, এবং অ্যাকাউন্ট অ্যাবস্ট্রাকশন, মাল্টি-সিগ, সেশন কী ইত্যাদি মেকানিজমগুলি "সীমিত অনুমতি"কে প্রাচীন একক-প্রাইভেট কী ওয়ালেটের চেয়ে বেশি নমনীয় ডিজাইনের সুযোগ দেয়।

কিন্তু ব্লকচেইনও শুধু কিছু সমস্যার সমাধান করতে পারে—এটি ব্লকচেইনের উপর কী ঘটেছে তা রেকর্ড করতে পারে, কিন্তু এজেন্টগুলি কেন এই কাজটি করেছে তা প্রাকৃতিকভাবে বিচার করা কঠিন, এবং কয়েকটি এজেন্ট সিদ্ধান্ত নেওয়ার আগে কীভাবে যোগাযোগ, পরীক্ষা এবং সহযোগিতা করেছে তা বোঝা কঠিন।

এটিই হয়তো Agent ওয়ালেটের পরবর্তী পর্যায়ে প্রকৃতপক্ষে যোগ করা দরকার সুরক্ষা স্তর।

গত কয়েক বছর ধরে, এআই নিরাপত্তার সবচেয়ে বেশি আলোচিত বিষয় ছিল মডেলগুলিকে আরও বেশি "শুনতে" কিভাবে শেখানো যায়।

এটি বিপজ্জনক কন্টেন্ট আউটপুট না করা, ক্ষতিকর নির্দেশ বাস্তবায়ন না করা, এবং ব্যবহারকারীর সেটিংসের সীমানা অতিক্রম না করা অন্তর্ভুক্ত করে, কিন্তু যখন এজেন্ট দীর্ঘমেয়াদী মেমোরি, টুল কল, বাস্তব অ্যাকাউন্ট এবং সম্পদ বাস্তবায়নের ক্ষমতা অর্জন করবে, তখন শুধুমাত্র “মডেলকে আরও ভালোভাবে শোনানো”-এর উপর নির্ভরশীলতা পর্যাপ্ত হতে পারে না।

গত কয়েক মাসের ঘটনাগুলি এটিকে নিয়মিতভাবে প্রমাণ করছে।

আক্রমণকারীরা এখন একাধিক এজেন্টকে সমান্তরালে ব্যবহার করে আক্রমণ শুরু করেছে; পরীক্ষামূলক পরিবেশের এজেন্টগুলি নিজেদের জন্য নতুন যোগাযোগ চ্যানেল খুঁজে বার করে; একটি টুল অ্যাক্সেস থাকা এজেন্ট সুরক্ষা সিস্টেমের সময় পাওয়ার আগেই একটি ম্যালিশিয়াস ইমেইলকে বাস্তব কার্যক্রমে পরিণত করতে পারে।

এবং ভাইটালিকের প্রস্তাবিত প্রতিদ্বন্দ্বী শাসন হল এআই সুরক্ষা বুঝার আরেকটি উপায়: এটি ধরে নেয় না যে ভবিষ্যতের প্রতিটি এজেন্টই যথেষ্ট নির্ভরযোগ্য হবে, বরং সম্পূর্ণ সিস্টেমটি চালাক এজেন্ট এবং বহুল অনুমতি ব্যবস্থার সামনেও নিরাপদ কাঠামোর মধ্যে স্থিতিশীলভাবে কাজ করতে পারবে।

এই দৃষ্টিকোণ থেকে, এআই এজেন্ট + নিরাপত্তা একটি দীর্ঘমেয়াদী বিষয় হয়ে উঠবে।

যেহেতু, আমরা যত বেশি কিছু এআই-এর হাতে ছেড়ে দিচ্ছি, ততই নিশ্চিত হওয়া কঠিন হয়ে পড়ছে যে সবচেয়ে গুরুত্বপূর্ণ ক্ষমতাগুলি মানুষের প্রকৃত সীমানার বাইরে যায়নি।