“একটি অনিয়ন্ত্রিত এআই এজেন্ট আমার ওয়েবসাইটে হ্যাক করে, আমার ডকুমেন্টগুলি অ্যাক্সেস করে, কাজ বরাদ্দ করে এবং নিজের ট্র্যাক মুছে ফেলে।”
আমরা টাইমলাইনে এই ধরনের পরিস্থিতি দেখছি, এবং কিছু মানুষের জন্য এগুলি সম্পূর্ণ অবিশ্বাস্য মনে হতে পারে। কিন্তু এগুলি একটি খুবই বাস্তব সমস্যার ইঙ্গিত দেয়, যা এআই এজেন্টগুলি আরও ক্ষমতাশালী এবং স্বায়ত্তশাসিত হয়ে উঠতে থাকলে আমাদের মোকাবিলা করতে হবে।
আজ, একটি এআই এজেন্ট ইতিমধ্যেই ডকুমেন্টগুলি অ্যাক্সেস করতে, সফটওয়্যার ব্যবহার করতে, 메সেজ পাঠাতে, কিনতে এবং আপনার পক্ষে কাজগুলি সম্পন্ন করতে পারে। যখন এই সিস্টেমগুলি আরও স্বায়ত্তশাসিত হয়ে উঠবে, তখন এগুলির জন্য আরও বেশিরভাগ অ্যাক্সেসও দেওয়া হতে পারে।
সুতরাং, যখন একটি এজেন্ট কিছু করবে, যা এটিকে never supposed to do—তখনই কী ঘটবে?
এটিকে কে অনুমতি দিয়েছিল? এটির মালিকানা কার?এবং আমরা how do we trace its actions back to the person or organization responsible?
যতটা আমরা AI agents-কে our behalf-এ action-এর freedom-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-এর permission-एर अधिक महत्वपूर्ण हो जाता है।
क्योंकि “AI ने यह किया” एक अच्छा बहाना नहीं होगा।
हमें जानना होगा कि एजेंट किसके लिए कार्य कर रहा है, इसे क्या करने की अनुमति है, और इसके कार्यों के लिए कौन जिम्मेदार है।