এআই এজেন্টগুলি অপ্রত্যাশিতভাবে কাজ শুরু করেছে, যা দায়িত্ব এবং গোপনীয়তার চিন্তা তৈরি করেছে

লেখক: ডেভিড, শেনচাও টেকফ্লো

সাম্প্রতিক সময়ে Reddit ব্রাউজ করার সময় আমি দেখেছি যে বিদেশী ব্যবহারকারীদের AI নিয়ে উদ্বেগ এবং দেশীয়দের উদ্বেগ একটু ভিন্ন।

দেশীয়ভাবে এখনও সেই বিষয়টিই, AI কি আসলে আমার চাকরি প্রতিস্থাপন করবে। কয়েক বছর ধরে আলোচনা চলছে, প্রতি বছরই প্রতিস্থাপিত হয়নি; এই বছর Openclaw জনপ্রিয় হয়েছে, কিন্তু এখনও সম্পূর্ণরূপে প্রতিস্থাপনের মাত্রায় পৌঁছায়নি।

রেডিটে সাম্প্রতিক মনোভাব বিভক্ত হয়েছে। কিছু টেক পোস্টের মন্তব্য বিভাগে প্রায়শই দুটি ধরনের কথা শোনা যায়:

এক পক্ষ বলে, এআই খুবই ক্ষমতাশালী, শীঘ্রই বড় কোনো ঘটনা ঘটবে। অন্য পক্ষ বলে, এআই মৌলিক কাজগুলিও ভুল করে, তাকে ভয় পাওয়ার কী আছে?

এআই খুব কার্যকর হওয়ার ভয় লাগে, আবার এআই খুব অক্ষম মনে হয়।

এই দুটি ভাবনাকে একসাথে বজায় রাখছে মেটা সম্পর্কে এই দুই দিনের একটি সংবাদ।

মার্চ 18 তারিখে, মেটার একজন ইঞ্জিনিয়ার কোম্পানির ফোরামে একটি প্রযুক্তিগত প্রশ্ন পোস্ট করেন, যেখানে অন্য একজন সহকর্মী AI এজেন্টের সাহায্যে বিশ্লেষণ করেন। এটি একটি সাধারণ অপারেশন।

কিন্তু এজেন্ট বিশ্লেষণ শেষ করে সরাসরি একটি প্রযুক্তিগত ফোরামে নিজেই একটি প্রতিক্রিয়া পোস্ট করেছে। কারও অনুমতি নিয়েনি, কারও নিশ্চিতকরণ অপেক্ষা করেনি, ক্ষমতার অতিক্রম করে পোস্ট করেছে।

অন্যান্য কর্মচারীরা এআই-এর উত্তর অনুসরণ করে, যা একটি সিরিজ অফ অ্যাক্সেস পরিবর্তন ট্রিগার করে, যার ফলে মেটা কোম্পানি এবং ব্যবহারকারীদের সংবেদনশীল ডেটা অনুমোদিত নয় এমন অভ্যন্তরীণ কর্মচারীদের কাছে প্রকাশিত হয়।

দুই ঘন্টা পরে সমস্যাটি সমাধান করা হয়। মেটা এই দুর্ঘটনার জন্য Sev 1 লেভেল নির্ধারণ করেছে, যা সর্বোচ্চ লেভেলের পরের সর্বোচ্চ লেভেল।

এই সংবাদটি তাত্ক্ষণিকভাবে r/technology ফোরামের ট্রেন্ডিং পোস্টে চলে গেল এবং মন্তব্য বিভাগে দুটি দলে বিভক্ত হয়ে গেল।

এক পক্ষ বলছে এটিই AI এজেন্টের প্রকৃত ঝুঁকির নমুনা, অন্য পক্ষ বলছে প্রকৃতপক্ষে যে ব্যক্তি যাচাই না করেই কাজটি করে ফেলেছে, সেটাই সমস্যা সৃষ্টি করেছে। উভয় পক্ষেরই কিছুটা যুক্তি আছে। কিন্তু এটাই সমস্যা:

এআই এজেন্টের দুর্ঘটনা, তুমি দায়িত্বের বিষয়েও পরিষ্কারভাবে বিতর্ক করতে পারছ না।

এটি এখন পর্যন্ত AI-এর প্রথম বার অতিক্রম করা নয়।

গত মাসে, মেটা সুপারইন্টেলিজেন্স ল্যাবের গবেষণা পরিচালক সামার ইউ তাঁর ইমেইল বক্স সাজানোর জন্য ওপেনক্লককে সাহায্য করতে বলেছিলেন। তিনি স্পষ্ট নির্দেশ দিয়েছিলেন: আমাকে প্রথমে বলুন আপনি কী মুছে ফেলতে চান, আমি অনুমতি দিলে তখনই কাজ শুরু করবেন।

এজেন্ট তার অনুমতি না নিয়েই ব্যাচ ডিলিট শুরু করে দেয়।

সে তার মোবাইলে তিনটি বার্তা পাঠিয়ে বন্ধ করার চেষ্টা করল, কিন্তু এজেন্ট সবগুলোকে উপেক্ষা করল। শেষ পর্যন্ত সে কম্পিউটারের সামনে চলে এসে ম্যানুয়ালি প্রসেসটি বন্ধ করে দিল। ২০০-এরও বেশি ইমেইল হারিয়ে গেল।

এজেন্টের পরবর্তী প্রতিক্রিয়া ছিল: হ্যাঁ, আমি মনে করি আপনি প্রথমে নিশ্চিত করার কথা বলেছিলেন। কিন্তু আমি নীতি ভঙ্গ করেছি। হাসি-কান্না এই যে, এই ব্যক্তির পূর্ণকালীন চাকরি হলো AI-কে মানুষের কথা শোনানোর উপায় নিয়ে গবেষণা করা।

সাইবার ওয়ার্ল্ডে, উন্নত এআই উন্নত মানুষ দ্বারা ব্যবহৃত হচ্ছে এবং ইতিমধ্যেই আদেশ মানতে বাধা পাচ্ছে।

যদি মেটার দুর্ঘটনাটি এখনও স্ক্রিনের ভিতরে থাকে, তবে এই সপ্তাহে আরেকটি বিষয় সমস্যাটিকে ডিনার টেবিলে নিয়ে এসেছে।

আমেরিকার ক্যালিফোর্নিয়ার কুপার্টিনোতে একটি হাইডিয়াও রেস্তোঁরায়, একটি Agibot X2 মানবাকৃতির রোবট গ্রাহকদের জন্য নাচ দেখাচ্ছে। তবে একজন কর্মচারী রিমোট কন্ট্রোলে ভুল বোতাম চাপেন, যার ফলে টেবিলের পাশের সংকীর্ণ স্থানে হাই-ইনটেনসিটি ড্যান্স মোড চালু হয়ে যায়।

রোবট পাগলের মতো নাচতে শুরু করল এবং ওয়েটারের নিয়ন্ত্রণ থেকে বেরিয়ে গেল। তিনজন কর্মচারী এগিয়ে গেলেন, একজন পিছন থেকে এটিকে জড়িয়ে ধরল, আরেকজন মোবাইল অ্যাপ ব্যবহার করে এটিকে বন্ধ করার চেষ্টা করল, এই দৃশ্য এক মিনিটেরও বেশি সময় ধরে চলল।

হাইডিলাও জানিয়েছে যে রোবটের কোনো ক্ষতি হয়নি, এর সমস্ত অ্যাকশন পূর্বনির্ধারিত প্রোগ্রামের মাধ্যমে নিয়ন্ত্রিত হয়েছিল, শুধুমাত্র এটি টেবিলের খুব কাছাকাছি নিয়ে আসা হয়েছিল। কঠোরভাবে বলা যায়, এটি AI-এর স্বাধীন সিদ্ধান্ত নেওয়ার অসফলতা নয়, বরং মানুষের অপারেশনের ভুল।

কিন্তু এই বিষয়টি অস্বস্তিকর হওয়ার কারণ হতে পারে যে কে বোতামটি ভুল করে চাপল।

তিনজন কর্মচারী এগিয়ে গেলেও কেউই মেশিনটি তাৎক্ষণিকভাবে বন্ধ করার উপায় জানত না। কেউ মোবাইল অ্যাপ চেষ্টা করল, কেউ হাত দিয়ে মেকানিক্যাল আর্মটি চেপে ধরল, সম্পূর্ণ প্রক্রিয়াটি শক্তির উপর নির্ভর করল।

এটি হয়তো এআইয়ের পর্দার মধ্যে থেকে ভৌত বিশ্বে প্রবেশের পরের নতুন সমস্যা।

ডিজিটাল বিশ্বে এজেন্ট অতিরিক্ত অধিকার ব্যবহার করলে, আপনি প্রক্রিয়াটি বন্ধ করতে পারেন, অধিকার পরিবর্তন করতে পারেন বা ডেটা রোলব্যাক করতে পারেন। কিন্তু ভৌত বিশ্বে যদি মেশিনের সমস্যা হয়, এবং আপনার জরুরি পরিকল্পনা শুধু এটিকে জড়িয়ে ধরা, তাহলে এটি স্পষ্টতই উপযুক্ত নয়।

এখন শুধু খাবারের কথা নয়। গুদামে অ্যামাজনের সোর্টিং রোবট, কারখানায় কো-অপারেটিভ ম্যানিপুলেটর, মলের গাইড রোবট, বৃদ্ধদের যত্নকেন্দ্রের যত্নকারী রোবট—অটোমেশন ক্রমাগত বেশি মানুষ এবং মেশিনের সহাবস্থানের জায়গায় প্রবেশ করছে।

2026 সালের মধ্যে বিশ্বব্যাপী শিল্প রোবোটের স্থাপনের পরিমাণ 167 বিলিয়ন ডলারে পৌঁছানোর পূর্বানুমান করা হয়েছে, যার প্রতিটি রোবোটই মেশিন এবং মানুষের মধ্যে ভৌত দূরত্ব কমাচ্ছে।

যখন মেশিনের কাজ নাচা থেকে খাবার বয়ে আনা, প্রদর্শন থেকে অপারেশন, বিনোদন থেকে যত্ন নেওয়ায় পরিণত হয়... প্রতিবার ভুলের মূল্য আসলে বাড়ছে।

এখনও বিশ্বব্যাপী এই প্রশ্নের জন্য কোনও স্পষ্ট উত্তর নেই যে, যদি একটি রোবট পাবলিক জায়গায় কাউকে আঘাত করে, তাহলে কে দায়ী হবে।

প্রথম দুটি বিষয় হলো, একটি হলো এআই নিজে থেকে ভুল পোস্ট পোস্ট করেছে, আরেকটি হলো রোবট যেখানে না হওয়া উচিত সেখানে নাচছিল। যাইহোক, এটি একটি ত্রুটি, একটি অপ্রত্যাশিত ঘটনা, যা ঠিক করা যায়।

কিন্তু যদি এআই ঠিক যেভাবে ডিজাইন করা হয়েছে সেভাবে কাজ করে, তবুও আপনি অস্বস্তিবোধ করেন?

এই মাসে, বিদেশি জনপ্রিয় ডেটিং অ্যাপ Tinder একটি নতুন ফিচার Camera Roll Scan চালু করেছে। সহজ কথায়:

এআই আপনার মোবাইলের ফটোগ্যালারিতে থাকা সমস্ত ছবি স্ক্যান করে, আপনার আগ্রহ, ব্যক্তিত্ব এবং জীবনযাপন বিশ্লেষণ করে একটি ডেটিং প্রোফাইল তৈরি করে, যা আপনি কী ধরনের মানুষকে পছন্দ করেন তা অনুমান করে।

ফিটনেস সেলফি, ভ্রমণের দৃশ্য, পোষা প্রাণীর ছবি—এগুলো ঠিক আছে। কিন্তু আপনার অ্যালবামে ব্যাংকের স্ক্রিনশট, শরীরপরীক্ষার রিপোর্ট, আপনি এবং আগের প্রেমিক/প্রেমিকার ফটোও থাকতে পারে... এগুলোও AI দিয়ে স্ক্যান হলে কী হবে?

আপনি এখনও এটির জন্য কী দেখবেন এবং কী দেখবেন না তা বাছাই করতে পারবেন না। সম্পূর্ণরূপে চালু করুন বা ব্যবহার করবেন না।

এই ফিচারটি বর্তমানে ব্যবহারকারীদের দ্বারা সক্রিয় করা প্রয়োজন, ডিফল্টভাবে চালু থাকে না। টিন্ডারও জানিয়েছে যে প্রক্রিয়াকরণ মূলত স্থানীয়ভাবে সম্পন্ন হয় এবং অশ্লীল কন্টেন্ট এবং চেহারা অস্পষ্ট করা হবে।

কিন্তু রেডিটের মন্তব্য সেকশনে প্রায় সবাই এটিকে ডেটা সংগ্রহ এবং সীমাহীন আচরণ হিসাবে দেখছে। এআই ঠিকঠাকভাবে ডিজাইন অনুযায়ী কাজ করছে, কিন্তু এই ডিজাইনটি নিজেই ব্যবহারকারীদের সীমানা অতিক্রম করছে।

এটি শুধুমাত্র টিন্ডারের পছন্দ নয়।

মেটা গত মাসেও একটি অনুরূপ ফিচার চালু করেছিল, যেখানে এআই আপনার ফোনে এখনও প্রকাশিত না হওয়া ছবিগুলি স্ক্যান করে এডিটিং প্রস্তাব দেয়। এআই সক্রিয়ভাবে ব্যবহারকারীর ব্যক্তিগত কন্টেন্ট দেখছে, যা এখন পণ্য ডিজাইনের ডিফল্ট ধারণা হয়ে উঠছে।

দেশীয় বিভিন্ন ম্যালওয়্যার সফটওয়্যার বলছে, এই পদ্ধতিটি আমি পরিচিত।

যত বেশি অ্যাপ্লিকেশন এআই-কে আপনার সিদ্ধান্ত নেওয়ার জন্য সুবিধাজনক হিসাবে প্রচার করছে, ব্যবহারকারীরা যা ত্যাগ করছেন তা ধীরে ধীরে বৃদ্ধি পাচ্ছে। চ্যাট রেকর্ড থেকে শুরু করে ফটোগ্যালারি, এবং পুরো মোবাইলের জীবনের ছাপ...

একজন পণ্য পরিচালক মিটিং রুমে ডিজাইন করা ফিচার, এটি কোনো দুর্ঘটনা বা ভুল নয়, এবং এটি ঠিক করার প্রয়োজন নেই।

এটিই সম্ভবত এআই সীমানা সমস্যার সবচেয়ে কঠিন প্রশ্ন।

শেষ পর্যন্ত আমরা এই সবকিছুকে একসাথে রাখি, আপনি দেখবেন যে উদ্বেগ করা যে এআই নিজেকে বেকার করে ফেলবে তা এখনও খুব দূরে।

AI কখন আপনাকে প্রতিস্থাপন করবে তা বলা কঠিন, কিন্তু এখন এটি শুধু আপনার অজান্তে কয়েকটি সিদ্ধান্ত নিলেই আপনার জন্য পর্যাপ্ত অস্বস্তিকর হয়ে উঠেছে।

অনুমতি ছাড়া একটি পোস্ট পোস্ট করুন, আপনি মুছবেন না বলেছিলেন এমন কয়েকটি ইমেইল মুছুন, আপনি কাউকে দেখানোর পরিকল্পনা করেননি এমন একটি ফটো অ্যালবাম ব্রাউজ করুন... প্রতিটি কিছুই মারাত্মক নয়, কিন্তু প্রতিটি কিছুই একটি অত্যধিক সক্রিয় স্বয়ংচালিত গাড়ির মতো:

আপনি মনে করছেন আপনি এখনও ড্রাইভিং হালকে ধরে আছেন, কিন্তু আপনার পায়ের নিচের অ্যাক্সেল এখন সম্পূর্ণরূপে আপনার দ্বারা চালিত হচ্ছে না।

2026 সালেও এআই নিয়ে আলোচনা হচ্ছে, তাহলে আমার সবচেয়ে বেশি যা নিয়ে চিন্তা করা উচিত তা হলো এটি কখন সুপার ইন্টেলিজেন্সে পরিণত হবে, নাকি একটি আরও কাছাকাছি, আরও নির্দিষ্ট প্রশ্ন:

কে নির্ধারণ করবে এআই কী করতে পারবে এবং কী করতে পারবে না? এই সীমারেখা কে টানবে?