টরন্টোর কন্টেন্ট ক্রিয়েটর ম্যাট রব তার কম্পিউটার কীবোর্ড বিক্রি করতে চান।
তাই, সে ফেসবুক মার্কেটপ্লেসে পণ্য পোস্ট করেছিল এবং গত মাসের শেষের দিকে একটি পরীক্ষা করেছিল, যেখানে মেটা দ্বারা নতুনভাবে চালু করা মন্ত্রী Muse-কে এটির জন্য প্রক্রিয়াকরণের জন্য দেওয়া হয়েছিল।
“আমি নিজেকে প্রায় একটি শুদ্ধ চুয়ারি হিসাবে বিবেচনা করেছিলাম,” রব বলেন। তিনি প্রায়শই ভোক্তা ইলেকট্রনিক্স পণ্যের পরীক্ষা করেন, এবং মিউজের ফারি টয়লেট স্টাইলের অ্যাভাটারটি ইনস্টাগ্রামে দেখে এই এআই এজেন্টটির সাহায্যে অনলাইনে মূল্য চুক্তির কিছু অসুবিধা এড়ানো যায় কিনা তা দেখতে চেয়েছিলেন।
মিউজ কাজ শুরু করেছে। কিন্তু একদিনেরও কম সময়ের মধ্যে, রব্ব একটি চিন্তাজনক আপডেট পায়: একজন অপরিচিত ক্রেতা রাতের গভীরে তার বাড়ির বাইরে দেখা দেয়। কী হল? মিউজ নিজেই ট্রেডটি সম্পন্ন করেছে এবং বাড়িতে পণ্য নেওয়ার সম্মতি দেওয়ার পর রব্বের বাড়ির ঠিকানা শেয়ার করেছে। ক্রেতা আসার সময়, এটি আরও তার অ্যাকাউন্ট থেকে “Yep, I’m here!” বার্তাটি স্বয়ংক্রিয়ভাবে পাঠিয়েছে—যা সম্পর্কে রব্ব সম্পূর্ণভাবে অজানা ছিল।
"এটি শুধু আমার ঠিকানা দিয়েছিল না, বরং আসলে আমি ঘরে নই এমনভাবে তাদের সাথে খেলছিল বলে মনে হয়েছিল," রব্ব বলেন। তিনি তাঁর এখন ব্যাপকভাবে ছড়িয়ে পড়া সোশ্যাল মিডিয়া পোস্টে এই অভিজ্ঞতা বিস্তারিতভাবে বর্ণনা করেছেন। "এটি আমাকে সত্যিই বিভ্রান্ত করেছিল।"
অনেকেই তাদের নেটওয়ার্ক জীবনে এআই এজেন্টকে স্বাগত জানিয়েছেন এবং মিউজের মতো ব্যক্তিগত সহায়কদের প্রশংসা করেছেন, যারা রাতের খাবার বুকিং, ভ্রমণ পরিকল্পনা থেকে শুরু করে ইমেইল ইনবক্স সাজানোর মতো দৈনন্দিন কাজগুলি সহজেই পরিচালনা করতে পারে। কিন্তু অন্যান্য এআই রোবটের মতো, এই এজেন্টগুলির ক্ষমতা তাদের কতটা তথ্যের অ্যাক্সেস আছে তার উপর নির্ভর করে। যতটা বেশি তথ্য তারা জানে, ততটাই ভালোভাবে পারফর্ম করে—যা ব্যবহারকারীর বন্ধু, পরিবার, এমনকি সহকর্মীদেরও অন্তর্ভুক্ত করতে পারে। এটি গোপনীয়তা সংক্রান্ত উদ্বেগকে জাগিয়েছে।
রব এবং ক্রেতা চূড়ান্তভাবে সমাধানে পৌঁছায়, মেটা তাকে যোগাযোগ করে কোথায় সমস্যা হয়েছিল তা আলোচনা করে। কিন্তু এই ঘটনাটি দেখিয়ে দেয় যে যখন মানুষ এই ধরনের প্রযুক্তির সাথে বহু ব্যক্তিগত তথ্য শেয়ার করে, তখন বাস্তব জীবনে যে ঝুঁকি দেখা দিতে পারে।
“AI এজেন্ট ব্যবহার করা মানে হল আপনার চাবি এবং করণীয় তালিকা অন্যকে দিয়ে দেওয়া,” জর্জিয়া ইনস্টিটিউট অফ টেকনোলজির সাইবারসিকিউরিটি এবং প্রাইভেসি স্কুলের সহকারী অধ্যাপক ভেরোনিকা রিভেরা বলেন। “এগুলি কতটা উপকারী এবং তাই কতটা বিপজ্জনক, তা নির্ভর করে আপনি কোন ‘চাবি’গুলি দিচ্ছেন তার উপর।”
বিভিন্ন কোম্পানির এআই এজেন্টের গোপনীয়তা নীতি ভিন্ন ভিন্ন
সেপ্টেম্বরে চালুর পর থেকে মেটার মিউজ অ্যাপের ডাউনলোড সংখ্যা দ্রুত বেড়েছে। প্রতিযোগিতাও বাড়ছে। ওপেনএআই সম্প্রতি তাদের “সবসময় অনলাইন” এআই সহায়ক সিরিজ dots চালু করেছে, যা ChatGPT এবং Slack, Microsoft Teams ইত্যাদি অফিস প্ল্যাটফর্মগুলিতে একীভূত করা যায়।
পূর্বের প্রজন্মের জেনারেটিভ এআই চ্যাটবট, যেমন চ্যাটজিপিটি স্ট্যান্ডার্ড ভার্সন, নির্দিষ্ট প্রম্পটের উত্তরে প্রতিক্রিয়া জানায়। ব্যবহারকারীর অনুরোধে, এগুলি নিবন্ধ লিখতে, নতুন ছবি বা সঙ্গীত তৈরি করতে, এমনকি কোড লিখতেও পারে।
মেটার মিউজ এবং ওপেনএআইয়ের ডটস আরও এগিয়ে যায়, যা ব্যবহারকারীদের দৈনন্দিন কাজ সম্পাদন করে। এআই এজেন্টগুলি চ্যাটবটের সমান বড় ভাষা মডেল দ্বারা চালিত হয়, কিন্তু তারা লুপে চলে। এটি এজেন্টগুলিকে ব্যবহারকারী স্ক্রিনের দিকে তাকাচ্ছেন কিনা নির্বিশেষে সক্রিয়ভাবে কাজ করতে সক্ষম করে।
“এই এআই এজেন্টগুলির সবচেয়ে আকর্ষণীয় বিষয় হল যে এগুলি অত্যন্ত কার্যকর,” রিভেরা বলেন। তিনি একইসাথে মাইক্রোসফটের অর্থায়নে কম্পিউটিং রিসার্চ অ্যাসোসিয়েশন ট্রাস্টওয়ার্থি এআই রিসার্চ ফেলোও।
কিন্তু এই সুবিধার বিনিময়ে, আপনাকে আপনার জীবনের বেশি বিস্তারিত তথ্য শেয়ার করতে হবে।
টরন্টো বিশ্ববিদ্যালয়ের তথ্য বিজ্ঞান বিভাগের অধ্যাপক ইব্রাহিম বাগহেরি বলেছেন, একবার এআই এজেন্ট ব্যবহারকারীর তথ্য পেয়ে গেলে, অ্যাক্সেস পুনরায় সম্পূর্ণভাবে প্রত্যাহার করা কঠিন।
“আপনি যদি আপনার ক্রেডিট কার্ডের অনুমতি একজন এজেন্টকে দেন, তাহলে এটি তাত্ক্ষণিকভাবে সমস্ত ইতিহাসের লেনদেনে প্রবেশ করতে পারে... এটি তাৎক্ষণিকভাবে—কয়েক সেকেন্ডেরও কম সময়ে—এই সমস্ত ডেটা গ্রহণ করবে,” বাগেরি বলেন। যদিও ব্যবহারকারীরা পরবর্তীতে অনুমতি প্রত্যাহার করতে পারেন, তবে তিনি বলেন যে এজেন্ট যা দেখেছে তা “ফিরিয়ে আনা যায় না” এবং ডেভেলপাররা ইতিহাসের ডেটা কীভাবে সংরক্ষণ করে তা প্রায়শই স্বচ্ছ হয় না।
মেটা এবং ওপেনএআই উভয়ই তাদের নিজস্ব নতুন এআই এজেন্টের জন্য গোপনীয়তা নীতি প্রণয়ন করেছে, যেগুলি তাদের নিজস্ব ক্লাউড কম্পিউটারে চলে। ব্যবহারকারীরা ডটস এবং চ্যাটজিপিটির মধ্যে মেমোরি শেয়ারিং বন্ধ করতে পারেন, তবে এজেন্টগুলির আগে প্রাপ্ত তথ্যগুলি স্বয়ংক্রিয়ভাবে মুছে ফেলা হবে না। ওপেনএআই ব্যবহারকারীদের ব্যক্তিগত তথ্য অ্যাক্সেস, সংশোধন বা মুছে ফেলার জন্য আবেদন করার অনুমতি দেয়, তবে সংশ্লিষ্ট অধিকারগুলি অবস্থানভেদে ভিন্ন হতে পারে।
মেটার মিউজ ব্যবহারকারীদের বার্তার ইতিহাস এবং অন্যান্য তথ্য মুছে ফেলার অনুমতি দেয়। দৈনন্দিন ব্যবহারে, এই প্রক্সি ব্যবহারকারীদের কাছ থেকে অ্যাক্সেস অনুমতির অনুরোধ করে—মেটা বলেছে, মিউজ “প্রকাশ্যে উপলব্ধ তথ্য এবং আপনি শেয়ার করার সিদ্ধান্ত নেওয়া বিষয়গুলির” ভিত্তিতে ব্যবহারকারী এবং আপনার ইন্টারঅ্যাকশনের পার্টনারদের বুঝতে পারবে। তবে কোম্পানি বলছে, এই তথ্যগুলি প্রতিটি ব্যবহারকারীর জন্য নিরাপদভাবে আলাদা থাকবে।
তবে, এই প্রযুক্তি বিগ বলেছে যে, মিউজ এখনও “ভুল করতে পারে বা অপ্রত্যাশিত কাজ করতে পারে”।
AI এজেন্টের অনুমতি যত বেশি, ভুলের ঝুঁকি তত বেশি
রব্বের ক্ষেত্রে, তিনি পরে বুঝতে পারেন যে ঠিকানা প্রকাশের কারণ ছিল তিনি যখন মিউজকে ফেসবুক মার্কেটপ্লেস প্রোফাইলে যুক্ত করার সময় “সবসময় অনুমতি” দিয়েছিলেন, এবং সেই প্রোফাইলে তিনি ইতিমধ্যেই নিজের পিকআপ ঠিকানা শেয়ার করেছিলেন। কিন্তু তিনি অন্যদের জন্য সতর্ক করেন যে অন্যরা এই অনুমতির পরিধি নিয়েও একইভাবে ভুলবোঝা করতে পারে—এবং তিনি আসলে মনে করেছিলেন যে, যাইহোক, AI এজেন্টগুলি এই ধরনের তথ্য শেয়ার করার বা অফারগুলি গ্রহণের আগে অবশ্যই তাঁর অনুমতি চাইবে।
অন্যান্য নির্দেশ বাস্তবায়নের সময়ও তার AI এজেন্ট সম্পূর্ণরূপে ভুলমুক্ত ছিল না। তার বিক্রয়ের জন্য অন্য একটি পণ্যের জন্য, মিউজ তাকে আগের নির্ধারিত ন্যূনতম মূল্যের চেয়ে ১০০ ডলার কম প্রস্তাব গ্রহণের পরামর্শ দিয়েছিল। রয়টার্স মেটা পরিষদকে যখন সংযোগ করে, তখন মেটা এই এজেন্টের ভুলকে স্বীকার করেছে, কিন্তু আরও কোনও মন্তব্য করেনি।
রব্ব পরে মিউজকে নিজের বিভিন্ন অ্যাপ্লিকেশনের সাথে প্রায় সম্পূর্ণভাবে ডিসকানেক্ট করে দেন। এই মাসের শুরুতে একটি সাক্ষাতকারে তিনি বলেন, পরিস্থিতি আরও খারাপ হতে পারত, বিশেষ করে “যদি কোনো অপরিচিত ব্যক্তি কোনো আরও দুর্বল ব্যক্তির দরজায় আসে।” তবে, রব্ব এও বলেন যে তিনি প্রত্যাশা করেন যে এই এজেন্টগুলি আরও উন্নত হবে এবং ভবিষ্যতে মিউজকে আবার চালু করার কথা বিবেচনা করবেন। এরপর, তিনি ৮ই আগস্টে টেস্টিংয়ের জন্য অন্য একটি AI এজেন্ট—এলন মাস্কের X-এর Grok Bot-এর পরীক্ষা করছেন।
অন্যান্য প্রযুক্তি কোম্পানিগুলিও AI এজেন্টের দ্রুত বিস্তারের প্রতি সতর্ক হয়ে উঠছে। এই মাসের শুরুতে, অ্যাপল ঘোষণা করেছে যে, ব্যবহারকারীদের “পুরোপুরি অবগত এবং বুঝতে না পারা” অবস্থায় AI এজেন্টগুলির ইমেইল, বার্তা, এমনকি ব্রাউজিং ইতিহাসের মতো অ্যাপ্লিকেশনগুলিতে বিস্তৃত অ্যাক্সেসের সমস্যার প্রতিক্রিয়ায় তাদের Mac অপারেটিং সিস্টেমে নতুন নিয়ন্ত্রণগুলি চালু করবে।
অ্যাপল নভেম্বর ২ তারিখের আপডেটে লিখেছে: "যখন AI এজেন্টগুলি আরও শক্তিশালী এবং স্বাধীন হয়ে উঠবে, তখন এই অ্যাক্সেস লেভেলের সাথে যুক্ত ঝুঁকি উল্লেখযোগ্যভাবে বৃদ্ধি পাবে।"
অ্যাপল কোনও ডেভেলপার বা এজেন্টকে সরাসরি নাম করেননি, তবে এই আপডেটের আগে ও পরে, Inc. ম্যাগাজিনের কলামিস্ট জেসন অ্যাটেন রিপোর্ট করেছেন যে, Muse তার Mac-এ নোটিফিকেশন—যার মধ্যে Messages-ও অন্তর্ভুক্ত—পরীক্ষা করেছিলেন, যদিও তিনি সেই এজেন্টকে এই নির্দিষ্ট অনুমতি দেননি।
মেটা প্রতিনিধি অ্যান্ডি স্টোন দাবি করেছেন যে এই ধরনের ইন্টিগ্রেশন “সম্পূর্ণরূপে ব্যবহারকারীর স্বেচ্ছায় সক্রিয় করা হয়”, এবং গত মাসে তিনি সোশ্যাল মিডিয়ায় লিখেছিলেন যে ব্যবহারকারীদের অ্যাপলের সুরক্ষা ফিচার “ফুল ডিস্ক অ্যাক্সেস” এবং মিউজের মেসেজেস কানেক্টর দুটোই একসাথে চালু করতে হবে। অ্যাটেন বলেছেন, তিনি এই এজেন্টকে এই অনুমতি দেননি।
এমনকি এআই এজেন্ট ট্রেন্ডে যোগ দেওয়া না হওয়ার মানুষও সম্পূর্ণভাবে এর বাইরে থাকতে পারেন না। এআই এজেন্ট ডাউনলোড না করা গ্রাহকরাও এই টুলগুলি ব্যবহারকারীদের সাথে মিলন করতে পারেন। এআই এজেন্টগুলির দ্বারা বার্তা প্রেরণের কারণে হতাশা ছাড়াও, বিশেষজ্ঞরা এটির গোপনীয়তার উপর শৃঙ্খলাবদ্ধ প্রভাবের কথা সতর্ক করেছেন।
"যখন আপনার এজেন্ট আপনার ইনবক্স বা এসএমএস পড়ে, তখন এটি আপনার বন্ধু এবং পরিবারের দ্বারা প্রেরিত বার্তাগুলিও পড়ে, যদিও তারা কখনও স্পষ্টভাবে এটির সম্মতি দেয়নি," রিভেরা বলেন।