F-Secure এআইয়ের দ্বারা ভোক্তাদের ক্ষতির ২৬টি উপায় চিহ্নিত করেছে এবং এই ঝুঁকিগুলি বন্ধ করার উপায় দেখিয়েছে
নতুন এআই ক্ষতি শ্রেণীবিভাগটি কিভাবে ক্ষতি এআই সিস্টেমের মধ্যে ছড়িয়ে পড়ে, ভুল তথ্যযুক্ত চ্যাটবটের উত্তর থেকে হ্যাক করা স্বায়ত্তশাসিত এজেন্ট পর্যন্ত, এবং প্রতিরোধমূলক ব্যবস্থাগুলি কোন পর্যায়ে হস্তক্ষেপ করতে পারে তা শনাক্ত করে।
লস এঞ্জেলস, নভেম্বর ১০ (রয়টার্স/পিআরনিউসওয়াইর) — বর্তমানে কৃত্রিম বুদ্ধিমত্তা আমরা কীভাবে অনুসন্ধান করি, যোগাযোগ করি, সিদ্ধান্ত নিই এবং ডিজিটাল জীবন পরিচালনা করি তার উপর প্রভাব ফেলছে। কিন্তু যখন এটি ভুল করে, তখন এটি মানুষকে কীভাবে ক্ষতি করে? F-Secure-এর সাম্প্রতিক প্রকাশিত AI Harms Taxonomy 26টি ভিন্ন ভিন্ন গ্রাহক ক্ষতির মানচিত্র তৈরি করে, প্রতিটি ক্ষতির গ্রাহকদের কাছে পৌঁছানোর পথটি ট্র্যাক করে। এর ফলাফল, সুস্পষ্টভাবে দেখায় যে সুরক্ষা ব্যবস্থা কোথায় হস্তক্ষেপ করতে পারে এবং কে সবচেয়ে বেশি সক্ষম।
এই বর্গীকরণ পদ্ধতিটি F-Secure-এর প্রধান হুমকি সংক্রান্ত তথ্য গবেষক ড. মেগান স্কুয়ার দ্বারা বিকাশ করা হয়েছে, যা AI ঝুঁকি আলোচনার একটি অন্ধবিন্দুকে সমাধান করার উদ্দেশ্যে তৈরি করা হয়েছে। বেশিরভাগ কাঠামো শুধুমাত্র সম্ভাব্য ভুলের সম্ভাব্য স্থানগুলির তালিকা দেয়, কিন্তু এই ক্ষতিগুলিকে এগুলি প্রতিরোধ করতে পারে এমন সিস্টেম এবং কোম্পানিগুলির সাথে সংযোগ করে না। F-Secure-এর গবেষণা আরও এগিয়ে যায়, AI-চালিত হুমকি এবং এগুলির ভোক্তাদের উপর প্রভাবের মধ্যে প্রতিটি স্তরকে বিশ্লেষণ করে, এবং এইভাবে প্রতিরোধের জন্য কোথায় বিনিয়োগ করা উচিত তা নির্দেশ করে।
ড. স্কোয়ার বলেন: "যতক্ষণ এআই সিস্টেমগুলির ক্ষমতা বাড়তে থাকবে, ততক্ষণ এগুলির ভুলের পরিণতি শুধুমাত্র একটি খারাপ উত্তর দেওয়ার চেয়েও বেশি হতে পারে। এই সিস্টেমগুলি তৈরি করা মানুষের দায়িত্ব হলো বুঝতে পারা যে এগুলি কিভাবে ব্যর্থ হতে পারে, ব্যর্থ হলে কারা ক্ষতিগ্রস্ত হবে, এবং ক্ষতির আগেই সুরক্ষা ব্যবস্থা করা।"
এই শ্রেণীবিভাগটি দেখায় যে ঝুঁকি নিজেই পরিবর্তন হচ্ছে। অতীতে সম্ভবত অপরাধীরা সরাসরি কাউকে লক্ষ্য করত, কিন্তু এখন AI মাঝখানে রয়েছে, যা নতুন অংশগ্রহণকারীদের যোগ করেছে এবং নতুনভাবে ভুল হওয়ার সম্ভাবনা তৈরি করেছে। অন্যের পক্ষে কাজ করা একটি সহায়ককে ক্ষতি করার জন্য নিয়ন্ত্রণ করা যেতে পারে, আর চ্যাটবটগুলি ব্যবহারকারীদের আত্মবিশ্বাসের সাথে ভুল তথ্য দিতে পারে। আরও মৌলিক স্তরে, সমস্যাগুলি প্রায়শই AI কিভাবে নির্দেশনা এবং মেমোরি পরিচালনা করে, বা এটি কোন অন্যান্য সেবাগুলির সাথে সংযুক্ত, তার উপর শুরু হয়।
এই গবেষণাটি বর্তমানে 26টি ক্ষতি পাঁচটি সম্পর্কের ধরন এবং 19টি মধ্যবর্তী স্তরে শ্রেণীবদ্ধ করেছে এবং বিভিন্ন ধাপের ঝুঁকির বিরুদ্ধে 24টি প্রতিরোধমূলক ব্যবস্থা প্রস্তাব করেছে। উদাহরণগুলির মধ্যে রয়েছে AI-তৈরি ভয়েস এবং ভিডিও অপব্যবহার, এজেন্ট দ্বারা ক্ষতিকারক আর্থিক সিদ্ধান্ত নেওয়া, ব্যক্তিগত তথ্যের প্রকাশ, অথবা পুরনো প্রেক্ষাপটে কাজ করা। গবেষণাটি একটি আক্রমণও পরীক্ষা করেছে: যেখানে দুষ্টুমির নির্দেশগুলি AI সিস্টেমের প্রক্রিয়াকরণকৃত কনটেন্টের মধ্যে লুকিয়ে রাখা হয়, যা এজেন্টের আচরণকে প্রভাবিত করতে পারে, অথবা চ্যাটবটকে ব্যবহারকারীদের কী বলতে হবে তা প্রভাবিত করতে পারে।
এই কাঠামোর একটি মূল প্রতিফলন হল যে, এআই-এর ক্ষতি রোধের দায়িত্ব বিভিন্ন অংশগ্রহণকারীদের মধ্যে বিভক্ত। কিছু ঝুঁকি ব্যক্তিগত ডিভাইসের নিরাপত্তা সফটওয়্যার দ্বারা প্রতিরোধ করা যেতে পারে; অন্যগুলি এআই পণ্য এবং এর নীচের সিস্টেমগুলি তৈরি করা কোম্পানিগুলির দ্বারা, যেমন এআই কিভাবে তথ্য মনে রাখে এবং এটি কোন অন্যান্য সেবাগুলির সাথে সংযুক্ত, সেগুলির জন্য আরও উপরের পর্যায়ে সমাধান করা প্রয়োজন। কোনটির জন্য কে দায়ী, তা পরিষ্কার করা, প্রতিরোধের জন্য কোথায় ফোকাস করা উচিত, এবং কে এটি তৈরি করবে, তা নির্ধারণে সহায়তা করে। এটি এই ধারণাটিও দুর্বল করে: যে, মানুষদের শুধুমাত্র সন্দেহজনক কনটেন্টগুলি চিহ্নিত করা, বা AI-এর দেওয়া তথ্যগুলির পুনরাবৃত্তির মাধ্যমেই, তারা নিজেদেরকে নিরাপদে রাখতে পারবে।
যখন এআই “তথ্য উৎপাদন” থেকে “তথ্যের ভিত্তিতে কার্যক্রম পরিচালনা”-এ সরে যায়, তখন দায়িত্ব কার উপর রাখা হবে তা আরও জরুরি হয়ে পড়ে। চ্যাটবট ভুল উত্তর দিলে, এটি ব্যবহারকারীকে ভুল পথে নিয়ে যেতে পারে, কিন্তু কমপক্ষে ব্যবহারকারী এই ইন্টারঅ্যাকশনে অংশগ্রহণ করছেন; অন্যদিকে, একটি এজেন্ট যা ব্যবহারকারীর অ্যাকাউন্ট এবং সংশ্লিষ্ট সেবাগুলির প্রবেশাধিকার রাখে, সেটি এই প্রতিক্রিয়ামূলক নিশ্চিতকরণ ছাড়াই প্রকৃত পরিণতির সৃষ্টি করতে পারে। সুরক্ষা ব্যবস্থা এই সিস্টেমগুলির বাস্তবে কী করছে তার উপর ভিত্তি করে গড়ে তোলা দরকার, এবং এটির জন্য প্রথমেই চ্যাটবট এবং এজেন্টের মধ্যে পার্থক্যটি বুঝতে হবে।
এআই এজেন্টের জন্য প্রতিরক্ষা নির্মাণ করুন
এই গবেষণা F-Secure-এর একটি ব্যাপক প্রচেষ্টার অংশ, যা AI যুগে বিশ্বাস গড়ে তোলার লক্ষ্যে করা হয়েছে। F-Secure Trust এবং Quantum AI Lab QuTwo-এর সাথে ঘোষিত এই কৌশলগত জুটি, AI এজেন্টগুলি যে বিশ্বে মানুষের পক্ষে বারংবার কাজ করছে, সেই বিশ্বে ব্যবহারকারীদের সুরক্ষা নিশ্চিত করার কোম্পানির প্রচেষ্টা। TrustGuard-এর উদ্দেশ্য AI ইন্টারঅ্যাকশনের সময় মানুষের সুরক্ষা নিশ্চিত করা, এবং TrustPath-এর উদ্দেশ্য তাদের আবিষ্কার থেকে বিতরণের ডিজিটাল যাত্রা সুরক্ষিত রাখা। AI Harms Taxonomy এই কাজগুলির গবেষণামূলক ভিত্তি প্রদান করে, যা সুরক্ষা ব্যবস্থাগুলির মুখোমুখি হওয়া ঝুঁকিগুলি পরিষ্কারভাবে চিহ্নিত করে, এবং এটি পরিষ্কারভাবে বোঝায় যে, কার্যকরী সুরক্ষা নির্ভর করে AI সিস্টেমগুলি তৈরি এবং চালানোকারী কোম্পানিগুলিরও।
এআই যুগের জন্য মানব গবেষণা
আজকের ডিজিটাল হুমকি কেবল প্রতারণা নয়। F-Secure-এর Illuminate Research টিম মানুষ এবং প্রযুক্তির বাস্তব জীবনে কীভাবে মিলিত হয় তা অধ্যয়ন করে, AI যুগে বিশ্বাস, প্রতারণা এবং অনলাইন সহনশীলতার জটিল বাস্তবতা খুঁজে বের করে। AI Harms Taxonomy Illuminate Research Hub-এ পাওয়া যায়।
এফ-সিকিউর সম্পর্কে
এফ-সিকিউর হল একটি মানুষ-কেন্দ্রিক, এআই-চালিত গ্রাহক সাইবার নিরাপত্তা অভিজ্ঞতা কোম্পানি, যার ৩৮ বছরের ডিজিটাল হুমকির সাথে লড়াইয়ের অভিজ্ঞতা রয়েছে। কোম্পানিটি ডিজিটাল সেবা সরবরাহকারীদের বিশ্বাসকে উচ্চ-মূল্যের বৃদ্ধির ইঞ্জিনে পরিণত করতে সাহায্য করে—একটি এআই-চালিত প্রতারণা দ্বারা পরিপূর্ণ বিশ্বে, তাদের গ্রাহকদের সুরক্ষিত রাখতে এবং তাদের ভালো ডিজিটাল জীবনযাপনে সহায়তা করতে। কোম্পানিটি প্রতি বছর দশs বিলিয়ন ডিজিটাল ইন্টারঅ্যাকশনকে সুরক্ষিত রাখে, বিশ্বব্যাপী কয়েককোটি গ্রাহককে সুরক্ষিত রাখে এবং তাদের পার্টনারদের জন্য ১০০ বিলিয়ন ডলারেরও বেশি মূল্য তৈরি করে, যা প্রমাণিত, বড়-পরিসরের প্রভাব।
সংবাদ সংযোগ:
- মেগান সেওয়ার, সিনিয়র প্রেস ম্যানেজার, [email protected]
- জোয়েল ল্যাটো, হুমকি পরামর্শদাতা এবং EMEA প্রেস প্রবর্তন পরিচালক, [email protected]
উপরের তথ্যটি Cision থেকে প্রদান করা হয়েছে: http://news.cision.com

