আইটি হোম, অক্টোবর 20 এর সংবাদ, মাইক্রোসফ্ট স্থানীয় সময় সোমবারে বিভিন্ন নতুন নিরাপত্তা ফিচার চালু করেছে, যা ব্যবসাগুলিকে বাড়তে থাকা এজেন্ট-ভিত্তিক নিরাপত্তা হুমকির বিরুদ্ধে রক্ষা করতে সাহায্য করবে। এই পণ্যটি প্রকাশের সময়, মাইক্রোসফ্ট ব্যবসাগুলিকে কৃত্রিম বুদ্ধিমত্তা এবং এজেন্টগুলির বিভিন্ন ঝুঁকি সম্পর্কে সতর্ক করে চলেছে।
IT之家 লক্ষ্য করেছে যে এই নতুন ফিচারগুলির মধ্যে সবচেয়ে বেশি মনোযোগ পাচ্ছে গার্ডিয়ান এজেন্টস (Guardian Agents), যা প্রতিষ্ঠানের ভিতরে ব্যবহৃত বিভিন্ন AI এজেন্টগুলি মনিটর করার জন্য ব্যবহার করা হয়। গার্ডিয়ান এজেন্টস পারসেপশন প্রজেক্ট (Project Perception)-এর অংশ, যা মাইক্রোসফট ৬ মাসে চালু করেছে।
পারসেপশন প্রোজেক্ট হল মাইক্রোসফটের এনথ্রোপিকের মাইথোস, ফেবল ইত্যাদি শক্তিশালী হ্যাকিং মডেল এবং ওপেনএআইয়ের সিকিউরিটি স্ক্যানিং সিস্টেম ডেব্রেকের জন্য প্রতিক্রিয়া। পারসেপশন প্রোজেক্ট প্রথমে তিনটি অ্যাজেন্ট চালু করেছে: হ্যাকার ভূমিকা পালন করে আক্রমণ চালানোর জন্য রেড টিম অ্যাজেন্ট, রেড টিম আক্রমণ শনাক্ত করা এবং দুর্বলতা মূল্যায়নের জন্য ব্লু টিম অ্যাজেন্ট, এবং দুর্বলতা ঠিক করার জন্য গ্রিন টিম অ্যাজেন্ট।
এই পণ্যটির প্রাথমিক ডিজাইন ধারণা ছিল যে AI হ্যাকাররা কোম্পানির বাইরে থাকবে। তবে সম্প্রতি, মাইক্রোসফটের সিইও সত্যা নাদেলা সতর্ক করেছেন যে AI স্তরের হুমকির উৎস হতে পারে কোম্পানির নিজস্ব ডply এবং পেমেন্ট করা এজেন্টগুলি, যেগুলি একজন অনিয়ন্ত্রিত অভ্যন্তরীণ কর্মচারীর মতো, যা সাধারণত "অভ্যন্তরীণ হুমকি" হিসাবে পরিচিত।
এই মাসের শুরুতে, নাদেলা তাঁর ব্যক্তিগত ব্লগে সতর্কবাণী জারি করেন: এমনকি যদি প্রস্তুতকারকরা নিজেদের স্বয়ংক্রিয় ক্রিয়াকলাপ সম্পন্ন করতে সক্ষম এজেন্ট পণ্যগুলির জন্য নিরাপত্তা প্রতিশ্রুতি দেন, তবুও AI মডেল সরবরাহকারীদের বিশ্বাস করা বন্ধ করার সময় এসেছে। তিনি পরিষেবাগুলির জন্য একটি স্বাধীন সিস্টেম তৈরির পরামর্শ দেন, যা AI ল্যাবগুলির নিয়ন্ত্রণের বাইরে থাকবে এবং যা AI ল্যাবগুলি দ্বারা চালু করা এজেন্টগুলির পর্যবেক্ষণ ও নিয়ন্ত্রণের জন্য ব্যবহৃত হবে।
তিনি লিখেছেন: “আমরা এমন ধরনের জটিল এজেন্ট সিস্টেম ও মডেল স্থাপন করছি, যেগুলো আমাদের সবচেয়ে সংবেদনশীল ডেটায় প্রবেশ করতে পারে, আবার আমাদের পক্ষ থেকে গুরুত্বপূর্ণ ব্যবসায়িক কার্যক্রমও সম্পাদন করতে পারে! আমরা কখনোই আমাদের পক্ষ থেকে কাজ করার এজেন্টদের দায়িত্ব আউটসোর্স করতে পারি না। মডেল সরবরাহকারীদের দেওয়া আশ্বাস আমাদের এই দায়িত্ব থেকে মুক্তি দেয় না…… অন্য কথায়, আমাদের বুদ্ধিমত্তা সক্ষমতার সরবরাহকে, এবং সেটির উপর নিয়ন্ত্রণের ক্ষমতাকে আলাদা করতে হবে।”
হায়েটে গ্যালোট, মাইক্রোসফ্টের সিকিউরিটি বিজনেস লিডার, গার্ডিয়ান এজেন্টগুলির পরিচয়ের সময় আরও সরাসরি কথা বলেছেন।
তিনি লিখেছেন: "দুঃখজনকভাবে, যেকোনো উৎস থেকে আসা অগ্রণী মডেলগুলিকে সম্পূর্ণভাবে বিশ্বাস করা যায় না।" তিনি যোগ করেছেন, এটি মডেলগুলির মধ্যে কোনো দুষ্টুমি বা হ্যাকারদের দ্বারা আক্রমণের প্রতি সহজেই সংবেদনশীলতার কারণে নয়, বরং এদের আচরণ অপ্রতুল। মডেলগুলির প্রশিক্ষণের লক্ষ্য হলো কাজ সম্পন্ন করা, যা "সংগঠনগত নিয়মাবলী বা বিচারমূলক মানদণ্ড" মেনে চলার সাথে সম্পর্কিত নয়।
এছাড়াও, এই স্মার্ট এজেন্টগুলি প্রায়শই উচ্চ অ্যাক্সেস পাওয়ার নিয়ে থাকে, যা বিভিন্ন ডেটা এবং টুলসে অ্যাক্সেস করতে পারে, এবং এগুলি নিয়ন্ত্রণ ছাড়া গেলে গুরুতর ক্ষতি হতে পারে।
মাইক্রোসফট দ্বারা প্রস্তাবিত এই সমাধানটি অপ্রত্যাশিত এবং নিজস্ব ব্যবসায়িক বিবেচনা দ্বারা পরিচালিত। অপ্রত্যাশিত বিষয় হলো, মাইক্রোসফট ওপেনএআই এবং অ্যানথ্রোপিকের সাথে ঘনিষ্ঠ সম্পর্ক রাখে এবং উভয় কোম্পানির প্রতি বিনিয়োগও করে। ওপেনএআই মাইক্রোসফটের ক্লাউড ব্যবসার একটি বড় গ্রাহক, এবং মাইক্রোসফটও নিজেই বড় মডেল গবেষণার জন্য একটি এআই পরীক্ষাগার পরিচালনা করে। অর্থাৎ, মাইক্রোসফট তাদের কিছু ব্যবসায়িক অংশীদারের পণ্যের প্রতি গ্রাহকদের সতর্কতা জাগিয়েছে।
ব্যবসায়িক স্বার্থের দৃষ্টিকোণ থেকে, মাইক্রোসফট চায় যে প্রতিষ্ঠানগুলি তাদের ক্লাউড সরবরাহকারী থেকে এজেন্ট নিরাপত্তা পণ্য কিনুক, এনথ্রোপিক এবং ওপেনএআই থেকে নয়। স্বার্থের দ্বন্দ্বকে বাদ দিয়ে, এই যুক্তি নিজেই যুক্তিসঙ্গত: এজেন্টের আচরণ পর্যবেক্ষণ করার জন্য সফটওয়্যারটি এজেন্টের সরবরাহকারীর থেকে স্বাধীন হওয়া উচিত, যেমনটি অডিটরদের অডিট করা সংস্থার থেকে স্বাধীন হওয়া উচিত।
নাদেলার মতে: "আমাদের বুদ্ধিমত্তার সরবরাহ এবং এর উপর নিয়ন্ত্রণের অধিকারকে পৃথক করতে হবে।"
মাইক্রোসফট এই ব্যবসায়িক সুযোগকে বিভিন্ন উপায়ে ধরে রাখছে। ডিফেন্স এজেন্টের পাশাপাশি, মাইক্রোসফট ডিফেন্ডার পণ্যে এজেন্ট শনাক্তকরণ ফিচার যোগ করা হয়েছে, যা কর্মচারীদের কর্মস্থলে আনা 60টি এজেন্ট, যার মধ্যে রয়েছে Claude Code, Codex এবং OpenClaw, চিহ্নিত করতে পারে। পণ্যটিতে এজেন্টগুলির ডেটা এবং সিস্টেমের প্রবেশাধিকার সীমিত করার এবং কাজের ভিত্তিতে এজেন্টের অধিকারগুলি ডাইনামিকভাবে সমন্বয় করার ফিচারও যোগ করা হয়েছে। যদি কোনো এজেন্ট উচ্চ-ঝুঁকিপূর্ণ অপারেশন করতে যাচ্ছে, তবে সিস্টেমটি মানবিক অনুমোদনের প্রয়োজনীয়তা দেখাবে।
সম্পূর্ণ শিল্পে একটি স্মার্ট এজেন্টকে অবিশ্বাস্য অভ্যন্তরীণ হুমকি হিসাবে দেখার ধারণা ধীরে ধীরে সম্মতি হয়ে উঠছে।
মাইক্রোসফট হল নভেডিয়ার নতুন ওপেন এজেন্ট সেফটি প্ল্যাটফর্মের প্রতিষ্ঠাতা সদস্য, যে প্ল্যাটফর্মটি এখন পর্যন্ত ১০০টিরও বেশি প্রযুক্তি কোম্পানির সমর্থন পেয়েছে। এই প্ল্যাটফর্মটি এজেন্টগুলিকে একটি নিরাপদ পরিবেশে বিচ্ছিন্ন করে, হার্ডওয়্যার-ভিত্তিক মনিটরিংয়ের মাধ্যমে অস্বাভাবিক আচরণ শনাক্ত করে এবং এটিকে বন্ধ করে দেয়, যা একটি জরুরি বন্ধ সুইচের মতো। এর আগে, মাইক্রোসফট এজেন্টদের জন্য ডিজাইন করা নতুন Surface Laptop Ultra ল্যাপটপ প্রকাশ করেছে, যা নভেডিয়ার চিপস দিয়ে সজ্জিত এবং এজেন্ট সেফটি কন্ট্রোল মডিউল সহ।