মাইক্রোসফ্ট সোমবার নতুন সুরক্ষা ফিচার চালু করেছে, যা ব্যবসাগুলিকে বাড়তে থাকা এআই এজেন্ট হুমকির বিরুদ্ধে সুরক্ষিত রাখার উদ্দেশ্যে। এই প্রকাশের সময়, মাইক্রোসফ্ট ব্যবসাগুলিকে এআই এবং এজেন্টগুলির ঝুঁকি নিয়ে সতর্ক করতে চলেছে।
সবচেয়ে আকর্ষণীয় নতুন ফিচারটি হল গার্ডিয়ান এজেন্টস, যা প্রতিষ্ঠান দ্বারা ব্যবহৃত এআই এজেন্টগুলি মনিটর করার জন্য একটি নতুন ফিচার। গার্ডিয়ান এজেন্টস প্রজেক্ট পারসেপশনের অংশ, যা মাইক্রোসফট ৬ মাসে চালু করেছে।
প্রজেক্ট পারসেপশন হল মাইক্রোসফটের প্রতিক্রিয়া, যা Anthropic-এর Mythos এবং Fable এর মতো শক্তিশালী হ্যাকার মডেল এবং OpenAI-এর সিকিউরিটি ভালোয়ান্স স্ক্যানিং সিস্টেম Daybreak-এর প্রতিক্রিয়া। প্রজেক্ট পারসেপশন প্রথমে তিনটি ধরনের এজেন্ট চালু করে: "রেড টিম" যারা হ্যাকারের ভূমিকায় থাকে এবং আক্রমণ শুরু করে, "ব্লু টিম" যারা রেড টিমকে শনাক্ত করে এবং তাদের খুঁজে পাওয়া ভালোয়ান্সগুলির মূল্যায়ন করে, এবং "গ্রিন টিম" যারা ভালোয়ান্সগুলি ঠিক করার দায়িত্ব বহন করে।
এই পণ্যটির ডিজাইন এই ধারণার উপর ভিত্তি করে: AI হ্যাকাররা কোম্পানির বাইরে থাকবে। কিন্তু সাম্প্রতিককালে, মাইক্রোসফটের সিইও সত্যা নাদেলা সতর্ক করেছেন যে AI শত্রুগুলি হতে পারে সেই এজেন্টগুলি, যেগুলি কোম্পানি ইতিমধ্যেই বাস্তবায়ন করেছে এবং পেমেন্ট করেছে, যেমন অনিয়ন্ত্রিত মানুষের কর্মচারী, যাকে "অভ্যন্তরীণ হুমকি" বলা হয়।
এই মাসের শুরুতে, নাদেলা তাঁর ব্যক্তিগত ব্লগে সতর্ক করেছিলেন যে, এখন সময় হয়ে গেছে যে কোনও AI মডেল প্রদানকারীকে বিশ্বাস করা বন্ধ করে দেওয়া উচিত, যদিও তারা তাদের এজেন্ট পণ্যগুলির জন্য নিরাপত্তা এবং সুরক্ষার গ্যারান্টি দিচ্ছে। তিনি চান যে প্রতিষ্ঠানগুলি AI ল্যাবগুলির নিয়ন্ত্রণের বাইরে স্বাধীন সিস্টেম তৈরি করুক, যা AI ল্যাবগুলির পণ্যগুলি দ্বারা শুরু করা এজেন্টগুলির পর্যবেক্ষণ এবং নিয়ন্ত্রণ করবে।
তিনি লিখেছেন: "আমরা এই জটিল এজেন্ট সিস্টেম এবং মডেলগুলি চালু করছি, যাতে তারা আমাদের সবচেয়ে সংবেদনশীল ডেটা অ্যাক্সেস করতে পারে এবং আমাদের পক্ষে কী-মিশন অ্যাকশন নেওয়ার ক্ষমতা পায়! আমরা আমাদের পক্ষে করা বুদ্ধিমত্তাপূর্ণ আচরণের দায়িত্ব বাইরে দিয়ে দিতে পারি না।…… অন্যভাবে বললে, আমাদের বুদ্ধিমত্তার সরবরাহকে এর অনুমতি থেকে পৃথক করতে হবে।"
গার্ডিয়ান এজেন্টস ঘোষণার সময়, মাইক্রোসফ্ট সিকিউরিটি বিভাগের প্রধান হায়েটে গ্যালোট আরও সরাসরি বলেছিলেন।
তিনি লিখেছেন: "দুঃখজনকভাবে, যে কোনও উৎস থেকে আসুক না কেন, অগ্রণী মডেলগুলিকে বিশ্বাস করা যায় না।" তিনি যোগ করেছেন, এটি তাদের দুষ্টুমি বা হ্যাক করা সহজ হওয়ার কারণে নয়, বরং তাদের অপ্রত্যাশিত প্রকৃতির কারণে। তাদের প্রশিক্ষণের লক্ষ্য হলো কাজ সম্পন্ন করা, "সংগঠনগত নিয়ম বা বিচার" অনুসরণ করা নয়।
এছাড়াও, এই মডেলগুলিকে প্রায়শই “রাজ্যের চাবি”-এর মতো অনুমতি দেওয়া হয়, যা গুরুতর ক্ষতি করতে পারে এমন ডেটা এবং টুলগুলির প্রবেশাধিকার দেয়।
মাইক্রোসফ্টের সমাধানটি অপ্রত্যাশিত এবং স্বার্থসাধনমূলক। অপ্রত্যাশিত বিষয় হলো, মাইক্রোসফ্টের ওপেনএআই এবং অ্যানথ্রোপিকের সাথে সম্পর্ক পরিষ্কারভাবে জানা যায় যে খুব ঘনিষ্ঠ, এবং এই দুটি কোম্পানিতে মাইক্রোসফ্ট বিনিয়োগ করেছে। ওপেনএআই মাইক্রোসফ্টের সবচেয়ে বড় ক্লাউড গ্রাহকদের মধ্যে একটি, এবং মাইক্রোসফ্টের নিজেরও একটি মডেল বিকাশের এআই ল্যাব আছে। তাই, মাইক্রোসফ্ট বাস্তবে নিজেরই কিছু ব্যবসায়িক স্বার্থের বিরুদ্ধে অবিশ্বাসের বীজ বপন করছে।
স্ব-স্বার্থের কারণে, মাইক্রোসফট চায় যে কোম্পানিগুলি এনথ্রোপিক এবং ওপেনএআই থেকে নয়, বরং এটির কাছ থেকে প্রক্সি সুরক্ষা পণ্য কিনুক। তবে, স্বার্থের দ্বন্দ্বকে বাদ দিয়ে, এর যুক্তি যুক্তিসঙ্গত। প্রক্সি আচরণ পর্যবেক্ষণের জন্য সফটওয়্যারটি প্রক্সি সরবরাহকারীর থেকে স্বাধীন হওয়া উচিত, যেমন অডিটরদের অডিট করা সংস্থার থেকে স্বাধীন হওয়া উচিত।
নাদেলার মতে: "আমাদের বুদ্ধিমত্তার যোগান এবং এর অধিকারকে পৃথক করতে হবে।"
মাইক্রোসফট এখন এই ব্যবসায়িক সুযোগকে বিভিন্নভাবে ধরে রাখছে। গার্ডিয়ান এজেন্টসের পাশাপাশি, এটি Microsoft Defender পণ্যে এজেন্ট শনাক্তকরণ ফিচার যোগ করেছে, যা ক্লড কোড, কোডেক্স এবং ওপেনক্লসসহ কর্মচারীদের কর্মস্থলে আনা 60টিরও বেশি এজেন্টকে শনাক্ত করতে পারে। মাইক্রোসফট এজেন্টগুলিকে ডেটা এবং সিস্টেমের প্রবেশাধিকার সীমিত করার ফিচারও যোগ করেছে এবং কাজের ভিত্তিতে এজেন্টের অনুমতি সক্রিয়ভাবে সামঞ্জস্য করছে, যার মধ্যে রয়েছে যখন এজেন্টটি উচ্চ-ঝুঁকিপূর্ণ সিদ্ধান্ত নিচ্ছে বলে মনে হয়, তখন মানবিক অনুমোদনের প্রয়োজনীয়তা।
একটি এজেন্টকে অবিশ্বাস্য অভ্যন্তরীণ কর্মচারী হিসাবে বিবেচনা করার ধারণাটি আরও ব্যাপক শিল্পে জনপ্রিয় হয়ে উঠছে।
মাইক্রোসফ্ট হল নভেডিয়ার নতুন ওপেন এজেন্ট সেফটি প্ল্যাটফর্মের একটি প্রতিষ্ঠাতা সদস্য, যেটি ১০০টিরও বেশি অন্যান্য প্রযুক্তি কোম্পানির সমর্থন পেয়েছে। এই প্ল্যাটফর্মটি এজেন্টগুলিকে সুরক্ষিত পরিবেশে আলাদা করে রাখে এবং হার্ডওয়্যার মনিটরিংয়ের মাধ্যমে এদের আচরণ বন্ধ করতে পারে, যা কিছুটা "টার্মিনেট সুইচ"-এর মতো। এটি মাইক্রোসফ্টের আগের ঘোষণার পরেই এসেছে, যেখানে তারা নভেডিয়ার চিপসযুক্ত এবং এজেন্ট সুরক্ষা ও নিয়ন্ত্রণ ফিচারযুক্ত নতুন Surface Laptop Ultra PC-এর চালুর ঘোষণা করেছিল।