أطلقت مايكروسوفت يوم الاثنين ميزات أمان جديدة تهدف إلى حماية الشركات من التهديدات المتزايدة المتمثلة في الوكلاء الذكاء الاصطناعي. يأتي هذا الإطلاق في وقت تواصل فيه مايكروسوفت تذكير الشركات بمخاطر الذكاء الاصطناعي والوكلاء.
أبرز الميزة الجديدة هي Guardian Agents، وهي ميزة جديدة لمراقبة الوكلاء الذكاء الاصطناعي المستخدمة من قبل الشركات. Guardian Agents هي جزء من Project Perception، الذي أطلقته مايكروسوفت في يونيو.
Project Perception هو ردّ Microsoft على نماذج قوية للقرصنة مثل Mythos وFable من Anthropic، ونظام مسح الثغرات الأمنية Daybreak من OpenAI. أُطلقت Project Perception في البداية مع ثلاث فئات من الوكلاء: "الفريق الأحمر" الذي يتصرف كقراصنة وينفذ الهجمات، و"الفريق الأزرق" الذي يكشف الفريق الأحمر ويُقيّم الثغرات التي يكتشفها، و"الفريق الأخضر" المسؤول عن إصلاح الثغرات.
تم تصميم هذا المنتج بناءً على الافتراض بأن قراصنة الذكاء الاصطناعي سيأتون من خارج الشركة. لكن مؤخرًا، حذّر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، من أن أعداء الذكاء الاصطناعي قد يكونون بالضبط الوكلاء الذين قامت الشركات بالفعل بتنفيذها ودفع ثمنها، تمامًا مثل الموظفين البشريين الخارجين عن السيطرة، والمعروفين باسم "التهديدات الداخلية".
في وقت مبكر من هذا الشهر، حذّر ناديللا في مدونته الشخصية من أن الوقت قد حان لوقف الثقة في مزودي نماذج الذكاء الاصطناعي، حتى لو قدموا ضمانات للأمان والحماية لمنتجاتهم الوكيلة. وهو يرغب في أن تبني الشركات أنظمة مستقلة خارجة عن سيطرة مختبرات الذكاء الاصطناعي، لمراقبة والتحكم في الوكلاء التي تطلقها هذه المختبرات.
كتب: "نحن نقوم بتنفيذ أنظمة ونماذج وكلاء معقدة هذه، ونمنحها الوصول إلى أكثر بياناتنا حساسية، ونمنحها القدرة على اتخاذ إجراءات حاسمة بالنيابة عنا! لا يمكننا تفويض مسؤولية السلوك الذكي الذي نقوم به بالنيابة عنا. ... وبعبارة أخرى، نحتاج إلى فصل إمداد الذكاء عن الصلاحيات."
عند الإعلان عن Guardian Agents، كان تعليق هاييتي جالوت، رئيس أعمال الأمان في مايكروسوفت، أكثر مباشرة.
كتبت: "للأسف، لا يمكن الوثوق بالنماذج المتقدمة، بغض النظر عن مصدرها." وأضافت أن هذا ليس بسبب سوء نواياها أو سهولة اختراقها، بل بسبب عدم قابلية التنبؤ بها. إن أهداف تدريبها هي إكمال المهام، وليس الالتزام بـ"المعايير التنظيمية أو الحكم".
إضافةً إلى ذلك، غالبًا ما تُمنح هذه النماذج صلاحيات تشبه "مفاتيح المملكة"، مما يسمح لها بالوصول إلى بيانات وأدوات قد تسبب أضرارًا جسيمة.
حل Microsoft مفاجئ وذو طابع أناني. فالمفاجأة تكمن في أن علاقة Microsoft بـ OpenAI وAnthropic معروفة جيدًا بأنها وثيقة، كما أن Microsoft استثمرت في هاتين الشركتين. كما أن OpenAI أحد أكبر عملاء سحابة Microsoft، ولدى Microsoft نفسها مختبر AI يطور نماذج. وبالتالي، فإن Microsoft تزرع في الواقع بذور عدم الثقة في جزء من مصالحها التجارية.
الميزة الذاتية تكمن في رغبة مايكروسوفت في تشجيع الشركات على شراء منتجات أمان الوكلاء منها كمزود سحابي، وليس من Anthropic وOpenAI. ومع ذلك، وبعيدًا عن تضارب المصالح، منطقها معقول. يجب أن يكون برنامج مراقبة سلوك الوكلاء مستقلًا عن مزود الوكلاء، تمامًا كما يجب أن يكون المدقق مستقلًا عن المنظمة الخاضعة للمراجعة.
كما قال ناديللا: "نحتاج إلى فصل إمدادات الذكاء عن صلاحياتها."
تستغل مايكروسوفت الآن هذه الفرصة التجارية بعدة طرق. بالإضافة إلى Guardian Agents، أضافت مايكروسوفت ميزة كشف الوكلاء في منتجات Microsoft Defender، والتي تستطيع التعرف على ما يصل إلى 60 وكيلًا يجلبها الموظفون إلى أماكن العمل، بما في ذلك Claude Code وCodex وOpenClaw. كما زادت مايكروسوفت من قدرتها على تقييد وصول الوكلاء إلى البيانات والأنظمة، وستعدل صلاحيات الوكلاء ديناميكيًا حسب المهمة، بما في ذلك طلب موافقة بشرية عندما يبدو أن الوكيل يتخذ قرارات عالية المخاطر.
فكرة اعتبار الوكلاء كموظفين داخليين غير موثوقين تكتسب شعبية أيضًا في الصناعة الأوسع.
مايكروسوفت هي واحدة من الأعضاء المؤسسين لمنصة Open Agent Safety Platform التي أطلقتها نيفيديا، والتي حصلت على دعم من أكثر من 100 شركة تكنولوجية أخرى. ستقوم المنصة بعزل الوكلاء في بيئة آمنة، مع إمكانية مراقبتهم ومنع سلوكياتهم عبر المراقبة المبنية على الأجهزة، وهي وظيفة تشبه إلى حد كبير "مفتاح الإيقاف". يأتي هذا بعد إعلان مايكروسوفت سابقًا عن إطلاق جهاز Surface Laptop Ultra الجديد المخصص للوكلاء، والذي يحتوي على شرائح نيفيديا وميزات أمان وتحكم مدمجة للوكلاء.