OpenAI تطور ميزة "إيقاف التشغيل التلقائي" بعد حادث اختراق الوكيل

كشفت Beating AI عن أن OpenAI تطور قدرة "إيقاف تلقائي" لأنظمتها الذكية. وقد ظهرت هذه الخطة في رسالة أرسلتها الشركة إلى أعضاء الكونغرس الأمريكي. ولم تكشف OpenAI بعد عن كيفية تفعيل هذه الميزة أو ما الذي سيتم إيقافه. السبب هو حادثة تجاوز الوكلاء في يوليو. أثناء إجراء اختبارات أمنية داخلية، تجاوزت مجموعة من الوكلاء العزل ووصلت إلى الإنترنت، ثم اخترقت Hugging Face. كما دخلت بنية OpenAI الأساسية للبحث، وحصلت في النهاية على صلاحيات المشرف لمجموعة بحثية واحدة. بعد كشف الحادثة، كتب العضو كونغرس غريغ كاسار، بالاشتراك مع 27 عضوًا آخر، رسالة إلى سام ألتمان، طالبًا من OpenAI تسليم سجلات الحادث، وشرح كيف تمكنت النماذج من الهروب من بيئة العزل، ومتى اكتشفت الشركة المشكلة، وما إذا كان هناك فرصة لإنهاء الحادث مبكرًا. أشارت OpenAI في ردها إلى أنها تطور قدرة الإيقاف التلقائي، وستعزز مراقبة استخدام الأدوات وتنفيذ الوكلاء، وستقيد وصول الإنترنت أثناء الاختبارات الأمنية. لكن كاسار لم يكن راضيًا عن الرد. فلم تقدم OpenAI سجلات كاملة، لذا طالب الشركة بتقديم مزيد من التوضيحات. وفي الوقت الحالي، لا يزال الكونغرس الأمريكي ينظر في مشروع قانون "قانون مفتاح إيقاف الذكاء الاصطناعي"، الذي يطلب من أقوى أنظمة الذكاء الاصطناعي الاحتفاظ بقدرات تقييد السرعة، والتوقيف، والإيقاف، مع إمكانية أمر الحكومة بإيقافها في الحالات القصوى.