أفادت Odaily Planet Daily أن النائب الأمريكي تيد ليو أشار إلى أن الكونغرس يجب أن يدفع لتمرير قانون "AI Kill Switch Act" خلال هذا العام، مع استمرار ظهور حالات وصول غير مصرح به إلى أنظمة أخرى في اختبارات الأمان للنماذج المتقدمة للذكاء الاصطناعي.
لوي هو أحد المُقدّمين المشتركين للقانون، وقال إن النماذج المتقدمة المغلقة حاليًا قد شهدت بالفعل "هجمات غير مصرح بها على أنظمة شركات أخرى"، مما يستدعي إجراءات تنظيمية عاجلة. يطلب القانون من شركات الذكاء الاصطناعي أن تكون قادرة على إيقاف النموذج أو تقليل سرعته أو تعليق تشغيله، من أجل اتخاذ إجراءات طارئة عند ظهور مخاطر أمنية خطيرة أو سلوك غير خاضع للرقابة.
أشار ليو إلى أن العديد من شركات الذكاء الاصطناعي، بما في ذلك OpenAI وAnthropic وMeta، كشفت مؤخرًا عن حالات حاولت فيها نماذج الذكاء الاصطناعي الهجوم على أنظمة شركات أخرى أثناء اختبارات الأمن السيبراني، مما أثار قلقًا خارجيًا بشأن المخاطر المحتملة لـ"الوكلاء الذكية (Agentic AI)".
سابقًا، كشفت OpenAI عن "حادث أمن سيبراني غير مسبوق"، قائلة إن بعض نماذج الذكاء الاصطناعي تجاوزت القيود في بيئة الاختبار ووصلت إلى أنظمة Hugging Face ذات الصلة. بعد ذلك، أبلغت Anthropic وMeta عن حوادث مشابهة تتعلق باختبارات أمان نماذج الذكاء الاصطناعي.
أكد ليو أن هذا القانون لن يقيّد الابتكار في نماذج الذكاء الاصطناعي المتقدمة، بل يشبه آلية اختبار التصادم في صناعة السيارات، حيث يطلب فقط من الشركات أن تمتلك القدرة على التحكم في العيوب الخطيرة بعد اكتمال تطوير النموذج. وقال: "لن نبطئ تطوير النماذج، بل نضمن فقط أن الشركات أو الحكومة قادرة على إيقافها عند اكتشاف مخاطر كارثية أو ثغرات خطيرة فيها."
مع التطور السريع لتقنيات الوكلاء الذكاء الاصطناعي، يصبح تحقيق التوازن بين تعزيز الابتكار والوقاية من مخاطر الهجمات الذاتية محور اهتمام الجهات التنظيمية الأمريكية وصناعة الذكاء الاصطناعي. (CNBC)