حادث أمني أثناء تقييم النموذج يعني اكتشاف ثغرة أثناء اختبار نظام ذكاء اصطناعي. تقوم الفرق بتقييم نماذج الذكاء الاصطناعي من خلال دفعها إلى حدودها القصوى قبل الإطلاق العام. خلال هذه المرحلة، غالبًا ما تحاكي المراجعات هجمات للتحقق من تسريبات البيانات أو فشل السلامة. اكتشاف خرق في هذه المرحلة يُظهر أن عملية التقييم نجحت في اكتشاف خطر قبل أن يُلحق الضرر بالمستخدمين الحقيقيين. مشاركة هذه الدروس تساعد مجتمع التكنولوجيا بأكمله على بناء أنظمة أكثر أمانًا. الأمن السيبراني للذكاء الاصطناعي مجال جديد، لذا يجب على الشركات التعاون لفهم التهديدات الناشئة. عندما تنشر منظمة نتائجها، يتعلم المطورون الآخرون بالضبط كيف حدث الاستغلال. هذا المعرفة المشتركة تسمح للمهندسين في جميع أنحاء العالم بإصلاح العيوب المماثلة وتعزيز دفاعات الذكاء الاصطناعي العالمية.