نموذج الذكاء الاصطناعي الأحدث من Anthropic ذهب للبحث عن أخطاء في البرمجيات مفتوحة المصدر. ووجد الكثير منها.
كشف نموذج كلاود ميثوس للكشف التلقائي عن الثغرات الأمنية، أكثر من 23,000 ثغرة أمنية محتملة عبر أكثر من 1,000 مشروع مفتوح المصدر مستخلصة من مجموعة OSS-Fuzz. وقد تأكدت 1,726 منها من خلال مراجعة خارجية. وتم تصنيف أكثر من 1,000 من الثغرات المؤكدة على أنها ذات خطورة عالية أو حرجة.
أخطاء قديمة منذ عقود، ظهرت مؤخرًا
من بين الثغرات التي حددتها Mythos: ثغرة أمنية عمرها 27 عامًا في OpenBSD وثغرة عمرها 16 عامًا في FFmpeg. كلاهما مكونان أساسيان واسعا الانتشار في البنية التحتية مفتوحة المصدر.
أكثر من 99% من ثغرات الصفر اليوم التي اكتشفها Mythos ظلت غير مُصلحة في وقت الإفصاح، وفقًا لتقييمات النموذج.
مشروع غلاسواينغ والالتزام بـ 100 مليون دولار
أطلقت Anthropic مشروع Glasswing، وهو اتحاد مُحكم يمنح شركاء مختارين وصولاً إلى Mythos Preview لتمكينهم من تحديد وإصلاح الثغرات الحرجة في برامجهم الخاصة.
تتضمن قائمة الشركاء AWS وApple وGoogle وMicrosoft وNVIDIA وJPMorgan Chase. وقد تعهدت Anthropic بمنح ما يصل إلى 100 مليون دولار كاعتمادات استخدام نماذج لدعم هذا الجهد. بالإضافة إلى ذلك، تم تخصيص أكثر من 4 ملايين دولار بشكل خاص لتعزيز أمان مشاريع مفتوحة المصدر.
من خلال وضع Mythos خلف برنامج للوصول المُتحكم فيه بدلاً من إصداره على نطاق واسع، تحتفظ Anthropic بميزة حصرية. بالفعل تدور مناقشات حول ما إذا كان يمكن تحقيق كشف عن الثغرات المماثلة باستخدام نماذج متاحة للجمهور.
ما يعنيه ذلك لمشهد الأمن السيبراني
اكتشاف أكثر من 23,000 ثغرة محتملة في عملية واحدة، مع تأكيد أكثر من 1,000 منها كثغرات ذات خطورة عالية أو حرجة، ينقل الحوار من النظري إلى العملي.
ما زالت هناك 1,726 ثغرة مؤكدة تحتاج إلى مراجعة خارجية للتحقق منها. وبما أن أكثر من 99% من الثغرات الصفرية التي اكتشفها Mythos كانت غير مُصلحة عند الإفصاح عنها، فإن التصحيح والمعالجة لم يواكبا ما تكتشفه الذكاء الاصطناعي.