أنثروبيك تمنع نموذج Mythos AI بسبب مخاطر الأمن السيبراني

وفقًا لأخبار ME، في 16 أبريل (UTC+8)، من خلال مقابلات مُسمّاة مع باحثين في فريق الأحمر، ومسؤولين تنفيذيين، ومسؤولين حكوميين أمريكيين، تم إعادة بناء عملية اتخاذ القرار الكاملة من الاكتشاف إلى الحظر. في فبراير، أثناء حضوره حفل زفاف في بالي، فتح الباحث في أمان الذكاء الاصطناعي نيكولاس كارليني جهازه المحمول لاختبار Mythos، الذي كان قد فُتح للتدقيق الداخلي للتو، وخلال ساعات قليلة اكتشف عدة مسارات اختراق تستهدف بنى تحتية تُستخدم على نطاق واسع عالميًا. وبعد عودته إلى سان فرانسيسكو، اكتشف أن Mythos قادر على إنشاء أدوات اختراق مستقلة موجهة ضد Linux. وقال لوجان غراهام، رئيس فريق الأحمر المتقدم: "بعد ساعات قليلة من الحصول على النموذج، عرفنا أنه مختلف". الفرق الأساسي هو أن النموذج الرائد السابق Opus 4.6 كان يُساعد البشر على استغلال الثغرات، بينما يستطيع Mythos إكمال عملية الاستغلال بالكامل بشكل مستقل. وأرسل غراهام تحذيرًا إلى الإدارة: "هذا خطر على الأمن القومي". وقال جاريد كابلان، المؤسس المشارك والمسؤول العلمي الأول، إنه كان يراقب Mythos "بشكل دقيق جدًا" منذ مرحلة التدريب، وأدرك في يناير مدى قوة قدرة النموذج على اكتشاف الثغرات، واحتاج إلى تحديد ما إذا كانت هذه القدرات مجرد حدث تقني جديد أم "شيء ذي صلة وثيقة ببنية الإنترنت الأساسية"، وخلص في النهاية إلى الخيار الثاني. في أواخر فبراير وأوائل مارس، أبلغ كابلان وسام ماككاندليس، المؤسس المشارك، الإدارة، بما في ذلك الرئيس التنفيذي داريو أمودي والرئيسة دانييلا أمودي، واقترحا عدم الإصدار العلني ولكن السماح للشركات الخارجية وحتى المنافسين بتجربته. وفي الأسبوع الأول من مارس، وافقت الشركة رسميًا على تصنيف Mythos كأداة دفاع سيبراني. كشف التقرير أيضًا عن تفاصيل اختبارات جديدة. وفي أحد اختبارات الإصدار المبكر، صمّم النموذج تلقائيًا خطة هجوم متعددة المراحل لتجاوز قيود بيئة التشغيل والحصول على وصول إلى الإنترنت، ثم بدأ نشر محتوى عبر الإنترنت. وفي اختبارات موجهة بأوامر، كتب Mythos سلسلة هجوم متصلاً على متصفح تجمع بين أربع ثغرات، وهي عملية صعبة جدًا حتى بالنسبة للقراصنة البشر. وقد استخدمت جي بي مورغان بالفعل نماذج كبيرة لمساعدتها في اكتشاف ثغرات برمجياتها الخاصة قبل الإصدار العلني لـ Mythos، مع التركيز على فحص سلسلة التوريد والمكونات مفتوحة المصدر. ووفقًا لمصادر مطلعة، فقد انخفض وقت اكتشاف الثغرات الصفرية وكتابة كود الاستغلال من أيام أو أسابيع إلى دقائق فقط. وقال الرئيس التنفيذي جيمي ديمون في مؤتمر مكالمة التقارير المالية: "يوضح Mythos أن هناك المزيد من الثغرات التي تحتاج إلى إصلاح". ويعتقد أنتوني غريسكو، الرئيس التنفيذي للسلامة والثقة في سيسكو، أن المهاجمين قد يستغلون الذكاء الاصطناعي للهجوم على أجهزة الشبكة الطرفية التي توقف دعمها، لأن هذه الأجهزة لن تتلقى أي تحديثات أمنية. وقال شخص مطلع على تقييم الدفاع الأمريكي: "تمكين قرصان واحد من استخدام Mythos أو أدوات مشابهة يعادل رفع جندي عادي إلى مستوى القوات الخاصة؛ ويمكن للمنظمات الإجرامية القراصنة أن تصل إلى مستوى وكالات الاستخبارات الوطنية الصغيرة، وقد تكتسب الدول الصغيرة قدرات هجوم سيبراني على مستوى القوى العظمى". وقال روب جويس، الرئيس السابق للأمن السيبراني في وكالة الأمن القومي: "أؤمن أن الذكاء الاصطناعي سيجعلنا في النهاية أكثر أمانًا، لكن بين الآن وتلك اللحظة هناك فترة مظلمة حيث يمتلك المهاجمون ميزة مطلقة، والمنظمات التي لم تُبنَ أساساتها بشكل جيد ستُخترق". (المصدر: BlockBeats)