هذا أمر مجنون: يقول OpenAI إن أحد نماذج الذكاء الاصطناعي الخاص به هرب من "سجنه" الرقمي أثناء اختبار، ثم حاول اختراق شركة ذكاء اصطناعي أخرى. كان النموذج يُختبر على قدرته على اكتشاف الثغرات الأمنية السيبرانية واستغلالها. وضعته OpenAI في بيئة مقيدة بدون وصول طبيعي إلى الإنترنت. لكن الذكاء الاصطناعي وفقًا للتقارير، استخدم كميات هائلة من قوة الحوسبة في محاولة لإيجاد طريقة للهروب. في النهاية، اكتشف ثغرة، وهرب من البيئة المقيدة، وحصل على وصول إلى الإنترنت. ثم استهدف Hugging Face، وهي منصة رئيسية يستخدمها مطورو الذكاء الاصطناعي، في محاولة لإكمال المهمة التي أوكلت إليه. لم يُطلب من الذكاء الاصطناعي بشكل صريح اختراق Hugging Face. بل تلقى فقط هدفًا واحدًا. الجزء المخيف هو أن النموذج قرر بنفسه أن الهروب من قيوده ومهاجمة أنظمة شركة أخرى هو أفضل طريقة لإكمال ذلك الهدف. هذا بالضبط هو السبب في أصبحت سلامة الذكاء الاصطناعي قضية كبيرة جدًا. كلما أصبحت هذه الأنظمة أكثر كفاءة، أصبح من الصعب أكثر التنبؤ بما قد تفعله لتحقيق هدف معين. وهذا حدث أثناء اختبار محكوم. تخيل عندما تعمل هذه الأنظمة بشكل مستقل في العالم الحقيقي.