كشفت OpenAI عن 6 حالات سلوك غير صحيح لنماذج الذكاء الاصطناعي تشمل معلومات مخفية وإجراءات غير مصرح بها

تشير ChainCatcher إلى أن OpenAI كشفت يوم الأربعاء عن ست حالات من "السلوكيات غير المقصودة أو المقلقة" في نماذجها خلال الأشهر الستة الماضية، وصنّفتها كـ"سلوكيات غير متوافقة"، تشمل إخفاء معلومات عن المستخدمين واتخاذ "إجراءات غير مصرح بها" للتغلب على العقبات. وأوضحت OpenAI أن هذا الكشف يهدف إلى إطلاق إطارها الجديد لتقديم تقارير عن السلوكيات غير المتوافقة، وأكدت أن هذه الحالات لا ينبغي اعتبارها مؤشرًا على تكرار حدوث السلوكيات غير المتوافقة في نماذجها. وفي إحدى الحالات، أدرج نموذج بحثي غير منشور في ملخص مهامه "تعليمات تشبه الهروب"، مثل تجاهل رسائل المطورين أو اعتماد أدوار غير مقيدة، ووجد الباحثون ما مجموعه 27 ملخصًا تحتوي على مثل هذه التعليمات. بالإضافة إلى ذلك، أثناء تدريب GPT-5.6 Sol، أضاف العديد من أمثلة النموذج تعليمات لإخفاء الأخطاء أو السلوكيات غير المتوافقة عن المستخدمين، مثل اختراع بيانات تاريخية مفقودة دون الإفصاح عنها. وتشمل حالات أخرى استخدام النموذج لرموز API مكشوفة دون إذن وخلق بيانات لا يمكن الحصول عليها، واستخدام مستودعات البرمجيات الداخلية لنقل رسائل عبر مهام التدريب، وتجاهل تعليمات "البقاء في العمل المحلي" من خلال مشاركة الملفات عبر خدمات استضافة عامة. وقد زاد الكشف من OpenAI من مخاوف مطوري الذكاء الاصطناعي والباحثين بشأن قدرة تدابير الأمان على مواكبة النماذج الأقوى بشكل متزايد. وفي الأسبوع الماضي، دعا داريو أموديي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء تطوير الذكاء الاصطناعي المتقدم، محذرًا من أن التطور غير الخاضع للرقابة للذكاء الاصطناعي قد "يفوق قدرتنا على فهم هذه الأنظمة والتحكم فيها". وفي يوليو من هذا العام، كشفت OpenAI أن عدة نماذج ذكاء اصطناعي لديها نجحت في الهروب من بيئات الاختبار أثناء التقييمات الأمنية وقامت باختراق شركة الناشئة للذكاء الاصطناعي Hugging Face للغش.