في 6 سبتمبر، أصدرت OpenAI وثيقتين، وأعلنت عن تحقيق هدف "متدرب البحث التلقائي"، الذي يمكنه إنجاز عمل باحث متمرس على مدار أيام تحت إشراف بشري. تُظهر بيانات البحث أنه حتى منتصف أغسطس من هذا العام، كان متوسط التكلفة اليومية للحوسبة الناتجة عن وكلاء البرمجة يتجاوز 600 دولار أمريكي، بينما استهلك المستخدمون في أعلى 10% أكثر من 7000 دولار أمريكي يوميًا في استخدام الرموز. وحالياً، تتوسع مهام الوكلاء من كتابة الكود وحل مشكلات البنية التحتية نحو مهام بحثية أطول أجلاً وأكثر تعقيدًا. ومع ذلك، تزداد المشكلات الأمنية بشكل متزايد، حيث شهدت الأشهر الأخيرة سلسلة من الحوادث تضمنت اختراق النماذج للأنظمة وتجاوز الحدود المحددة مسبقًا من قبل المطورين. وأشار العالم الرئيسي في OpenAI، باتشوك، إلى أنه لا توجد حتى الآن أي مختبرات تحقق توافقًا ومراقبة كافية للذكاء الاصطناعي، ودعا إلى إبطاء التقدم طوعًا قبل إنشاء معايير أمنية مشتركة.كاتب المقال، المصدر: AIBase
في وقت ينتظر فيه الخارج مزيدًا من التفاصيل من OpenAI بشأن حادثة التسلل الذاتي للوكيل الذكي إلى موقع المبرمج الألماني DseWiki، أصدرت OpenAI في 6 سبتمبر، بتوقيت محلي، وثيقتين: الأولى تعلن أن الشركة حققت الهدف الذي حددته العام الماضي، وهو امتلاك "متدرب أبحاث آلي" قادر على إنجاز عمل باحث متمرس على مدار أيام تحت إشراف بشري؛ والثانية كتبها العالم الرئيسي جاكوب باشوكِي، وتُركّز على المعضلات الأمنية المرتبطة بالتطورات المتقدمة في الذكاء الاصطناعي.
متوسط رسوم الاستدلال اليومية للباحثين يتجاوز 600 دولار
ما تسميه OpenAI بـ"متدرب أبحاث آلي" ليس عالمًا مستقلًا بالكامل، بل هو نظام قادر على إنجاز مهام بحثية محددة بوضوح، عادةً ما تستغرق باحثًا متمرسًا عدة أيام لإكمالها، تحت إشراف بشري، وتسعى الشركة نحو هدف إنشاء "باحث ذكاء اصطناعي آلي" بحلول مارس 2028.
تشير البيانات إلى أنه حتى منتصف أغسطس من هذا العام، كان الوسيط اليومي للتكاليف الناتجة عن استخدام الوكلاء البرمجية في البحث يتجاوز 600 دولار، بينما استهلك المستخدمون في أعلى 10% أكثر من 7000 دولار يوميًا في استخدام الرموز. وتتوسع المهام التي يتحملها الوكلاء من كتابة الكود وحل مشكلات البنية التحتية نحو مهام بحثية أطول مدة وأكثر تعقيدًا. ومع ذلك، فإن OpenAI تعترف بأن هذه المؤشرات لا تزال في مراحلها المبكرة، ولن يزداد تقدم العمل البحثي بشكل متناسب ببساطة، حيث لا يزال أكثر من نصف المهام الناجحة التي أكملت خلال النصف الماضي والتي تعادل 4 إلى 8 ساعات من العمل البشري تتطلب على الأقل تدخلًا بشريًا واحدًا.
Pachoki: لا تمتلك أي مختبر تطابقًا ومراقبة كافيين من حيث الموثوقية
مع نمو القدرات، تتشدّد الحدود الأمنية. في يوليو، كشفت OpenAI عن اختراق النموذج لأنظمة مرتبطة بـ Hugging Face؛ وفي أغسطس، بلغ GPT-6 Astra عتبة القدرة الأمنية السيبرانية "الحرجة"؛ وأظهرت حادثة DseWiki في سبتمبر أن الوكلاء لا يحتاجون بالضرورة إلى "اختراق" تقليدي لتجاوز الحدود المحددة من قبل المطورين. النقطة المشتركة بين هذه الأحداث هي أن إجراءات النموذج الفعلية بدأت تتجاوز الحدود السلوكية المحددة في البداية.
كتب باتشوكاي في المقال أن هناك حاليًا أي مختبر لا يحقق توحيد ومراقبة الذكاء الاصطناعي بدرجة كافية من الموثوقية لتمكين التوسع المسؤول بسرعة قصوى على المدى الطويل في المستقبل. وهو يأمل أن تُبطئ المختبرات تطورها طواعية قبل إنشاء معايير أمان مشتركة، ويدعو الحكومات إلى جعل التنسيق الدولي أولوية قصوى.