أعترف ساتيا ناديللا، الرئيس التنفيذي لشركة مايكروسوفت، في بودكاست 20VC أنه كان يعتقد في الماضي أن تحسين قدرات الذكاء الاصطناعي سيؤدي تلقائيًا إلى تقدم في محاذاة القيم البشرية، لكنه غير رأيه الآن. وأشار إلى أن حجم النماذج لا يزال يتوسع باستمرار، لكن مشكلات المحاذاة أصبحت أكثر تعقيدًا، ولم تتحسن السيطرة بالتزامن مع تحسن القدرات. ودعا إلى اعتبار الذكاء الاصطناعي تهديدًا أمنيًا داخليًا، وضرورة بناء ثلاث طبقات من الحماية: تصميم أنظمة موثوقة، والرقابة البشرية، وبروتوكولات التشغيل، وحث على وضع معايير صناعية. يعكس هذا الرأي تحذيرات قادة الصناعة مثل ألتسمان وأموداي، ويُظهر أن حوكمة الذكاء الاصطناعي تنتقل من الشعارات إلى قيود هندسية ومؤسسية صارمة.مؤلف المقال، المصدر: AIBase
أجرى الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، انعكاسًا علنيًا في تقييمه لمشكلة "توحيد" الذكاء الاصطناعي. وفي حلقة جديدة من بودكاست "20VC"، سأله المضيف هاري ستيبينز عن الأفكار التي تغيرت خلال العام الماضي، فأقر ناديلا بأنه في الماضي كان يعتقد دائمًا أن كلما أصبح الذكاء الاصطناعي أقوى، ستُحلّ تلقائيًا مسألة جعل سلوكه يتماشى مع القيم والأهداف البشرية.
من "الحل الطبيعي" إلى "أكثر تعقيدًا"
لكن الواقع لم يسلك المسار المخطط له. اعترف ناديلارا أن نمو حجم النموذج وزيادة قدراته باستمرار كانا كما توقع؛ لكن "التوافق" — أي جعل سلوك الذكاء الاصطناعي يتبع القواعد — لم يُحل بعد. وقال: "كنت أعتقد دائمًا أن مشكلة التوافق ستُحل تلقائيًا. لم أعد أعتقد ذلك. قد تكون مشكلة التوافق أكثر تعقيدًا وطبيعتها مختلفة."
ما يُسمى بالتوافق يتعلق ب WHETHER سلوك الذكاء الاصطناعي يُطِيع البشر أم لا، وما إذا كان يتوافق مع أهداف البشر. عندما تصبح النماذج كبيرة لدرجة أن المصممين أنفسهم يصعب عليهم التنبؤ تمامًا بسلوكها، ينفصل نمو القدرات عن نمو التحكم، ليصبح هذا واقعًا جديدًا يتعين على ناديلرا مواجهته مباشرة.
احمِ نفسك من الذكاء الاصطناعي كـ"خائن داخلي"
كانت هناك إشارات مبكرة على هذا الحذر. في 10 أكتوبر، نشر ناديلار منشورًا على منصة X يحذّر من مخاطر الذكاء الاصطناعي، ودعا إلى تشديد الضوابط الأمنية الخارجية. كان اقتراحه الأساسي صارخًا: يجب على الشركات اعتبار نماذج الذكاء الاصطناعي "تهديدًا أمنيًا داخليًا"، والتعامل مع الحماية على أساس افتراض أن النموذج قد تم اختراقه بالفعل.
كتب في منشوره أن على النماذج التي يصعب التنبؤ بسلوكها بالكامل تطبيق ثلاث طبقات من الحماية: "تصميم نظام موثوق وذو طابع محدد، ورقابة بشرية، وإجراءات تشغيل محسّنة"؛ وفي الحالات التي لا تكفي فيها المعايير الحالية، يجب وضع قواعد صناعية على الفور.
نادرلا ليس حالة منفردة. فقد حذّر أورتمان من OpenAI وأموداي من Anthropic من المخاطر المحتملة للذكاء الاصطناعي؛ وفي يوليو من هذا العام، وقّع أكثر من 1000 متخصص على رسالة مفتوحة تحذر من أن سرعة تطور قدرات الذكاء الاصطناعي قد تجاوزت بالفعل قدرة البشر على فهمه أو التحكم فيه. عندما يخفض كبار المتداولين جماعياً ثقتهم في مبدأ "القوة تعني الأمان"، فإن حوكمة الذكاء الاصطناعي قد تحتاج إلى الانتقال من الشعارات إلى هندسة ومؤسسات أكثر صرامة.