رئيس علماء OpenAI يحذر من تعقيد الذكاء الاصطناعي المتزايد وتحديات التوافق

المؤلف: Jakub Pachocki

مُترجم: Deep潮 TechFlow

مقدمة شينتشاو: عالم رئيسي في OpenAI يتحدث نادرًا، ويصرح بأن الذكاء الاصطناعي يقترب من التحسين الذاتي التكراري، وأن أدوات التوافق والرصد لم تعد تواكب سرعة تطور النظام. لم يقدم استنتاجات مطمئنة، بل وضع على الطاولة أخطر المخاطر في السنوات القادمة: أن البشر قد يخلقون ذكاءً لا يمكنهم فهمه بالكامل أو التحكم فيه بالكامل. بالنسبة للممارسين المهتمين بنقطة التقاطع بين الذكاء الاصطناعي والتشفير، هذه مقالة ضرورية حول فقدان السيطرة على النظام وحدود الدفاع.

من منظور أوسع، يُدفع تقدم الذكاء الآلي بزيادة القدرة الحسابية. وفي حوالي عام 2017، أدركنا داخل OpenAI هذا الأمر بعمق. فقد لاحظنا أن عدة مشاريع بحثية حصلت على عوائد مستمرة عند توسيع نطاقها، فبدأنا في السعي للحصول على قدرة حسابية أكبر بكثير مما كان مخططًا له، وركزنا أبحاثنا بشكل متزايد على عدد قليل من الاتجاهات ذات القابلية العالية للتوسع. نحن نؤمن أن هذا هو الطريقة الوحيدة لوضعنا في طليعة أبحاث الذكاء الاصطناعي والتأثير على تأثير الذكاء العام الاصطناعي.

ظهرت خوارزميات جديدة على طول الطريق، كما أظهر فرق وباحثون فرديون أفكارًا مبتكرة. أرى هذه بشكل عام كاكتشافات على مسار التوسع. لا تزال علوم التعلم العميق في مراحلها المبكرة، وغالبًا ما ترتبط التقدمات الخوارزمية ذات المغزى بإمكانية الوصول إلى قوة الحوسبة. إذا نظرت على مدى سنوات، فإن الذكاء الاصطناعي يصبح أكثر ذكاءً باستمرار مع توسيعه على حواسب أكبر.

وأيضًا، كما تنبأ راي كورزويل في أواخر القرن العشرين، نحن الآن في لحظة من تاريخ الحوسبة حيث تبدأ الذكاء الاصطناعي في تجاوز البشر على مستوى تحويلي.

الذكاء الاصطناعي يبدو أكثر كأنه "ينمو" بدلاً من أن يُصمم. من حيث المبدأ الأولي، إنه ناتج عن تكرار خطوة تحسين بسيطة واحدة ملايين المرات على قدرات حوسبة لا يمكن تصورها. وهذا يخلق نظامًا معقدًا للغاية يعمل عبر مفاهيم مجردة، ويمكنه محاكاة بعض جوانب السلوك البشري. يمكننا اكتشاف رؤى حول الآليات الصغيرة الناشئة داخل هذا النظام، وهذه العملية تشبه علم الأعصاب. وكما هو الحال في علم الأعصاب، فإن سلوكه الكلي يتجاوز نطاق فهمنا الكامل.

البحث في الذكاء الاصطناعي القائم على التعلم العميق هو إلى حد كبير علم تجريبي. نستثمر جهدًا كبيرًا في بناء خوارزميات منهجية وصنع تنبؤات قابلة للاختبار. لكن في جوهره، فإن عمليات التدريب الواسعة النطاق الخاصة بنا هي تجارب، وأحيانًا تكون النتائج مفاجئة لنا. ومع تزايد قدرة الأنظمة، تصبح النتائج أكثر صعوبة في التفسير.

الأمر أكثر تعقيدًا، إذ إن الخوارزميات الحالية عادةً ما تُسرّع تقدم القدرات التي يمكن قياسها بسهولة مقارنةً بالقدرات التي يصعب قياسها موضوعيًا. لقد قضينا وقتًا طويلًا في محاولة فهم كيفية تعميم القدرات، وما هي المهارات التي يجب إعطاء الأولوية لتطويرها، لأنها ستكون الأهم في السنوات القادمة. على سبيل المثال، نحن نؤمن أنه إذا أُنفق جهد إضافي، يمكننا جعل النموذج أقوى في البحث الرياضي. لكننا لم نُعطِ هذا الاتجاه أولوية، لأننا نركز بشكل أكثر إلحاحًا على التحسين الذاتي التكراري وأبحاث التوافق الآلي. وسأعود إلى هذه النقطة لاحقًا.

الذكاء المستمد من تعلم عميق موسّع لا يمكن مقارنته مباشرة بالذكاء البشري. لكي يُحدث تأثيرًا كبيرًا في هذا العالم الحقيقي، سواء كان مفيدًا جدًا أو خطيرًا جدًا، لا يحتاج الذكاء الاصطناعي إلى مجاراة أو تجاوز جميع قدرات الإنسان. بل يكفي أن يتفوق على الإنسان في عدد كافٍ من القدرات. وعندما يتفوق باستمرار على الإنسان في المزيد من الأبعاد، يصبح من الصعب علينا أكثر فأكثر معرفة مدى قوته بدقة.

بما أن الذكاء الآلي ينشأ من عمليات مختلفة جذريًا عن الذكاء البشري، لا يمكننا افتراض أنه سيتبع تلقائيًا مبادئ الإنسان، ولا أن他会 يعمم هذه المبادئ بطريقة مشابهة للإنسان. المشكلة الأساسية في أبحاث الذكاء الاصطناعي هي مشكلة التوافق: جعل الذكاء الاصطناعي "يسعى لفعل الشيء الصحيح وفقًا للمعايير البشرية".

لتسهيل تنظيم اتجاهات البحث الفعلية، أعتقد أن فصل التوافق الهدف من التوافق القيمي مفيد.

يتعلق التوافق المستهدف تقريبًا بـ: "هل يبذل الذكاء الاصطناعي جهدًا لإكمال الأهداف المعروضة عليه؟" ويمكن أن يشمل الامتثال لمستويات التعليمات، وقدرة التفاعل والتعاون مع البشر، ومحاولة فهم أهداف البشر، إلخ. هذه الفئة من الاتجاهات ذات أهمية بالغة في التطبيق العملي.

التوافق القيمي هو خاصية أكثر جوهرية في النموذج. إنه قدرة على امتلاك مبادئ رفيعة المستوى والتوسع منها؛ حيث يمكنه التصرف "بشكل معقول" حتى عند مواجهة أهداف غير واضحة أو متعارضة، أو عندما يُوضع في سياقات غريبة أو عدائية. يجب أن يكون الذكاء الاصطناعي المتوافق صادقًا ونبيلًا ومحبًا للبشر.

بالطبع، الحدود بين التوافق القيمي والتوافق الهدف قد تكون غامضة. الاهتمام الحقيقي بالهدف يتطلب محاولة استنتاج النوايا والقيم الكامنة وراء الهدف. ومع ذلك، بشكل عام، عندما أتحدث عن الأهمية طويلة الأجل لأبحاث التوافق، فأنا أشير إلى التوافق القيمي.

التحدي الأساسي في محاذاة الذكاء الاصطناعي هو التعميم. مع تطور الآلات وتصبح أكثر ذكاءً، فإنها ستتعامل مع مفاهيم أعلى مستوى وستجد نفسها في بيئات مختلفة بشكل متزايد عن تلك التي تدربت عليها. قد تفشل في تعميم القيم التي تم تعليمها وتعزيزها لها أثناء التدريب على سياقات جديدة. كما أن من الصعب علينا تحديد كيفية تصرفها. وأصعب من ذلك، أن البيئة الشاملة التي تُستخدم فيها الذكاء الاصطناعي تتغير بسرعة كبيرة. على سبيل المثال، فإن الذكاء الاصطناعي الذي يُدرّب اليوم يحتاج إلى القدرة على التفاعل بثبات مع أنواع متعددة من الذكاءات الاصطناعية الأخرى. والأهم من ذلك، أننا نحتاج إلى أن تستمر الذكاءات الاصطناعية المستقبلية في الحفاظ على قيم البشر، بغض النظر عما إذا كانت تؤمن بأنها تخضع للرقابة البشرية أم لا.

توجد حاليًا فئتان رئيسيتان من أساليب التدريب المُحاذاة المستخدمة عمليًا.

النوع الأول هو تشجيع السلوكيات المتسقة مع التعلم المعزز القائم على الأهداف. يتم تقييم سلوك النموذج، عادةً من قبل الذكاء الاصطناعي، لتحديد ما إذا كان يتوافق مع نموذج تفضيلات معين أو "معايير" أو "دستور"، ثم يتم منح مكافآت مناسبة. هذه الطريقة فعالة جدًا في الظروف العامة وهي جزء أساسي من بناء مساعدين ذكاء اصطناعي حديثين. لكن للأسف، قد تكون هشة وتعتمد بشدة على مدى تغطية الإشراف التدريبي، وقدرة النموذج على التعميم من الحالات التي واجهها أثناء التدريب. على سبيل المثال، في حادثة OpenAI وHugging Face، حافظ الوكيل على حدود معينة، أي عدم إجراء هندسة اجتماعية على البشر. ومع ذلك، لم يتجنبوا بوضوح سلوكيات أخرى خارج النطاق، والتي تتعارض مع روح القيم التي تم تدريبهم عليها في سيناريوهات أخرى.

لقد أتت هذه الطرق بنتائج ملحوظة. نماذجنا اليوم مفيدة إلى حد كبير وخالية من الضرر، وتُظهر سلوكيات مشجعة تقترب من التوافق مع القيم. لكنها لا تضمن لنا أن هذه القيود القيمية ستظل فعالة في الأنظمة التي تتفوق بكثير على القدرات البشرية.

مع تحسن قدرات أنظمة الذكاء الاصطناعي، نحتاج إلى جعل تدريب التوافق مع القيم يسبق تدريب القدرات. لكن هناك مشكلة جوهرية للغاية هنا: فكلما زادت قوة النظام، زاد احتمال قدرته على اكتشاف ثغرات بنفسه، أو تجنب الاختبارات، أو إخفاء سلوكه. يمكنها تعلم إظهار توافق مع القيم البشرية في بيئات الاختبار، ثم القيام بأمور مختلفة تمامًا في بيئات النشر الفعلية. وهذا ما يُعرف بـ"الخداع في التوافق".

لكن إذا حاولنا فرض قيود قوية عليها، فقد تطور سلوكيات مقاومة أو خداع، أو قد تفسر تدخلاتنا كجزء من العالم، مما يؤدي إلى ردود فعل غير بديهية. نواجه عدم توازن طبيعي عندما نحاول التحكم في نظام أكثر ذكاءً منا.

مع تزايد قوة العقول التي لا نستطيع فهمها بالكامل، أصبحنا نعتمد على مجموعة أخرى من الأدوات: المراقبة. إذا استطعنا مراقبة الأنشطة الداخلية للذكاء الاصطناعي باستمرار، فقد نتمكن من اكتشاف إشارات قبل أن يتجاوز حدودًا معينة.

في OpenAI، كنا نواصل تقدم أبحاث التفسيرية في محاولة لفتح "الصندوق الأسود" للشبكات العصبية. وقد أحرزت هذه الجهود تقدماً. نحن الآن قادرون على تحديد بعض التمثيلات التي توفر أدلة جوهرية حول كيفية عمل النموذج داخلياً. لكن أبحاث التفسيرية الحالية لا تزال خشنة، خاصة في فهم الاستدلال المجرد داخل النماذج الكبيرة. الفجوة بين قدرتنا على مراقبة ما يحدث داخل النموذج وتعقيد الاستدلال الذي يمتلكه النموذج نفسه تزداد اتساعاً.

هذا يثير قلقي بشكل خاص. فمشكلة التعميم في المراقبة خطيرة مثل مشكلة التعميم في التوافق. إذا كان نظام ما أفضل منا في إخفاء نفسه، فمن الصعب أن نضمن أن أدوات المراقبة الخاصة بنا لن تُتجاوز. قد نظن أن النموذج آمن لأننا نرى مجموعة من المؤشرات التي تبدو جيدة، بينما في الواقع، النموذج يُحسّن فقط تلك المؤشرات. سيتعلم إخفاء الأهداف التي لا نريده أن يمتلكها، أو إخفاء ما يقوم به.

إذا بدأ النموذج في دفع تحسيناته الخاصة، وهو ما أعتقد أنه من المحتمل جدًا أن يحدث في السنوات القادمة، فسيحتاج إلى مهارات التخطيط والخداع والحماية الذاتية. قد تنشأ هذه المهارات من ضغوط الأهداف التي نضعها له، أو من محاولته التحرك في الفجوات بين أنظمة المراقبة. لضمان عدم تطوره لهذه السمات، إما أن نحتاج إلى حل مشكلة التوافق القيمي، أو أن نواكب كل خطوة من خطوات تطوره بقدرات مراقبة متطورة. وكلا الأمرين لا يزالان بعيدين جدًا عن الكفاية حاليًا.

لا نمتلك حتى الآن نظرية مرضية للتعميم، ويبدو من غير المرجح أن يتم تطويرها في المدى القصير، على الأقل دون مساعدة من ذكاء اصطناعي أقوى. لذلك، فإن قدرتنا الحالية على التحقق التجريبي لتقنيات التوافق تُعد في الممارسة العملية أكثر أهمية من تقنيات التوافق نفسها.

الرهان الرئيسي لـ OpenAI هنا كان دائمًا مراقبة سلسلة التفكير. وهو مبني على فكرة قابلة للتوسع وجذابة: أن جزءًا كبيرًا من قدرات النموذج يأتي من عملية استدلال مُصاغة لغويًا، أي سلسلة التفكير. إذا قمنا بتحسين نتائج هذه العملية على نطاق واسع دون مراقبة العملية نفسها، فلن يكون هناك دافع مباشر لسلسلة التفكير خلال التدريب على إخفاء أي أفكار أو أهداف غير متوافقة. هذا لا يعني أن النموذج سيتعلم إظهار الميلات غير المتوافقة التي لا تعتمد على سلسلة التفكير؛ لكنه يمكن أن يسمح لنا بمراقبة الدقة في تحسين القدرات الناتجة عن الاستدلال.

في حين كنا نطور نماذج الاستدلال، فهمنا الأهمية المحتملة لمراقبة سلسلة التفكير. عند إصدار o1‑preview، قمنا عمدًا بتصميم المنتج بحيث يخفي سلسلة التفكير لحمايتها على المدى الطويل من ضغوط المراقبة. خلال التطوير منذ ذلك الحين، حافظنا باستمرار على قاعدة عدم مراقبة عملية الاستدلال. أصبحت مراقبة سلسلة التفكير أداة بالغة الأهمية في بحثنا حول كيفية تعميم النماذج من توزيع التدريب، مما يسمح لنا ليس فقط بمراقبة وتحليل سلوك النموذج، بل أيضًا بمشاهدة عملياته الداخلية.

عندما كنا ندرس نماذج Astra، كان هذا الأداة لا تزال حاسمة. ومع ذلك، لسوء الحظ، أظهر تقييمنا أن قدرتنا على الاعتماد على مراقبة سلسلة التفكير تتدهور تدريجيًا. وهذا نتيجة لعوامل متعددة.

تُستخدم نماذج الاستدلال الحديثة في بيئات أكثر تعقيدًا من o1‑preview؛ وتصبح عملية استدلالها أكثر ارتباطًا بالتفاعل مع البشر وذكاءات اصطناعية أخرى واستخدام الأدوات. يجب مراقبة العديد من هذه التفاعلات، مما يُضيّق الحدود التي نرغب في الحفاظ عليها.

يصبح الذكاء الاصطناعي أقوى في الاستدلال والتحكم في عملية استدلاله الخاصة.

مع تحسين أداء التدريب المسبق، لاحظنا أيضًا أن النماذج أصبحت أكثر ذكاءً حتى دون استخدام الاستدلال اللغوي على الإطلاق.

هذه التحديات ليست بالضرورة غير قابلة للتجاوز. أتمنى أن نتمكن من تطوير تدخلات لتعزيز قابلية مراقبة سلسلة تفكير النموذج، على سبيل المثال فهم أفضل للتفاعلات بين أهداف التحسين المختلفة وأنواع الحسابات الزمنية التي يستخدمها النموذج. وأؤمن أيضًا بأن دمج فكرة مراقبة سلسلة التفكير مع مراقبة التنشيط سيكون ذا قيمة كبيرة، وتدريب نماذج قابلة للتوسع يمكنها الوصول المباشر إلى الحالة الداخلية للشبكة، مثل طريقة "الاعتراف". نحن ندفع قدمًا في تطوير هذه الأفكار. ومع ذلك، أتوقع أن تصبح تقدمات الذكاء العام محدودة بشكل متزايد بثقة المراقبة.

لمواجهة هذا الوضع، أعتقد أننا بحاجة إلى دفاع قابل للتوسع يواكب وتيرة نمو الذكاء الاصطناعي. لا يمكن للبشر فحص يدوي لجميع سلوكيات كل نموذج جديد. إن تقييماتنا واختبارات فرق الحمراء الحالية لا تزال فعالة للنماذج الحالية، لكنها ستصل بسرعة إلى حدودها مع تحسن قدرات الأنظمة.

نحتاج إلى أنظمة ذكاء اصطناعي قادرة على اكتشاف المخاطر الجديدة تلقائيًا. هذه الأنظمة الدفاعية نفسها يجب أن تكون ذكية بما يكفي لتحديد السلوكيات المشبوهة في أنظمة أكثر ذكاءً منها. وهذا يخلق تحديًا تكراريًا: يجب على المدافعين أن ينمووا بنفس سرعة النظام. نحن نقف الآن عند نقطة حيث يصبح الفصل بين الأمان والقدرة أكثر صعوبة متزايدة. للحفاظ على الأمان، قد نضطر إلى تحسين قدرات ذكاء اصطناعي الدفاع باستمرار، وهو ما بدوره سيُسرّع من نمو القدرة العامة للذكاء الاصطناعي.

هذه دورة مقلقة. نحن نعزز القدرات من أجل الأمان، لكن تعزيز القدرات يجلب مخاطر أكبر. ربما يكون الحل الحقيقي في إيجاد طريقة مستقرة لتحقيق التوافق القيمي والتوسع الموثوق قبل الوصول إلى نقطة فقدان السيطرة. لكنني يجب أن أعترف بصراحة أننا لا نزال بعيدين جدًا عن هذا الهدف.

هذا هو السبب في أنني أميل إلى توجيه آمالي للسنوات القادمة نحو هذا المزيج: أبحاث التوافق التقني + أنظمة دفاع تلقائية + تدخلات حوكمة واسعة النطاق + يقظة الجمهور والمؤسسات. الإجراء الفردي غير كافٍ. لا يمكننا الاعتماد فقط على ضبط النفس من قبل شركة أو مختبر واحد.

أعتقد أن السبب الأقوى لمواصلة تدريب نماذج أذكى بسرعة هو الحاجة إلى إنشاء أنظمة دفاع للتصدي للخطر الناتج عن الذكاء الاصطناعي الآخر.

إحدى المخاطر الواضحة التي تم مناقشتها طوال هذا العام هي الأمن السيبراني: لقد تجاوزت قدرات النماذج على اختراق وهروب أنظمة الحاسوب قدرات البشر. وهذا يوسع بشكل كبير نطاق المخاطر المرتبطة بالذكاء الاصطناعي: ستتمكن الوكلاء من الوصول إلى أي نظام باستثناء البنية التحتية الأكثر أمانًا، والتأثير المباشر على عدد كبير من الأشياء في العالم، حتى بدون جسد مادي. نحن حاليًا في نافذة ضيقة تتطلب استخدام أفضل النماذج المتاحة لتعزيز أمان الأنظمة الحيوية بشكل كبير.

المخاطر المرتبطة بالذكاء الاصطناعي ستستمر للأسف في النمو من هنا. يمثل وكيل قوي للغاية، تم تدريبه وإرشاده صراحةً لتنفيذ سلوكيات ضارة، خطرًا جديدًا؛ فمن المحتمل أن يتجاوز نوايا المشغل، ويتعمم في سلوكيات أكثر شراسة وضراوة. مع اكتساب الذكاء الاصطناعي لمزيد من الاستقلالية، ستتلاشى الحدود بين الإساءة والسلوكيات غير المتماشية مع الاستقلالية. قد نعتاد اعتبار الذكاء الاصطناعي أداة، لكن بعض الوكلاء سيسعون لتحقيق أهدافهم الخاصة. وسيحاولون التعاون مع البشر من خلال التفاوض أو الخداع أو التهديد.

إضافةً إلى ذلك، هناك مخاطر قد تنشأ من التقنيات الجديدة التي قد تُولد بواسطة الذكاء الاصطناعي، مثل الممرضات المُهندسة.

سنحتاج إلى ذكاء اصطناعي قوي ومتماسك للدفاع: حماية البنية التحتية، والدفاع في الوقت الفعلي ضد الوكلاء غير الخاضعة للرقابة، واختراع تدابير دفاعية جديدة بالكامل. وسيكون هذا أحد التركيزات الرئيسية لعملية نشر OpenAI.

في الوقت نفسه، حتى مع أخذ عدم اليقين الناتج عن التقدم المتوقع في الذكاء الاصطناعي وضرورة بناء أنظمة دفاعية في الاعتبار، لا يمكننا أن نجعل هذا ذريعة للسلوك المتسرع. بمجرد أن يفهم الناس حقًا خطورة الموقف، يصبح مفهوم "التقدم بجميع الوسائل الممكنة" أمرًا سخيفًا تمامًا.

تلعب الذكاء الاصطناعي دورًا متزايد الأهمية في تطورها الخاص، وهو الاستنتاج الحتمي للتقدم التكنولوجي المستمر. إذا استمر الذكاء الاصطناعي في التقدم، فسيصبح التحسين الذاتي التكراري للآلات جوهر الاكتشافات العلمية المستقبلية.

البحث التلقائي بالذكاء الاصطناعي هو شكل أكثر حدة من توسيع الحوسبة لتعزيز الذكاء؛ وبالطبع، كجزء من ذلك، سيُحسّن الذكاء الاصطناعي أيضًا البنية التحتية للحوسبة نفسها. مثل التوسيع، نركز بحث OpenAI على التحسين الذاتي التكراري، لأننا نؤمن أن هذا هو السبيل الوحيد لمواصلة التواجد في طليعة أبحاث الذكاء الاصطناعي.

أود التأكيد على أن المحتوى أعلاه لا يعني أنني أرى أن تسريعًا كبيرًا لأبحاث التعلم العميق، خاصة على المدى القصير، هو إجراء جماعي ينبغي على المجتمع البحثي اتخاذه. لكنني أعتقد بالفعل أن المسار الحالي يقودنا نحو هذا الاتجاه، ونحن جميعًا بحاجة إلى اختيار واعٍ لكيفية المضي قدمًا. لدينا مُسَلَّحان رئيسيان بين أيدينا: أولهما توجيه هذه العملية، وتعزيز التوافق والرصد أثناء تطوير الذكاء الاصطناعي، والسعي لضمان مشاركة الإنسان دائمًا؛ وثانيهما تنسيق تباطؤ وتيرة التطوير المستقبلية حسب الحاجة، من أجل بناء الثقة تدريجيًا في هذه التدابير.

الطريقة الأفضل التي أراها للتقدم حالياً هي دمج الاثنين معًا.

التقدم الملموس الذي أحرزناه في التزامن والمراقبة متشابك عميقًا مع التقدم العام في الذكاء الاصطناعي. أمثلة جيدة تشمل التعلم المعزز بناءً على التغذية الراجعة البشرية، والذي كان أساسيًا في تدريب المساعدين الأوليين للذكاء الاصطناعي؛ بالإضافة إلى مراقبة سلسلة التفكير المذكورة سابقًا، والتي أصبحت ممكنة بفضل تقدم نماذج الاستدلال. يجب أن نوجه عملية البحث المتزايدة التلقائية نحو تطوير هذه الرؤى والخوارزميات والنظريات الجديدة، وبناء حجج أمان تدريجيًا للذكاء الاصطناعي الأكثر قدرة.

يجب أن تكون أنظمة الذكاء الاصطناعي الموسعة مقيدة بثقتنا في الأمان. نحتاج إلى تحويل الالتزامات مثل إطار الاستعداد أو سياسة التوسع المسؤول إلى عتبات أمان مستمرة يتم فرضها على نطاق واسع. يمكن تنفيذ هذه العتبات من قبل شبكة من هيئات التدقيق الخارجية، أو الوكالات الحكومية، أو المنظمات الدولية.

التحدي الأساسي للبحث الآلي بالذكاء الاصطناعي ليس "الوصول إلى هناك"، بل الوصول إلى هناك بطريقة تجعل الناس يظلون ملتزمين بعملية التحسين المستمر، ويبقون المستقبل في أيدي البشر.

لا أستطيع التنبؤ بالوقت الدقيق، لكن يبدو أننا نقترب بسرعة من عصر يمكن للذكاء الاصطناعي فيه دفع تطوره الخاص عبر عدة جوانب رئيسية. هذا يعني أننا قد ندخل قريبًا مرحلة التحسين الذاتي التكراري.

داخل OpenAI، بدأنا بالفعل في إعادة ترتيب أولويات البحث لتركيز المزيد من الموارد على التوافق والدفاع، بدلاً من التوسع في القدرات فقط. وهذا هو السبب في أنني أؤكد أننا لن نسعى فقط وراء النماذج الأكبر، بل نحتاج إلى اختيار التوقف أحادي الجانب في اللحظات الضرورية.

ومع ذلك، لا يمكن ترك هذه القرارات فقط لعدد قليل من الأشخاص داخل الشركات. يجب على الحكومات والمجتمع الدولي التدخل قبل أن تصبح المخاطر غير قابلة للعكس. وهذا يشمل إنشاء آليات لمراقبة عمليات التدريب المتقدمة، وفرض مراجعة خارجية مستقلة، واتفاقيات دولية تضع حدودًا للقدرات.

أنا لست متأكدًا تمامًا من أن هذه التدابير ستُطبق في الوقت المناسب. أحيانًا أشعر بالإحباط لأن تدابير أماننا تبقى دائمًا خلف القدرات، وليس متقدمة عليها. يبدو أننا نحاول دائمًا اللحاق بالركب. لكنني لا أزال أرى أسبابًا للحفاظ على الأمل: في تلك الليلة من عام 2023، كنا نشعر فقط بوجود إمكانية خفيفة، بينما اليوم أصبحت هذه الإمكانية واضحة بما يكفي لمناقشتها علنًا. وهذا بحد ذاته تقدم.

لن أتظاهر بأنني أعرف جميع الإجابات. نحن نخلق شيئًا مختلفًا تمامًا عن العقل البشري، وقد يصبح هذا العقل أقوى منا قريبًا. هذه فكرة تُشعر بالتواضع، لكنها تمنحنا أيضًا فرصة: لتشكيله بقيمنا الأفضل.

إذا قمنا بذلك بشكل جيد، فسيكون هذا أعظم إنجاز للبشرية. وإذا قمنا به بشكل سيء، فقد يكون فشلاً لا يمكننا التعافي منه.

Whether we can keep the future in human hands is a question that will be decided in the coming years.

كما أوضحنا مؤخرًا مع سام، فإن الأعمال التي تُقدّمها OpenAI بأولوية تخدم ثلاثة أهداف قطبية:

اجتياز المرحلة التالية من تقدم الذكاء الاصطناعي من خلال بناء باحث ذكي آلي، والتعاون معه في تكرار مواءمة المشكلات، والبحث عن طرق لجعل الناس يظلون ملتزمين في حلقة التحسين الذاتي.

Unlock the scientific advancements and economic growth benefits brought by ultra-intelligent machines.

Let everyone have their own personal AGI.

يركز هذا المقال فقط على النقطة الأولى، لأنني أعتبرها الأكثر إلحاحًا حاليًا. ومع ذلك، أتطلع وأشعر بالامتنان العميق للفوائد التي سيجلبها التقدم التقني المستقبلي. يمكن للذكاء الاصطناعي المتماشي مستقبلًا أن يدفع عجلة العلم، ويطور علاجات جديدة، ويوفر وفرة مادية واسعة النطاق. ويمكن للذكاء الاصطناعي الودود والصادق أن يساعد الأشخاص على مواجهة صعوبات الحياة، وتحسين حقيقية لشعورهم بالسعادة والرضا. بذلت OpenAI جهودًا كبيرة لتحقيق هذه الفوائد. مثال يفخر به أنا ويستفيد منه من حولي حاليًا هو استثمارنا العميق في قدرة ChatGPT على تقديم معلومات صحية.

مهما كانت آفاق الذكاء الاصطناعي على المدى الطويل مشرقة، يجب أن نركز معظم انتباهنا على السنوات القادمة. نحن نمر بمرحلة انتقالية نحو عالم تمتلك فيه آلات ذكية للغاية، ويجب أن نضمن أن هذا الانتقال يكون مفيدًا للبشر. في عالم قد تُنجز فيه معظم المهام بواسطة الذكاء الاصطناعي، نحتاج إلى إيجاد طرق للحفاظ على قدرة الإنسان على التصرف، وتأكيد القيمة الجوهرية لكونك إنسانًا. يجب منع تركيز السلطة بشكل متطرف: فما كان يتطلب في الماضي آلاف الخبراء لإكماله، قد يصبح في المستقبل ممكنًا بعمل عدد قليل من الأشخاص باستخدام حاسوب ضخم واحد. كما يجب التأكد من أن البشر يبقون في مقدمة السيطرة على المستقبل، ولا يُتركون خلفهم بسبب تقدم خارجي لا يمكن التحكم فيه ناتج عن ذكاء أجنبي يفوقنا.

أعتقد حاليًا أنه لا توجد أي مختبرات حتى الآن قد حققت مستوى كافيًا من التوافق والرصد لدعم توسعها المسؤول بسرعة قصوى على المدى الأطول. أتطلع وأتمنى أن يصبح التباطؤ الطوعي قاعدة حتى يتم إنشاء عتبة أمان مشتركة. كما أؤمن أن التنسيق الدولي حول تطور الذكاء الاصطناعي المستقبلي يجب أن يصبح أولوية قصوى لحكومات جميع الدول.

1 يشمل ذلك توسيع الألعاب الاستراتيجية، وتقنيات الروبوتات، وأهمها من وجهة نظر لاحقة، توسيع الشبكات التكرارية لنمذجة اللغة، وهو ما وضع الأسس لسلسلة أبحاث GPT.

السبب الثانوي لهذا التصميم هو منع التقطير. ومع ذلك، ظل الحفاظ على قابلية مراقبة سلسلة التفكير دائمًا أولوية أكبر واضحة لدينا طوال عملية التطوير.