مدير عام Anthropic يقترح إطارًا لسياسة الذكاء الاصطناعي وسط النمو التكنولوجي السريع

في الآونة الأخيرة، أصدر داريو أمودي، الرئيس التنفيذي لشركة Anthropic، أحد أبرز رؤوس الذكاء الاصطناعي، مقالًا طويلًا بطول عشرة آلاف كلمة أثار انتشارًا واسعًا على الإنترنت بعنوان: "السياسات في عصر مؤشرات الذكاء الاصطناعي". وقد تناول المقال بالتفصيل خمسة مجالات سياسية، وقدم ملاحظات دقيقة واقتراحات منهجية تشمل التنظيم والجغرافيا السياسية.

(الرابط الأصلي:https://darioamodei.com/post/policy-on-the-ai-exponential، النص الكامل بالصينية مرفق أدناه.)

يجب الاعتراف بأنه في دائرة سيليكون فالي التي تملأ أفواهها بـ"تغيير العالم" وتقتصر فقط على رسم وعود كبيرة، فإن داريو يُعد تيارًا نادرًا.

لقد كشف بصدق شديد، بل وربما بدرجة من "التضحية من أجل المبدأ"، عن التمويه الذي تستخدمه دائرة التكنولوجيا لإخفاء الحقائق.

يُحبّ المُختصّون دائمًا نسب مخاوف الجمهور من الذكاء الاصطناعي إلى "سوء إدارة العلاقات العامة"، لكن داريو يردّ بحسم: الناس قلقون لأن المخاطر حقيقية، وهي ليست مشكلة علاقات عامة على الإطلاق.

وأقر أيضًا بالحقيقة التي تحاول الشركات التكنولوجية الكبرى تجنبها مباشرة: من المحتمل جدًا أن تؤدي الذكاء الاصطناعي إلى موجة كبيرة ومستمرة من البطالة، مما يُعطل الاقتصاد في حالة متطرفة من "النمو الفائق وعدم المساواة الفائق".

لكن إذا استمررنا في تطبيق العلاج الذي قدمه هذا "المبلغ" من خط المقدمة في الصناعة، فسنكتشف مفارقة بنيوية مثيرة للتفكير:

هذا المسؤول الملتزم، الذي يدعو إلى فرض قيود على الصناعة، يدفع بشكل موضوعي نحو نقل سلطات غير مسبوق. إن النخبة في وادي السيليكون تعيد صياغة قوانين المجتمع البشري.

مواجهة الذكاء الاصطناعي الذي يتطور بسرعة البرق، أصبح داريو قلقًا واقترح على الحكومة أن تنظم الذكاء الاصطناعي فورًا كما تُنظم الطائرات والأدوية.

على سبيل المثال، إنشاء آلية مشابهة لإدارة الطيران الفيدرالية (FAA) تتطلب من النماذج المتقدمة التي تحقق معيار القوة الحسابية الخضوع لاختبارات أمان إلزامية من طرف ثالث، وإلا فلا يُسمح بنشرها.

The starting point is undoubtedly for human safety.

لكن من منظور القوانين الموضوعية لتطور الأعمال، فإن صناعة الطيران تُعد احتكاراً قليلاً متركزاً بسبب ارتفاع تكاليف الامتثال إلى درجة هائلة.

بمجرد أن تصبح صناعة الذكاء الاصطناعي "مُفعّلة حقًا"، ستتحول رسوم المراجعة المرتفعة واختبارات فريق الأحمر الدورية واختبارات الاختراق إلى جدار غير قابل للاختراق من "الأنين".

التنظيم، أحيانًا، هو خندق الحماية للقادة. لا تستطيع الشركات الناشئة ومجتمعات مفتوحة المصدر تحمل تكلفته أبدًا.

النتيجة النهائية هي: أن العمالقة، بدافع من "حبٍّ عظيم" لأمن البشرية جمعاء، استخدموا بشكل موضوعي السلطة العامة لتنفيذ عملية إزالة قانونية، وثبتوا مكانتهم الاحتكارية في القانون.

نفس المنطق الدقيق موجود في مجالات الأدوية والجغرافيا السياسية.

يدعو داريو المؤسسات التقليدية مثل إدارة الأغذية والعقاقير إلى تخفيف متطلبات الموافقة على تطوير الأدوية باستخدام الذكاء الاصطناعي، وقبول المحاكاة بالذكاء الاصطناعي كبديل للتجارب السريرية الطويلة. إن النية حسنة، لكنها بلا شك تزيل العقبات أمام كبار شركات الذكاء الاصطناعي التي تمتلك أقوى قوة حوسبة لتنفيذ هجوم منخفض المستوى على قطاع الأدوية بقيمة تريليونات الدولارات.

في الوقت نفسه، تصور تحالفًا للدول الديمقراطية في مجال الذكاء الاصطناعي، يشارك داخلياً الرقائق، ويدافع بصرامة ضد الخارج.

إذا تم إنشاء هذا التحالف، من يقدم التقنية؟ من يستبعد؟ من يُعدّ عدوًا؟ من يربح خلال هذه العملية بأكملها؟

للحفاظ على الفجوة التكنولوجية، لم تعد الشركات التكنولوجية الكبرى مجرد مزودين للتكنولوجيا، بل أصبحت بشكل طبيعي صانعي قواعد اللعبة الجديدة، بل وقد تتحول إلى "مركب عسكري رقمي" جديد يستلم ميزانيات دفاعية ضخمة.

إذا نظرنا إلى الخيوط الدقيقة في التاريخ، فكل هذا كان مُنبئًا به مسبقًا.

في التاريخ، عندما تصبح الشركة كبيرة بما يكفي، فإنها غالبًا ما "تستولي على الدولة أو تتبني سمات شبه دولية". وقد أشار داريو نفسه في النص إلى تشبيه دقيق جدًا: شركة الهند الشرقية البريطانية.

الشركة الهندية الشرقية كانت في البداية مجرد مجموعة من التجار المتخصصين في تجارة التوابل، لكن من أجل حماية الممرات البحرية وإدارة المصالح الواسعة عبر الحدود، بدأوا تدريجيًا في تجنيد جيوش وإنشاء محاكم وإصدار عملات، وتحولوا في النهاية إلى "دولة شبه رسمية" تحكم شبه القارة.

اليوم، يسلك عمالقة وادي السيليكون نفس المسار تمامًا.

لكن الوسيلة في ذلك الوقت كانت السفن الحربية والمدافع، أما اليوم فهي القوة الحسابية.

داريو تصور مستقبلاً مذهلاً: إذا استمرت الذكاء الاصطناعي في التطور الأسي، فستصبح "أمة عباقرة داخل مراكز البيانات": فالذكاء الاصطناعي يشبه تجمعًا للعباقرة في جميع المجالات، وامتلاك ذكاء اصطناعي قوي يشبه امتلاك عدد من العباقرة يعادل دولة بأكملها يعملون لصالحك. لذا، عندما تواجه جيش يمتلك ذكاءً اصطناعيًا قويًا جيشًا لا يمتلك ذكاءً اصطناعيًا، فإن الفجوة تشبه "فوج مشاة بحري من الحرب العالمية الثانية يواجه فرسانًا من العصور الوسطى".

عندما تمتلك شركات التكنولوجيا الكبرى تقنيات فائقة قادرة على إحداث انهيار مالي، أو تصنيع أسلحة بيولوجية، أو حتى تحديد تشكيلات الجغرافيا السياسية العالمية، تبدأ المؤسسات الوطنية التقليدية في صعوبة فرض قيود فعالة عليها.

لقد حاول العملاقون بالفعل وضع معايير أمان خاصة بهم، واختبار نماذجهم بأنفسهم، وحتى ابتكار حلول تحالفات دولية خاصة بهم.

ليس لأنهم مجموعة من الطامعين الشريرين، بل لأن تطور التكنولوجيا إلى هذا الحجم أدى إلى فراغ في السلطة وتعقيد الطبيعة البشرية، مما أجبرهم على السير تلقائيًا على مسار مشابه.

في عصر يتحدد فيه كل شيء بالقدرة الحسابية، يبدو أن قوة الفرد مضغوطة بشكل لا نهائي.

داريو كشف الحقيقة بلا رحمة: الذكاء الاصطناعي لا يستبدل فقط العمل البدني، بل القدرة المعرفية التي يفتخر بها البشر نفسها.

عندما تبدو منطقنا واستراتيجياتنا التي تدربنا عليها بجد في مكان العمل كأنها لعبة أطفال أمام "الوطن الذي يجمع جميع العباقرة" الذي يمثله الذكاء الاصطناعي، كيف يجب أن نتعامل مع أنفسنا؟

الوصفة التي يقدمها الكبار هي: دعم اقتصادي كلي مثل الدخل الأساسي الشامل (UBI). حتى لو لم تعمل، فإن الدولة تدفع لك المال لتعيش.

لكن وظيفتك حُفظت، فمن سيملأ الحفرة الكبيرة في قلبك؟

ربما مثل الاستعارة التي قدمها داريو في النص: حتى لو تفوقت الآلات منذ زمن طويل على البشر في الشطرنج والغو، لا يزال الناس يكرسون حياتهم للوحة الشطرنج، ولا يزالون يحظون بالاحترام.

لأن الآلة تحسب "الحل الأمثل" البارد، بينما يسعى البشر إلى "التجربة نفسها" الحية والنشيطة.

The traits that cannot be standardized will become the most scarce resources in the future.

في قصة فرعية من "سيد الخواتم"، يحاول اثنان من الهوبيت إيقاظ تريبيرد — شجرة واعية حكيمة ولكنها بطيئة الحركة — لحماية غابته من جيش يقطع الأشجار. المشكلة تكمن في أن سرعة حركة تريبيرد تختلف تمامًا عن سرعة الهوبيت. فهو يحتاج إلى يوم كامل فقط للسلام على شجرة أخرى، لذا من المستحيل تقريبًا جعله هو وأصدقاؤه يتصرفون بسرعة كافية.

يبدو تقاطع الذكاء الاصطناعي (AI) مع نظامنا السياسي وكأنه بين الهوبيت وشجرة. يتطور الذكاء الاصطناعي بسرعة خاطفة (俚语/习语，意为极快的速度) — ففي أربع سنوات فقط، تطورت نماذج الذكاء الاصطناعي من كونها لا تستطيع كتابة سطر واحد من الكود المتصل، إلى كتابة معظم الكود في الشركات الكبرى المتخصصة في الذكاء الاصطناعي. وقد شهدت مجالات أخرى مثل البيولوجيا والفيزياء والرياضيات والمالية والقانون والترجمة والعديد من المجالات الأخرى تقدمًا مماثلًا. إن قوانين التوسع (scaling laws) للذكاء الاصطناعي، التي تتنبأ بأن القدرة المعرفية العامة ستزداد بشكل أسّي مع زيادة قدرة الحوسبة، لديها الآن أكثر من عشر سنوات من الأدلة التجريبية الداعمة لها. إذا استمرت هذه قوانين التوسع لعامين أو حتى أقل، فمن المحتمل جدًا أن نحصل على ما أسميه "ذكاء اصطناعي قوي (Powerful AI)"، أو "أمة من العباقرة داخل مراكز البيانات".

على النقيض من ذلك، فإن السياسة — خاصة التشريع — ت tiến ببطء شديد. عادةً ما يكون هناك أسباب وجيهة لذلك: فالحكومات تمتلك سلطات هائلة، ومن الأفضل عادةً عدم ممارسة هذه السلطات بتهور. لكن هذا التباين في الجدول الزمني لا يزال مُؤلمًا جدًا: خلال السنوات التي قد تستغرقها الكونغرس للتحرك، قد يتحول الذكاء الاصطناعي من لعبة ممتعة إلى وطن حقيقي للعباقرة.

على مدار السنوات القليلة الماضية، منذ أن أصبح الذكاء الاصطناعي تقنية تجارية رئيسية، واجهنا نحن الذين نسعى للتعامل معه بمسؤولية معضلة. نستطيع أن نرى بوضوح اتجاه هذا النمو الأسي: نحن نشك بشدة أنه خلال بضع سنوات، سيصبح الذكاء الاصطناعي أحد النادرات من التقنيات التي تعيد تشكيل منظومة السياسات بأكملها جذريًا، تمامًا كما أعادت الأسلحة النووية تشكيل الجغرافيا السياسية، وأعادت الثورة الصناعية تشكيل كل مشكلة اقتصادية واجتماعية. لكن بالنسبة لأولئك الذين يركزون فقط على ما يمكن للذكاء الاصطناعي فعله في ذلك الوقت، يبدو وكأنه تقنية عادية جدًا — ربما مشابهة لأحدث تطبيقات المستهلكين أو العملات المشفرة. من الصعب إقناع معظم صانعي السياسات والشركات بأن هناك أي شيء ذي معنى غير موقف التخلي الكامل. وبصورة عادلة، فإن التأثيرات الجذرية للذكاء الاصطناعي لم تظهر بعد، ولا نعرف بالضبط كيف قد تتخذ أشكالها، مما يجعل من الصعب حتى مع وجود الرغبة في اتخاذ إجراءات تصميم السياسات الصحيحة.

نظرًا للقيود المفروضة بسبب هذا الوضع، ركزت العديد من الدوافع الأمنية (بما في ذلك Anthropic) حتى الآن على دعم إجراءات سياسية تهدف إلى الحفاظ على خياراتنا، وإعداد الأرضية للرد السريع في المستقبل (تعبير عامي/مُستعمل، يعني التحضير أو وضع الأسس)، أو تمكين العالم من فهم أفضل لما هو قادم (تعبير عامي/مُستعمل، يعني الأشياء التي ستظهر أو تحدث قريبًا) — مثل تشريعات الشفافية، وقيود التصدير على الرقائق، وجمع البيانات حول تأثير الذكاء الاصطناعي على القوى العاملة. هذه الإجراءات غير كافية، لكنها تبدو وكأنها كل ما يمكن فعله حاليًا.

ومع ذلك، خلال الأشهر القليلة الماضية، أصبحت الأدلة على القوة المذهلة للذكاء الاصطناعي ومخاطرها لا يمكن إنكارها. ربما يكون المثال الأكثر تمثيلاً هو Claude Mythos Preview، واكتشاف الناس أن النماذج المتقدمة (frontier models) تشكل خطرًا حقيقيًا على الأمن السيبراني، مما يخلق إمكانية إحداث ضرر في القطاع المالي والبنية التحتية الحيوية والأمن القومي. لقد أربك Mythos Preview بالكامل (scrambled، لغة عامية/معنى مجازي، يعني إحداث فوضى أو تشويش) مشهد الأمن السيبراني العالمي. لكن معناه الأوسع هو أنه أثبت بلا شك أن نماذج الذكاء الاصطناعي أصبحت الآن أدوات ذات أهمية عالمية واستراتيجية. لن تكون المخاطر السيبرانية التي تطرحها نماذج مستوى Mythos هي آخر مخاطر يجب أن نواجهها. أعتقد أن المخاطر البيولوجية قد تليها قريبًا، وقد تتبعها على الفور مخاطر كبيرة تتعلق باستقلالية الذكاء الاصطناعي (ملاحظة 1).

نحتاج الآن عالميًا إلى إطلاق مؤسسة سياسية بطيئة وهشة للتعامل مع المخاطر والفرص التي ستزداد بشكل هائل مع مرور الوقت. يُظهر العديد من صانعي السياسات مرونة متزايدة في اتخاذ إجراءات، وهو أمر مشجع أن نرى زملاءنا يتحولون ليؤيدوا الموقف نفسه الذي دعونا إليه على مدار السنوات القليلة الماضية (تعبير مجازي، يعني تغيير الرأي لصالح شيء ما). هذا أمر جيد، لكنني أخشى أن هذه الإجراءات المبكرة متأخرة بمقدار عام على الأقل مقارنة بالتقدم السريع في الذكاء الاصطناعي. تهدف هذه المقالة إلى سد هذه الفجوة: توضيح المكان الذي نصل إليه حاليًا في النمو الأسي، والإجراءات الجماعية المطلوبة لمواجهة اللحظة الحاسمة (تعبير مجازي، يعني التصدي للحظة أو التحدي الحالي).

سأركز على خمسة مجالات سياسية دائمة تحتاج إلى إعادة التفكير في عالم الذكاء الاصطناعي: التنظيم والأمن العام، والسياسة الاقتصادية الكلية والضريبية، والابتكار العلمي، وتوازن القوى بين الدولة والمجتمع، والجغرافيا السياسية. سأتحدث بشكل رئيسي من منظور السياسة الأمريكية، لأن أنثروبيك شركة أمريكية، لكن معظم التوصيات التي أقدمها ذات صلة أيضًا بمناطق أخرى من العالم.

مرافقةً لهذه المقالة، ستُصدر Anthropic مقترحًا تشريعيًا حول اختبار النماذج المتقدمة، بالإضافة إلى إطار سياسة حول فقدان الوظائف، ونعتزم تقديم دعم مالي كبير لهذا الغرض. نخطط لفعل المزيد في المستقبل، لكننا نعتبر هذه الخطوات أول مؤشرات على جديتنا.

1. التنظيم والأمان العام

كل تقنية أو منتج جديد له استخدامات مفيدة وضارة، مما يخلق حالة من المعضلة بين الابتكار والأمان. إن تنظيم المنتجات يقلل من احتمالية حدوث أضرارها ويلعب دورًا مهمًا في تحسين حياة الناس في جميع أنحاء العالم، لكنه قد يقلل أيضًا مباشرة من الفوائد التي تقدمها ويقمع الابتكار بشكل غير مباشر. هناك أيضًا وجهة نظر هايكيكية ترى أن الجهات التنظيمية غالبًا ما تفتقر إلى المعلومات اللازمة لاتخاذ قرارات صحيحة بشأن التوازنات الاقتصادية المعقدة، وبالتالي فإن التنظيم غالبًا ما يكون غير فعال وثقيل. مفهوم ذي صلة هو معضلة كولينغريج، التي تشير إلى أن تأثيرات التقنية غالبًا ما يكون من الصعب التنبؤ بها حتى يصبح من الصعب إدارة هذه التأثيرات بسهولة.

في عامي 2023-2024، كانت هذه الديناميكيات تبدو بارزة بشكل خاص في مجال الذكاء الاصطناعي (تعبير مجازي، يعني أن تبدو بارزة أو تجذب الانتباه أو تبدو مخيفة). بالنسبة لشركة Anthropic، من الواضح أن الذكاء الاصطناعي قد يمتلك في المستقبل القدرة على تصنيع أسلحة بيولوجية تهدد ملايين الأشخاص، أو أن سلوكه الذاتي غير المناسب في الحالات المتطرفة قد يهدد البشرية نفسها. ما هو غير واضح هو الشكل الدقيق الذي ستظهر به المخاطر، وأفضل طريقة لاختبارها وتخفيفها، وكيف ستتطور عمليًا في الواقع (تعبير مجازي، يعني التطور أو التحقيق في النتائج). لذلك، فإن التشريعات المعدة مسبقًا تحمل مخاطر عالية بأن تصبح غير فعالة في النهاية — حيث تخلق متطلبات امتثال لا معنى لها أو ذات قيمة منخفضة، في الوقت الذي تفوت فيه المصادر الأكثر أهمية للمخاطر الفعلية (ملاحظة 2).

في النهاية، خلصنا إلى أن الطريقة الصحيحة في ذلك الوقت كانت الشفافية. يجب على مطوري نماذج الذكاء الاصطناعي الكشف عن إجراءات الأمان الخاصة بهم والاختبارات التي أجريت على نماذجهم، وتسجيل أي أحداث أمنية حرجة، حتى يتمكن الجمهور والمجتمع العلمي من فهم هذه المخاطر بشكل أفضل عند ظهورها. عندما تصبح المخاطر أكثر وضوحًا وتشكلها أكثر وضوحًا، يمكن استخدام الأدلة المستمدة من الشفافية لتصميم تشريعات ذكية تستهدف بدقة المخاطر الأكثر إثارة للقلق. لذلك، في عام 2025، دعمت Anthropic تشريعات الشفافية، وساعدت في إقرار قانون كاليفورنيا SB 53، وقانون نيويورك RAISE، وقانون إلينوي SB 315 (الذي تم إقراره في بداية عام 2026)، ودعت إلى وضع معايير شفافية على المستوى الفيدرالي.

لكن المخاطر الحالية أصبحت واضحة الآن. حان الوقت للتجاوز من الشفافية وتطبيق تنظيم أكثر جدية وملزمة للذكاء الاصطناعي. أعتقد أنه، على الأقل في المرحلة الحالية من النمو الأسي، فإن أفضل مقارنة هي السيارات أو الطائرات أو الأدوية — هذه تقنيات قوية لا غنى عنها في الاقتصاد الحديث، لكنها قادرة على التسبب في وفاة عدد كبير من الأشخاص إذا تم تصميمها أو تشغيلها بشكل غير صحيح. لذا، أعتقد أننا يجب أن نبني إطارًا تنظيميًا للذكاء الاصطناعي على غرار وكالات مثل إدارة الطيران الفيدرالية (FAA). نماذج الذكاء الاصطناعي المتقدمة تشبه الطائرات، ويجب أن تُطلب منها خضوع اختبارات فنية ومراجعة، وإذا لم تلتزم بمعايير أمان عالية، فيجب منع نشرها أو سحبها كتهديد لأمن الجمهور. أنا ممتن لرؤية الأمر التنفيذي لإدارة ترامب وهو يتحرك تدريجيًا نحو جعل الحكومة تلعب دورًا أكبر في مجال الذكاء الاصطناعي، على الرغم من أن اقتراح Anthropic يقترح اتخاذ إجراءات أكثر تقدمًا. يشمل اقتراحنا العناصر التالية:

• يجب أن تخضع النماذج التي تتجاوز عتبة قوة حسابية معينة لاختبارات إلزامية من قبل طرف ثالث مؤهل لتقييم مستوى المخاطر في أربع مجالات محددة: الأمن السيبراني، والأسلحة البيولوجية، وفقدان السيطرة على أنظمة الذكاء الاصطناعي، والتطوير الآلي الذي قد يسرع هذه المخاطر الأخرى.
• إذا اعتبرت التقييمات الخارجية أن النموذج يشكل مخاطر غير مقبولة، يجب أن تتمتع الحكومة بصلاحية منع أو ردع نشر هذا النموذج. يجب أن تقتصر هذه الصلاحية على نطاق المخاطر الأربعة المحددة أعلاه، ويجب أن توجد تدابير حماية ضد التحيز السياسي أو القرارات التعسفية.
• يمكن إجراء التقييمات الخارجية من قبل وكالات حكومية (مشابهة لـ FAA) أو مجموعة من المنظمات الخاصة المعتمدة والخاضعة للتفتيش من قبل الحكومة لتقييم النموذج وفقًا لمعايير معينة (نهج "سوق تنظيمي").
• يجب على شركات الذكاء الاصطناعي التي تطور نماذج ذكاء اصطناعي متقدمة أن تمتلك معايير أمان قوية لحماية أوزان نماذجها، وينبغي إجراء اختبارات فريق أحمر واختبارات نفاذ دورية، وينبغي لها التعاون مع الحكومات للدفاع عن المهاجمين الرئيسيين.
• يجب الإبلاغ عن حوادث الأمان في هذه المجالات الأربعة الأساسية في الوقت المناسب.

قد يأتي يومٌ، ربما قريبًا، عندما تبدو أنظمة الذكاء الاصطناعي الأقوى ليست مثل الطائرات أو السيارات، بل أكثر شبهاً بالمواد النووية القابلة للتسليح — وهو تهديد للبشرية، وليس فقط "ببساطة" للسلامة العامة، وسنحتاج حينها أن نتجاوز هذه الخطوة. إذا حدث ذلك، فقد نحتاج إلى اتخاذ تدابير تنظيمية أكثر جذرية مما ذكرته أعلاه (ملاحظة 3). لكن كما أنه من الصعب اليوم في عام 2024 استهداف وتطبيق التدابير التي اقترحها، أعتقد أننا لا ينبغي أن نتسرع (تعبير مجازي يعني التصرف قبل أوانه). يجب أن نصمم سياسات للتعامل مع المخاطر التي تظهر اليوم، مع وضع الأسس لتعزيز استجابتنا بشكل أسرع عندما تظهر مخاطر جديدة.

2. السياسات الاقتصادية الكلية والضريبية

لطالما واجهت الحكومات حول العالم تحديًا متمثلًا في كيفية تشجيع النمو الاقتصادي، مع توفير خدمات عامة مهمة وضمان رعاية الفئات الأكثر ضعفًا. أحد الافتراضات الأساسية (والمؤكدة عمومًا) في هذه المناقشات هو أن النمو الاقتصادي هش وصعب التحقيق — فعلى الرغم من أن تقليل عدم المساواة قد يجلب فوائد كبيرة، فإنه يجب موازنته ضد العقبات الاقتصادية الناتجة عن زيادة الضرائب أو العجز.

أنا أشك في أن الذكاء الاصطناعي القوي قد يخلّ بفرضية هذا الافتراض. إذا اكتسب الذكاء الاصطناعي قدرات تفوق بكثير قدرات البشر في أداء معظم المهام المعرفية، فمن المنطقي أنه قد يُحدث نمواً اقتصادياً سريعاً وقوياً من خلال تسريع العلم والتكنولوجيا وكفاءة العمليات. وقد تعزز قدرة الذكاء الاصطناعي على بناء ذكاء اصطناعي أفضل من خلال التكرار هذا النمو أكثر. ولكن لأسباب مماثلة تماماً، قد يكون الذكاء الاصطناعي أيضاً بديلاً اقتصادياً أكثر شمولاً لقدرات الإنسان المعرفية مقارنة بالتكنولوجيا السابقة، كما أنه يغيّر الاقتصاد أسرع بكثير من التقنيات السابقة. وبالتالي، هناك سبب للاعتقاد بأن الذكاء الاصطناعي قد يسبب اضطراباً أكبر بكثير—وأكثر ديمومة على الأرجح—في سوق العمل مقارنة بالتكنولوجيا السابقة. الخطر الذي نواجهه هو أننا قد ننتهي في عالم يكون فيه مقياس التوازنات الاقتصادية عالقاً في إعداد "النمو الفائق" و"عدم المساواة الفائقة"، وقد يكون من الصعب جداً الخروج من هذا الإعداد. في مثل هذا العالم، لن تكون التحديات الأساسية هي تحفيز النمو، بل إيجاد طريقة لمشاركة المنافع مع الجميع.

من بين المواضيع المطروحة في هذه المقالة، يمكن القول إن الاقتصاد الكلي والاستبدال الدائم للقوى العاملة هما الموضوعان اللذان جذبا أكبر قدر من الاهتمام العام وأكبر قدر من سوء الفهم، لذا أريد أن أوضح نقطتين بوضوح تام.

أولاً، فقدان الوظائف المستمر غير مرغوب فيه وخطير، وينبغي لنا بذل كل جهد ممكن للحد منه أو منعه، وليس لتعزيزه. لقد حذرت من مشكلة فقدان الوظائف في المقابلات والمقالات، لأنني أريد أن أمنح صانعي السياسات والقطاع الخاص أفضل فرصة ممكنة للتكيف والتعامل معها، وليس لأنني أحاول أن أكون "نبي كارثة". كشركة، تعمل Anthropic دائمًا على قدر استطاعتها بالتعاون مع العملاء للعثور على حالات استخدام جديدة وإبداعية ومصادر دخل جديدة تمكنهم من فعل المزيد باستخدام قوة العمل الحالية، بدلاً من التركيز فقط على خفض التكاليف (الذي يعني عادةً تسريح العمال). مع تقدم هذه الأنظمة، نحاول باستمرار تصور نماذج تفاعل جديدة تمكن الأشخاص المشاركين في التعاون من أداء أدوار نشطة قدر الإمكان داخل أنظمة الذكاء الاصطناعي. بشكل أوسع، فإن السماح للعالم بأكمله بتجربة استخدام الذكاء الاصطناعي بطرق جديدة متعددة له قيمة، لأنه الطريقة التي يكتشف بها المجتمع تكوينات وظيفية محتملة جديدة. أعتقد بالفعل أن الذكاء الاصطناعي سيجلب فرصًا اقتصادية جديدة كبيرة. لقد تنبأت بأن الذكاء الاصطناعي سيسمح لفرد واحد بإنشاء شركة بقيمة مليار دولار، وقد رأينا بالفعل فرقًا صغيرة مكونة من عدد قليل فقط من الأشخاص تبني شركات تحقق إيرادات بمليارات الدولارات. لكن في الوقت نفسه، يجب أن نعترف بأنه على الرغم من جميع جهودنا، فمن المرجح جدًا أن يؤدي الذكاء الاصطناعي إلى بطالة دائمة خطيرة — وهو ما قد يكون خاصية جوهرية لهذه التقنية وطريقة تكرارها الواسعة للوظائف المعرفية البشرية (ملاحظة 4).

ثانيًا، أي إجراءات للتعامل مع فقدان الوظائف المدعومة بالذكاء الاصطناعي تحتاج إلى معالجة كل من الحاجة إلى ضمان اقتصادي للجميع، والحاجة إلى إيجاد المعنى والهدف والقدرة على التصرف. إن هذه الأخيرة أهم في النهاية، وهي تعتمد على أسئلة عميقة حول كيفية تنظيم المجتمع، وما الذي ينبغي للناس السعي وراءه، وما الذي يشكل حياة جيدة. في الواقع، أنا متفائل بشدة بأن البشر لا يزال بإمكانهم العيش بحياة ذات أهداف عميقة والعمل على خلق أشياء مذهلة وجميلة، حتى في عالم يمتلك فيه الذكاء الاصطناعي تفوقًا على الجميع في جميع الجوانب (ملاحظة 5). لكن هذا مشكلة تتطلب حلًا جماعيًا من المجتمع بأكمله، وليس مشكلة يمكن للسياسات حلها مباشرة. المكان الذي يمكن للسياسات أن تلعب فيه أكبر دور هو من خلال إبطاء وتيرة البطالة وتقديم ضمان اقتصادي للأشخاص الذين قد يتأثرون، مما يمنحنا الوقت لإنجاز هذا العمل.

وبهذا الروح، تشمل بعض التدخلات السياساتية الرئيسية التي قد تكون مفيدة:

• القياس والتتبع. من السهل رفض جمع وتحليل البيانات البسيطة كنهج غير كافٍ لمعالجة حجم المشكلة، لكن إذا لم نتمكن من قياس ما يحدث فعليًا بدقة، فمن малَّ احتمال أن نضع سياسات جيدة. تعمل Anthropic على مؤشر اقتصادي حول كيفية استخدام الناس لـ Claude منذ ما يقارب عام ونصف، لكن الحكومات يمكنها الوصول إلى أنواع بيانات لا يمكننا الحصول عليها، ويمكنها توسيع إحصاءاتها الاقتصادية بشكل كبير لمتابعة حالات البطالة الناتجة عن الذكاء الاصطناعي بدقة أكبر.
• إجراءات تحفيزية لدعم التوظيف. يمكن للسياسات التحفيزية الواسعة لدعم التوظيف أن تساعد في تخفيف أو تقليل فقدان الوظائف، وتشمل: سياسات التأمين على الرواتب التي تعوّض الأفراد عندما يضطرون إلى تولي وظائف منخفضة الأجر (ملاحظة 6)، والحوافز الضريبية التي تشجع أصحاب العمل على تجنب التسريح، ومساعدات تدريب القوى العاملة، أو البنية التحتية التي تعزز مطابقة أصحاب العمل مع الموظفين لتسريع تكيف سوق العمل. على الرغم من أن تفاصيل أي تدخل هو الأفضل ستتوقف على نوع الاستبدال الذي يسببه الذكاء الاصطناعي للقوى العاملة، إلا أنه ينبغي لنا قبول التكاليف والانخفاضات في كفاءة السوق التي قد تنجم عن هذه السياسات، خاصةً لأنها قد تُوازنها نمو الإنتاجية المدعوم بالذكاء الاصطناعي.
• دعم اقتصادي كلي على المدى الطويل. إذا أدى استبدال القوى العاملة المدعوم بالذكاء الاصطناعي في النهاية إلى حجم هائل، وخفض بشكل دائم الطلب على القوى العاملة، فقد يصبح من الضروري تجاوز خطط الحوافز البسيطة وتقديم دعم دخل طويل الأجل لجزء كبير من القوى العاملة. يمكن تمويل آليات مثل الدخل الأساسي الشامل من خلال فرض ضرائب على الشركات ذات الصلة أو رفع ضرائب الأرباح الرأسمالية. كما يوفر حساب رأس المال الشامل أداة أخرى. بشكل عام، يجب أن يخلق النمو الاقتصادي السريع قاعدة ضريبية للرخاء المشترك.

من بين المخاوف الاقتصادية المتعلقة بالذكاء الاصطناعي، لم أذكر نقطة مشتركة وهي مراكز البيانات، خاصةً قدرتها على رفع أسعار الطاقة. رأيي هو أن شركات الذكاء الاصطناعي يجب أن تتحمل تكاليف ارتفاع الأسعار من جيوبها الخاصة—وقد تعهدت Anthropic بالفعل بذلك—لكنني أعتقد أن العداء العام تجاه مراكز البيانات هو إلى حد كبير تعبير أو وسيلة للإفراج عن القلق الاقتصادي الأوسع المرتبط بالذكاء الاصطناعي. من المهم أن نجري حوارًا اجتماعيًا مباشرًا حول هذه القضايا الاقتصادية الأوسع، ونقدم حلولًا مقنعة وعملية لها، وإلا فمن المرجح أن تظهر بشكل غير مباشر كما حدث في قضية مراكز البيانات.

3. تسريع التأثيرات الإيجابية للذكاء الاصطناعي

كما يجب أن نسعى لتحقيق التوازن بين الابتكار والأمان في الذكاء الاصطناعي نفسه، يجب علينا أيضًا تحقيق توازن مماثل في المجالات التي قد يُسرّعها الذكاء الاصطناعي، مثل العلوم الطبية الحيوية أو الطاقة أو علوم المواد. لكن على الرغم من أن الذكاء الاصطناعي نفسه قد يطرح تحديات جديدة تظهر بسرعة كبيرة ولا نملك أي خبرة في التعامل معها، فإن المجالات الأخرى المُسرّعة بالذكاء الاصطناعي قد تواجه مشكلة مختلفة تمامًا: أنظمة تنظيمية مصممة لخطوات ابتكار أبطأ، والتي لم تكن مستعدة لمواجهة تدفق المنتجات والتطورات الجديدة التي سيجلبها الذكاء الاصطناعي. كما قد يجعل الذكاء الاصطناعي هذه التقنيات السفلية أكثر أمانًا وقابلية للتنبؤ، مما يُفكك الافتراضات التشكيكية التي تتمسك بها هيئات التنظيم مثل إدارة الأغذية والعقاقير (FDA).

لذلك، بالنسبة للتطبيقات اللاحقة للذكاء الاصطناعي—على عكس الذكاء الاصطناعي نفسه—أنا أكثر قلقًا من أن الجهات التنظيمية ستُبطئ التقدم (لأنها غير قادرة على مواكبة وتيرة التغيير المتسارعة) أكثر من قلقي من فشلها في معالجة المخاطر الهامة. إننا نLeast نرغب في رؤية فوائد الذكاء الاصطناعي تُبطأ بينما تزداد مخاطره逼近، لذا من المهم اتخاذ إجراءات بشأن هذه المسألة في أسرع وقت ممكن.

ستظهر هذه المشكلة وحلولها بطرق مختلفة في مجالات العلوم والتجارة والتكنولوجيا، لذا سأركز على مجال توضيحي واحد: الابتكار البيوميدي. وهذا يعود ليس فقط لأنه من المرجح أن يصبح أكبر مصدر للمنافع الإنسانية للذكاء الاصطناعي، بل أيضًا لأنه مجال خاضع لتنظيم معقد بشكل خاص. لا نعرف بالضبط كيف سيُسرّع الذكاء الاصطناعي الابتكار البيوميدي، لكنه يبدو أنه من المرجح أن يفعل ذلك:

• زيادة معدل دخول الأدوية المرشحة الجديدة إلى أنبوب التنظيم بشكل كبير؛
• زيادة حجم التأثير للدواء الجديد وتحسين حالته الأمنية، نظرًا للتحسينات الأفضل، وقد يكون هناك فهم أفضل لخصائصه البيولوجية المحتملة؛
• تطوير دواء تجريبي لعلاج أمراض لم تُعالج بنجاح من قبل؛
• أنشئ بسرعة أشكالًا جديدة من العلاجات، تمامًا كما أصبحت الأجسام المضادة والببتيدات والعلاجات الخلوية خلال العقود الماضية فئات جديدة من العلاجات.

سيؤدي بعض هذه التقدمات بشكل طبيعي إلى تسريع جدول التنظيم دون الحاجة إلى تغييرات هيكلية. يمكن للأدوية ذات تأثير أكبر أن تؤدي إلى تجارب سريرية أصغر وأقل تكلفة، وتفعيل آليات الموافقة المتسارعة. لكن النظام التنظيمي الحالي تم تصميمه لفرض مراجعة عالية المستوى واختبارات متعددة المراحل، على افتراض أن الأدوية المرشحة عادةً غير فعالة، وحتى إذا كانت فعالة فهي غالبًا ما تحتوي على مشاكل أمان خطيرة. سواء في إدارة الأغذية والعقاقير الأمريكية (FDA) أو وكالة الأدوية الأوروبية (EMA)، فإن الوقت النموذجي لمرور دواء مرشح عبر قناة التنظيم هو 7-8 سنوات، ويعود جزء من هذا السبب إلى هذه الافتراضات التشاؤمية. إذا لم تُجرَ إصلاحات، فسوف تجعل الذكاء الاصطناعي هذا النظام ببساطة مزدحمًا أو مفرط الحمل.

من الواضح أننا لا نرغب في تغيير الأمور بطريقة تؤدي إلى ظهور مجموعة من الأدوية الوهمية (لغة عامية تشير إلى أدوية مزيفة ومُضلّلة) أو حوادث أمان واسعة النطاق. لكن بعض الإصلاحات البسيطة نسبيًا يمكن أن تجعل إدارة الأغذية والعقاقير الأمريكية ووكالة الأدوية الأوروبية والمؤسسات المماثلة أكثر ملاءمة للتسريع العلمي السريع المدعوم بالذكاء الاصطناعي (إذا حدث ذلك).

يمكن إنجاز العديد من خطوات العمليات السريرية التي كانت تتطلب تجارب مكلفة وبطيئة قريبًا من خلال محاكاة أو تحليل الذكاء الاصطناعي. يجب على الهيئات التنظيمية أن تنظر الآن في وضع معايير للشروط المطلوبة لقبول مثل هذه الأساليب. وهذا يعني أنه بمجرد أن تثبت فعالية هذه الأساليب، يمكن اعتمادها بسرعة، بدلاً من المرور بفترة غير ضرورية يتم فيها طلب اختبارات إضافية لتمديدها. قد تشمل المجالات التي تنطبق عليها هذا المبدأ:

• نمذجة الديناميكا الدوائية والتخليق الدوائي (PD/PK) القائمة على الذكاء الاصطناعي؛
• التنبؤ السمية لتجنب الحاجة إلى دراسات سمية على الحيوانات عبر أنواع متعددة؛
• اختيار جرعة أكثر دقة لتقليل الحاجة إلى نطاق جرعات كبير في التجارب؛
• التحقق من العلامات الحيوية من خلال تحليل مجموعات بيانات كبيرة؛
• مجموعة التحكم الاصطناعية في التجارب السريرية لتقليل الحاجة إلى تجنيد مشاركين إضافيين؛
• تطوير نقاط نهاية بديلة (وهذا مهم بشكل خاص في الشيخوخة والأمراض التنكسية العصبية).

بالإضافة إلى هذه الأمثلة المحددة، يجب على المؤسسات أيضًا النظر في آليات تسريع الموافقة أكثر جرأة ومرونة. إذا كانت تنبؤاتي حول الذكاء الاصطناعي صحيحة، فستظهر قريبًا العديد من التدخلات المفاجئة (تعبير مجازي، يعني بشكل غير متوقع أو فجأة) ذات فعالية عالية جدًا، ويجب أن تكون الأنظمة التنظيمية مستعدة لأخذها على محمل الجد بدلاً من اتخاذ موقف متشدد ومشكك.

تسريع البيولوجيا الطبية يجب أن يزيد بشكل كبير من فوائد الذكاء الاصطناعي، ولكن من الجدير بالذكر أنه قد يساعد أيضًا في تقليل مخاطر الذكاء الاصطناعي. قد يساعد إصلاح إجراءات الموافقة على البيولوجيا الطبية في تعزيز الدفاع البيولوجي، كما قد تحسن تقدمات البيولوجيا الطبية المدعومة بالذكاء الاصطناعي الصحة النفسية، مما قد يكون له تأثير استقرار على المجتمع.

4. الحريات الوطنية والمدنية

يجب على كل نظام حكومي مواجهة قضية السلطة الوطنية وقيودها. تمتلك الدولة مصلحة مشروعة، وغالبًا ما تكون حاسمة، في حماية سكانها من التهديدات الداخلية والخارجية. لكن منحها سلطة مفرطة هو طريق نحو الاستبداد. نجحت الدول الديمقراطية الحديثة إلى حد كبير في إدارة هذا التوازن، لكن حتى في أفضل الأوقات، فإن هذا التوازن مُقلق. إن الحفاظ على هذا التوازن يتطلب مجموعة كبيرة من الآليات القانونية والدستورية التي بُنيت على مدى قرون — على سبيل المثال، في الولايات المتحدة: التعديلات الأولى والرابعة والخامسة، وقانون "بوسي كوميتاتوس"، وقانون المراقبة الاستخباراتية الأجنبية (FISA)، وغيرها.

تهدد الذكاء الاصطناعي بكسر هذا التوازن، وفي نفس الوقت ترفع بشكل كبير من المخاطر. لكن إذا تصرفنا بسرعة وواجهنا التحدي، يمكننا استخدام الذكاء الاصطناعي لإنشاء عالم يمتلك حمايات أقوى وأكثر ديمومة للحرية وأفضل دفاعًا ضد التهديدات مقارنة بأي وقت مضى.

قد يكون الذكاء الاصطناعي القوي الذي يقع في الأيدي الخاطئة أداة نهائية للديكتاتوريات الاستبدادية، ولا تمتلك حماياتنا القانونية والدستورية الحالية التجهيز الكامل لمواجهة هذا التهديد. في جوهره، فإن العوائد الهائلة التي يجلبها الذكاء إلى قوة العالم، إلى جانب وتيرة التقدم السريعة في تطوير الذكاء الاصطناعي، تخلق عاصفة مثالية (perfect storm، تعبير مجازي يعني حالة سيئة للغاية ناتجة عن تزامن عدة ظروف سيئة) لتمكين مختلف الجهات الخطرة من الاستيلاء على السلطة عن طريق الصدفة.

قد تتخذ هذه المخاطر أشكالاً تقنية أو تشغيلية متنوعة، لكن نقطة مشتركة بينها هي أن الذكاء الاصطناعي قد يمنح فجأة سلطات هائلة، مع تجاوز (routing around، لغة عامية/معنى مجازي، يعني تجاوز العقبات أو آليات الرقابة) آليات الرقابة الديمقراطية الحالية. ففي الوقت الحالي، قد يبدو أن جيشاً كاملاً من الطائرات المسيرة ذاتية التشغيل أمر من خيال علمي، لكنه في المستقبل قد يطيع أوامر غير قانونية ويساعد الحكومة على ترسيخ سلطتها بشكل أحادي؛ بينما من المرجح أن يعارض البشر المدربون تدريباً متخصصاً هذه الأوامر غير القانونية. ويمكن لذكاء اصطناعي مكرس للمراقبة أن يحلل بكميات هائلة المعلومات المتاحة على نطاق واسع، ويستخدمها للاستنتاج عن أدق التفاصيل الخاصة بحياة كل مواطن — وهي قدرة تقنية لم تأخذها قوانين الحريات المدنية الحالية في الاعتبار. وكل هذا قد يحدث في فترة زمنية قصيرة جداً أو بشكل سري، لذا من المهم تعزيز استعداد الدول الديمقراطية لتعزيز التزامها بالحريات والحريات المدنية.

إليك بعض أفكار السياسات التي يجب أخذها في الاعتبار:

• أنشئ قواعد موثوقة للمساءلة للأسلحة ذاتية التشغيل. يجب أن تُطلب من الأسلحة ذاتية التشغيل، خاصةً أي نظام ذاتي يُنسق أو يُوجهها، الاستجابة لآليات الدستور والمساءلة القيادية (مثل أوامر المحكمة، والتشريع، والمساءلة أمام مشرفين بشريين كبار) بدلاً من الطاعة العمياء للأوامر. قد يعني هذا أن فريق مراجعة قانونية مصمم جيدًا أو سلطة قضائية يمتلكان السيطرة على "مفتاح إيقاف" معين، أو أن النظام نفسه مُدرَّب داخليًا للبحث عن الاستجابة للهيئات الرقابية القانونية، أو كليهما معًا.
• يُحظر استخدام الأسلحة الآلية بالكامل داخل البلاد. على الرغم من أن الأسلحة الآلية بالكامل لها أسباب ضرورة قانونية في الدفاع ضد خصوم أجانب (مثل الغزو الروسي لأوكرانيا)، إلا أنه لا توجد أي أسباب لاستخدامها ضد الأمريكيين. لقد تم بالفعل تقييد قدرة الجيش على العمل داخل البلاد، ولكن من الأفضل أن يُحظر استخدام هذه الأسلحة أيضًا في إنفاذ القانون.
• سد ثغرة جمع البيانات المكثف/وكلاء البيانات. وفقًا للقوانين الحالية، يمكن شراء البيانات التي يشاركها الأمريكيون مع شركات خاصة (مثل مزودي خدمة الإنترنت) واستخدامها في التحليل الجماعي للمراقبة الداخلية وإنفاذ القانون. كانت هذه الثغرة في حماية الخصوصية موجودة قبل ظهور الذكاء الاصطناعي، لكن الذكاء الاصطناعي سيزيد بشكل كبير من المخاطر من خلال جعل تحليل كميات هائلة من هذه البيانات أكثر إيضاحًا وفائدة مقارنةً بالماضي. يجب سد هذه الثغرة.
• الحق العام في الحصول على نصائح ذكاء اصطناعي عند مواجهة إجراءات حكومية غير مواتية. كمبدأ عام، يبدو مهمًا أن أي فرد أو منظمة تتعرض لإجراءات حكومية غير مواتية (مثل التنظيم أو الإجراءات القانونية) يجب أن تتمتع بفرصة للحصول على ذكاء اصطناعي بقوة على الأقل مساوية للذكاء الاصطناعي الذي يُسمح للحكومة باستخدامه في الإجراء المحدد. وهذا يعني منع الحكومة من امتلاك ميزة غير عادلة قد تُضعف فعليًا الحقوق القانونية للمواطنين. يمكن إضافة هذا كتمديد أو تفسير لقانون الإجراءات الإدارية، أو حمايات الإجراءات القانونية، أو الحق في الحصول على تمثيل قانوني بموجب التعديل السادس.

أخيرًا، من المهم ملاحظة أنه في مجال الاستحواذ المدعوم بالذكاء الاصطناعي، فإن الحكومات ليست الكيانات الوحيدة التي يجب أن نكون حذرين منها. في فترات مختلفة من التاريخ (مثل عصر الذهب في الولايات المتحدة أو شركة الهند الشرقية البريطانية)، أصبحت الشركات قوية بما يكفي للاستيلاء على الدولة أو اعتماد سمات شبه دولية. سيصبح الذكاء الاصطناعي قريبًا قويًا لدرجة أنني أخشى أنه لا يمكن تفويضه بالكامل بأمان للحكومات أو الشركات، بل يجب أن تكون هناك آليات رقابة على كلا الطرفين.

التنظيم هو إجابة حول كيفية التحكم في الشركات (أفكاري حول هذا الموضوع مذكورة في القسم 1)، لكن من المهم بنفس القدر أن تمتلك شركات الذكاء الاصطناعي توزيعًا أكبر للسلطة ومساءلة أكثر من الكيانات الخاصة النموذجية. صندوق الثقة للمصالح طويلة الأجل لشركة Anthropic (وهو هيئة حوكمة مستقلة مصممة لضمان التزام الشركة برسالتها) هو مثال على هذا النوع من الهياكل، ويجب على الصناعة الاستمرار في استكشاف آليات تذهب أبعد من ذلك. تحقيق التوازن المناسب — بحيث تخضع سلطات الشركات والحكومة على حد سواء للقيود ذات المغزى — أمر بالغ الأهمية.

5. ضمان قيادة الديمقراطيات

اعتبار التكنولوجيا الجديدة أداة للسياسة التجارية من منظور جيوسياسي، بهدف "نشر طبقات تقنيتنا عالميًا"، أصبحت غريزة شائعة، ربما نشأت من تجارب القطاعات الحديثة للإنترنت والاتصالات. لكنني أؤمن بإصرار شديد أن الذكاء الاصطناعي هو شيء أعمق بكثير، فهو يعيد تشكيل لوحة اللعبة بأكملها، ويجب أن تُبنى جميع الاستراتيجيات الجيوسياسية المستقبلية حوله — تمامًا مثل الأسلحة النووية، لكنه قد يكون له تأثير أكبر بكثير.

إذا أصبح الذكاء الاصطناعي حقًا "دولة عباقرة داخل مراكز البيانات" أو أي شيء قريب منه، فمن المرجح جدًا أن يصبح الذكاء الاصطناعي المصدر الرئيسي لأي قوة عسكرية واقتصادية دولية. في دولة افتراضية تضم مائة مليون عبقري، يمكن تخصيص عشرة ملايين للإستراتيجية العسكرية، وعشرة ملايين لتصنيع الطائرات المُسيّرة، وعشرة ملايين لتطوير الأسلحة، وعشرة ملايين لجمع وتحليل الاستخبارات، وعشرة ملايين لتقدم العلوم العامة، إلخ. فرق دولة تمتلك ذكاءً اصطناعيًا قويًا مقابل دولة لا تمتلكه — أو حتى دولة متأخرة عنه بثلاث سنوات — قد يكون مماثلًا لفرق فرقة مشاة بحرية من الحرب العالمية الثانية مقابل جيش من فرسان العصور الوسطى.

إضافةً إلى ذلك، إذا كان بإمكان الذكاء الاصطناعي القوي تحقيق أشكال أكثر عمقًا وربما دائمة من القمع الاستبدادي (انظر القسم 4)، فإن هذا يجعل من الضروري للغاية ضمان أن تكون أكثر الدول قوة في العالم ديمقراطية — أو على الأقل وجود تدابير قوية للحماية ضد القمع المدعوم بالذكاء الاصطناعي. كما يزيد هذا من إلحاح وضع استراتيجية جيوسياسية مستهدفة.

يجب على الديمقراطيات السعي لبناء تحالف عالمي يركز على بناء الذكاء الاصطناعي وفقًا للقيم المشتركة، ومحاولة جذب باقي أنحاء العالم بشكل تدريجي، بحيث يصبح الانضمام إلى هذا التحالف أكثر جاذبية، بينما تقل جاذبية البقاء خارجه. يجب أن يكون هذا التحالف ترجمة منسقة وعالمية للأفكار السياسية المتعلقة بالذكاء الاصطناعي المذكورة في الأقسام من 1 إلى 4، بالإضافة إلى جهد لتأمين سلاسل التوريد الأساسية اللازمة لبناء الذكاء الاصطناعي من خلال مشاركتها داخل التحالف ورفض توفيرها للخارجيين. قد تشمل بعض المبادئ والأهداف التشغيلية:

إدارة سلسلة توريد الذكاء الاصطناعي. يجب على أعضاء التحالف الموثوقين أن يشاركوا بحرية الرقائق وأجهزة تصنيع أشباه الموصلات (SME) مع بعضهم البعض، في الوقت نفسه الذي يتعاونون فيه لمنع المنافسين من الحصول عليها. إن قيود الولايات المتحدة على تصدير الرقائق المتقدمة وأجهزة تصنيع أشباه الموصلات إلى الصين هي أحد الأسباب الرئيسية لبقاء الولايات المتحدة في الصدارة العامة في مجال الذكاء الاصطناعي، ويجب توسيع هذه السياسات وتشديدها وتنسيقها مع دول أخرى متحالفة. إن التشريعات المعلقة مثل MATCH وOVERWATCH تمثل نقطة بداية جيدة، ويجب على الديمقراطيات المتحالفة أن تنظر في اتخاذ إجراءات مماثلة.

• تنسيق الجهود للتعامل مع مخاطر الذكاء الاصطناعي. إذا تم التنسيق على المستوى الدولي، فستكون السياسات الموصوفة في القسم 1، التي تهدف إلى معالجة مخاطر البيولوجيا وأمن الشبكات والاعتماد الذاتي، أكثر فعالية (مع تقليل العبء على الصناعة في الوقت نفسه). وهذا يعني أن الشركات ستتمكن من الامتثال لمعايير متوافقة مع بعضها البعض، وأن الجهات التنظيمية ستتمكن من التعلم من بعضها البعض أفضل الطرق لقياس وتخفيف هذه المخاطر. كما ينبغي لوكالات إنفاذ القانون والاستخبارات أن تعمل بشكل أوثق معًا لتتبع ومنع الاستخدامات الضارة، مثل محاولات الإرهابيين استخدام الذكاء الاصطناعي لصنع أسلحة بيولوجية.
• مشاركة عوائد الذكاء الاصطناعي. يمكن استخدام سياسات التجارة والتنظيم لتعزيز انتشار عوائد الاقتصاد القائم على الذكاء الاصطناعي بشكل أسرع داخل التحالف، ومشاركة الدروس المستفادة حول كيفية تسريع الابتكار. يمكن أن يساعد تنسيق أساليب النشر المفيدة في نقل فوائد الذكاء الاصطناعي إلى الدول النامية. على سبيل المثال، يمكن أن يؤدي توحيد أنظمة الموافقة على الأدوية إلى اختبار واعتماد أسرع وأفضل للأدوية المدعومة بالذكاء الاصطناعي (كما هو مذكور في القسم 3 أعلاه).
• الدفاع المشترك. يجب على دول التحالف التعاون لاستخدام الذكاء الاصطناعي للدفاع عن النفس ودفاعًا ضد ذكاء الاصطناعي للخصوم. يجب على التحالف ضمان جماعي لإنتاج كافٍ من الدفاعات الشبكية القائمة على الذكاء الاصطناعي، والطائرات المُسيَّرة المُدارة بالذكاء الاصطناعي، والتصنيع المُدارة بالذكاء الاصطناعي، وقوة الحوسبة السرية للذكاء الاصطناعي، والبحث والتطوير المُدارة بالذكاء الاصطناعي، وجمع المعلومات المُدارة بالذكاء الاصطناعي.
• ارفض القمع المدعوم بالذكاء الاصطناعي. يجب على أعضاء التحالف رفض الاستبداد العالي التقنية والمتطرف المدعوم بالذكاء الاصطناعي الذي حذرت منه في "طفولة التكنولوجيا"، ويجب أن يمتلكوا ضمانات أمان مشابهة لتلك التي وصفتها في القسم الرابع أعلاه.
• التعاون الماكرواقتصادي. إن أزمات التوظيف أو استقرار العمل، مثل أي أزمة اقتصادية أخرى، لها طابع عابر للحدود. وبالتالي، توجد مصلحة مشتركة للدول في التنسيق والتعاون على سياسات الدعم والاستقرار الماكرواقتصادي (كما هو مذكور في القسم 2) لتعويض أي تأثيرات على التوظيف.

يجب أن يكون الهدف هو جعل عضوية التحالف جذابة قدر الإمكان—وجعل تكلفة البقاء خارج التحالف واضحة. سيقوم التحالف على التنسيق بين الدول ذات السيادة، حيث تحتفظ كل دولة بالتحكم الكامل في شؤونها الداخلية. يمكن أن يتطور التحالف تدريجيًا، بدءًا من الدول الديمقراطية المتماثلة أيديولوجيًا (التي يسهل انضمامها طبيعيًا)، ثم الترحيب تدريجيًا بالدول التي لا تتوافق معه بشكل طبيعي ولكنها مستعدة للاستيفاء بمعايير التحالف مقابل مزاياه الكبيرة للعضوية. في المثالية، سينضم في النهاية العالم بأكمله. لكن حتى لو كان هذا مستحيلاً، فإن إنشاء هذا التحالف سيضع الدول الديمقراطية في أقوى موقف ممكن لاحتواء وتخطي الأنظمة المتمسكة بالأنظمة القمعية.

نافذة فرصة

التقدم الأسّي للذكاء الاصطناعي أثار إلحاحًا وتغييرًا بسرعة لا تستطيع عملية صنع السياسات عادةً مواجهتها. لكنه خلق أيضًا نافذة فرصة فريدة. فالتداخل بين الأدلة الواضحة والواقعية على مخاطر الذكاء الاصطناعي، والتجارب المبكرة لقدرته على خلق القيمة الاقتصادية وتدميرها، والرد القوي من الجمهور على طرق معالجة الذكاء الاصطناعي دون قيود، يشكل حالةً استثنائية يصبح فيها صانعو السياسات منفتحين بشكل غير عادي على الإجراءات الاستباقية. إن لحية الشجرة وغابته تستيقظان.

لقد أصبح اعتبار هذا مشكلة علاقات عامة في دائرة الذكاء الاصطناعي شائعًا جدًا: أي أن الذكاء الاصطناعي يحتاج إلى "تسويق أفضل". أنا أرفض تمامًا هذا الإطار. يشعر الناس بالقلق إزاء الذكاء الاصطناعي لأنهم لاحظوا بشكل صحيح أن المخاطر حقيقية، وليس لأن مدراء تنفيذيين للذكاء الاصطناعي لم يتصرفوا بدرجة كافية من "التفاؤل المفرط (مرجع أدبي/صفة تشير إلى التفاؤل الأعمى)". أعتقد أنه كقائد في مجال الذكاء الاصطناعي، فإن مسؤوليتي هي الاستمرار في الحفاظ على الشفافية تجاه هذه المخاطر، وأن القلق العام إزاء هذه الشفافية يمثل عملًا طبيعيًا للمساءلة الديمقراطية بالطريقة التي ينبغي أن تعمل بها. التحدي الأساسي هو توجيه هذا القلق نحو حلول بنّاءة، دون السماح له بالتحول إلى غضب غير ملموس وعنف.

أنا متفائل بوجود حلول، لأن العديد من المشكلات — من معالجة البطالة إلى اختبار النماذج قبل الإطلاق، ومن قيود تصدير الرقائق إلى استهلاك الطاقة وقضايا سياسات الذكاء الاصطناعي الأخرى — تتمتع بجاذبية عقلانية عبر طيف سياسي واسع. هناك مستقبل مرغوب فيه ولكنه واقعي، حيث سيُمرر تحالف واسع غير حزبي، مدفوعًا بالاعتراف المباشر بالتحديات التي يطرحها الذكاء الاصطناعي، سياسات عاقلة واستباقية أسرع بكثير من المعتاد. وكلما فعلنا ذلك في وقت أبكر، استطعنا مشاركة الفوائد المذهلة للذكاء الاصطناعي في وقت أبكر.

أود أن أشكر Allan Dafoe وMariano-Florentino Cuéllar وRichard Fontaine وBuddy Shah وVas Narasimhan وMatt Yglesias وNick Beckstead وJason Matheny وBrad Carson والعديد من موظفي Anthropic على آرائهم وملاحظاتهم حول مسودة هذا المقال.

الحاشية

في مقالتي "The Adolescence of Technology"، ناقشت المخاطر البيولوجية ومخاطر الاستقلال، بالإضافة إلى محتويات أخرى. كما نشر معهد Anthropic بعض البيانات الداخلية الأولية حول إمكانات التحسين الذاتي التكراري في مقال "When AI Builds Itself"، أي قدرة النماذج على بناء نماذج أفضل بشكل مستقل.

هذه الظاهرة ليست نظرية: لقد لاحظناها مرارًا وتكرارًا في إطار حوكمنا الطوعي الخاص بنا (مثل سياسة التوسع المسؤول/Responsible Scaling Policy). إذا قمنا بتحديد قائمة ثابتة أو صارمة من متطلبات الأمان للموديلات المستقبلية للذكاء الاصطناعي، فإن النتيجة المحتملة جدًا هي أن المتطلبات التي تثبت لاحقًا أنها غير ذات صلة ستستهلك 95٪ من جهود الامتثال الخاصة بنا، بينما نكتشف في الوقت نفسه أن بعض أكبر مصادر المخاطر لم تُتوقع أبدًا في قائمتنا. يمكن تعديل وتعديل الإطارات الطوعية، لكن هذا أصعب بكثير بالنسبة للتشريع. يمكن رؤية جهودي للتعامل مع هذا المأزق من خلال الرسالتين المفتوحتين اللتين أصدرتهما بشأن SB 1047، وهو قانون في كاليفورنيا عام 2024 حاول معالجة المخاطر الكارثية، حيث أشعر بتعقيد كبير تجاهه للأسباب المذكورة أعلاه.

على سبيل المثال، قد تكون المخاطر البيولوجية الحقيقية الخطيرة أكثر صعوبة في الإدارة مقارنة بالمخاطر الإلكترونية، نظرًا لامتلاك المهاجمين ميزة كبيرة على المدافعين، وقد تكون درجة الكارثة أكبر بكثير.

يرجى الرجوع إلى "مراهقة التكنولوجيا" للحصول على تحليل أكثر تفصيلاً حول لماذا قد لا تنطبق المنطقية التي تؤدي إلى تعافي سريع لسوق العمل دون استبدال دائم للقوى العاملة في تقنيات أخرى على الذكاء الاصطناعي، وخاصة لماذا قد تُطغى آليات التكيف المعتادة مثل مفارقة جيفونز أو الميزة النسبية بسرعة التكنولوجيا.

على سبيل المثال، لا يزال الناس يكرسون حياتهم لعب الشطرنج أو الغو، أو تسلق الجبال، ولا يزالون يحظون باحترام كبير بسبب هذه الأنشطة، على الرغم من أن الآلات يمكنها القيام بكل هذه الأشياء بشكل أفضل.

هذا يعطي الناس في الواقع حافزًا إضافيًا للانتقال والبدء في تلقي تدريب على سلم مهني جديد، حتى لو كان مؤلمًا على المدى القصير، إذا تم تحقيقه من خلال دفع الفرق بين رواتبهم القديمة والجديدة.

للمزيد من المعلومات حول هذا الموضوع، راجع "مراهقة التكنولوجيا". (تم نشر هذه المقالة لأول مرة في تايميديا APP، المؤلف |硅谷Tech_news، المحرر | 林深)