الكاتب: بن تومسون
مُترجم: Deep潮 TechFlow
مقدمة شينتشاو: تم إيقاف النموذج الجديد Fable من Anthropic من قبل الحكومة الأمريكية بعد شهرين فقط من إصداره، حيث تم تقديم السبب ظاهريًا على أنه "تسريب أمني"، لكنه في الواقع يكشف عن حرب مزدوجة تشنها مختبرات الذكاء الاصطناعي ضد الحكومات وصناعة البرمجيات. إن الشركة التي تُروّج لأمنها كميزة رئيسية تحوّل السرد الأمني إلى حصن تجاري، بينما هدفها الحقيقي هو الاستيلاء على بيانات المستخدمين التي تمتلكها شركات مثل مايكروسوفت.
أفهم موقف الساخرين، الذين يرون دائمًا التصريحات العامة لـ Anthropic — خاصةً عند إصدار النماذج — كوسيلة تسويقية لنشر الذعر. قبل شهرين، أعلنت Anthropic عن إطلاق Mythos Preview، مدعية أن النموذج خطير جدًا بحيث لا يمكن إتاحته للعامة، خاصةً قدراته القوية في الأمن السيبراني. ثم بعد شهرين، أطلقت الشركة رسميًا Fable، وهو إصدار من Mythos مزود بحواجز أمان متعددة.
من تجربتي المحدودة، فإن Fable هو نموذج ممتاز حقًا. الآن، بخلاف أداء البرمجة، يصعب تقييم النماذج موضوعيًا، لكن لا يزال هناك إدراك ذاتي؛ لقد وجدت أن تجربة التفاعل مع Fable ممتازة جدًا؛ فهي تجعل النماذج الأخرى، بما في ذلك GPT 5.5 و Opus 4.8، تبدو صغيرة وغبية. شعرت بهذا الشعور مرتين فقط من قبل، المرة الأولى مع GPT-4 والمرة الثانية مع Grok 4، وكلاهما يمثل جيلًا جديدًا من حجم وتعقيد النموذج الأساسي؛ أعتقد أن Fable ينبع من تدريب مسبق جديد، وهو أول نموذج من هذا الجيل.
لذلك، أستطيع قبول أن Fable/Mythos فعلاً أقوى في التعرف على الثغرات الأمنية واستغلالها، ومن المنطقي أن Anthropic تطلقها بحذر. لكن المشكلة في الإصدار العام أن الحواجز يمكن تجاوزها، وحدث هذا بالفعل بعد وقت قصير من الإطلاق.
أنثروبيك تواجه الحكومة الأمريكية مرة أخرى
ما حدث بعد ذلك غير واضح بعض الشيء. كتبت Anthropic في مقال مدونة:
استخدمت الحكومة الأمريكية سلطاتها المتعلقة بالأمن القومي لإصدار أمر بالرقابة على الصادرات، وتعليق وصول جميع المواطنين الأجانب إلى Fable 5 وMythos 5، سواء داخل الولايات المتحدة أو خارجها، بما في ذلك موظفو Anthropic الأجانب. إن التأثير العملي لهذا الأمر هو أننا مُجبرون على تعطيل وصول جميع العملاء إلى Fable 5 وMythos 5 فجأة لضمان الامتثال. لا يتأثر وصول أي نماذج أخرى من Anthropic.
تلقينا تعليمات من الحكومة اليوم في الساعة 5:21 مساءً بالتوقيت الشرقي للولايات المتحدة. لم تقدم الرسالة تفاصيل محددة حول مخاوف الأمن القومي. نحن نفهم أن الحكومة تعتقد أن طريقة لتجاوز أو "الهروب" من Fable 5 قد تم اكتشافها. قمنا بمراجعة العرض التوضيحي الذي يستخدم هذه التقنية المحددة لتحديد عدد قليل من الثغرات الصغيرة المعروفة. تبدو هذه الثغرات جميعها بسيطة نسبيًا، ووجدنا أن نماذج أخرى متاحة للجمهور يمكنها أيضًا اكتشافها دون الحاجة إلى التحايل.
ثم تجادل Anthropic أن التجاوزات غير الشاملة لا مفر منها وذات نطاق محدود، ولا توجد أدلة على وجود تجاوزات شاملة؛ بينما تبدو التجاوزات المكتشفة مبلغًا عنها من قبل أمازون، وهو أمر يستحق الملاحظة لأن أمازون هي مستثمر في Anthropic ومزود رئيسي لخدمات الاستدلال الخاصة بالشركة. في وقت كتابتي لهذه المقالة، كان كبار مسؤولي Anthropic في واشنطن العاصمة يحاولون معالجة ما يصرّون عليه كسوء فهم، بينما أشار مسؤولو البيت الأبيض إلى أنه يعكس تجاهلًا من قيادة الشركة للمخاوف المشروعة المتعلقة بالأمن القومي.
بما أن هناك الكثير من الحقائق المثيرة للجدل، فلا شيء أضيفه عن الصراع الحالي؛ لكنني لست متفاجئًا من حدوث الصراع: فقد شرحت في مقالتي "Anthropic والتوافق" أن الصراع بين الحكومة الأمريكية وAnthropic لا مفر منه. من هذا المنظور، أولئك الذين يعتقدون أن Mythos لا تزال غير قوية بما يكفي لتبرير إجراءات حكومية حازمة يفوتون النقاط الأساسية: إذا لم تكن قوية بما يكفي الآن، فستكون النسخة التالية أو التالية لها، خاصةً مع تزايد فائدة النماذج في إنشاء نسخ متطورة منها.
لكن هذا يثير سؤالًا آخر — سؤال يبدو أنه يؤكد وجهة نظر الساخرين: إذا كان Mythos خطيرًا جدًا، فلماذا نشرت Fable في الأصل؟ ولماذا واجهت الحكومة في فعل ما تدّعي أنك ترغب في فعله؟ في الواقع، أعتقد أن سلوك Anthropic مفهوم تمامًا؛ إن التميز الحقيقي للشركة يكمن في كيفية تبريرها لهذه الأفعال،正是 هذه التبريرات التي أعطت الساخرين وقودًا وأعطت Anthropic سحرها.
الضرورة الاقتصادية
في السنوات الأولى للذكاء الاصطناعي، تدفقت أكبر قيمة اقتصادية نحو قوة الحوسبة، وذلك لسبب واضح: لم نكن نمتلك كمية كافية من العرض لتلبية الطلب، مما يعني ارتفاع الأسعار بشكل حاد؛ وكان أكبر المستفيدين هم نفيديا وتي إس إم وشركات تصنيع الذاكرة (هيتاشي وسامسونج وميكرون). وفي الوقت نفسه، خسرت أنثروبيك وOpenAI معاً مئات المليارات من الدولارات لبناء نماذج متقدمة، ولكن بمجرد إطلاق هذه النماذج، تم تقطيعها وتجريدها من قيمتها عبر نماذج مفتوحة المصدر، بشكل رئيسي من الصين.
هذا يمثل الحالة المتشائمة للمختبرات — فهي لا تستطيع أبدًا تغطية تكاليفها لأن تميّزها مؤقت، والبدائل المجانية تصبح "جيدة بما يكفي" — أعتقد أن هذا منطقي. في عالم حيث يمكن استبدال النماذج، فإن النماذج تصبح سلعًا، وتدفق القيمة الأكبر يتجه إلى أماكن أخرى. الآن، إنه قوة الحوسبة، لكن مع مرور الوقت، عندما نمتلك قوة حوسبة كافية، فإن الموقع الأكثر قيمة في سلسلة القيمة سيكون دائمًا الموقع الأكثر قيمة: امتلاك نقاط التفاعل مع المستخدمين.
لذلك، كان من الواضح لي دائمًا أن المختبرات الرائدة لديها ضرورة اقتصادية لتكون أقرب إلى المستخدمين. إذا كنت تمتلك نقاط تواصل مع المستخدمين، فإنك تمتلك تثبيتًا ذا معنى، وأفضل طريقة للحصول على نقاط تواصل مع المستخدمين هي أن تكون السطح الذي يحتاجونه للقيام بكل شيء. وهذا يعني بدوره أن المختبرات الرائدة تتجه نحو صراع مع شركات البرمجيات: هل تمتلك البرمجيات نقاط تواصل مع المستخدمين، أم أن المصالح طويلة الأجل للمختبرات الرائدة ليست ببساطة أن تصبح مدخلًا تجاريًا للبرمجيات، بل أن تستبدل البرمجيات مباشرة؟
في الوقت نفسه، تعمل شركات البرمجيات على فعل العكس. وقد شرح ساتيا ناديلار رؤيته حول كيفية بناء الشركات للنماذج في مقال على X:
يجب على كل شركة أن تبني رأس المال البشري ورأس المال التوكن الذي أتحدث عنه. يشمل رأس المال البشري معرفة موظفيها، وحكمهم، وعلاقاتهم، وابتكارهم، وتمييزهم للأنماط، بينما يمثل رأس المال التوكن القدرة على الذكاء الاصطناعي التي تبنيها الشركة وتملكها. من المهم أن يظل رأس المال البشري أكثر قيمة مع نمو رأس المال التوكن، بل سيصبح أكثر قيمة فقط! أؤمن أن المبادرة البشرية ستكون المحرك الرئيسي لنمو رأس المال التوكن. سيضع البشر أهدافًا طموحة، ويربطون النقاط عبر المجالات، ويبنون العلاقات، ويحددون الأنماط الأكثر أهمية. بدون إرشاد بشري، فإن قوة الحوسبة الخاصة بك تعمل دون فائدة.
هذا يعني أن الفرصة الحقيقية لا تكمن في اختيار أفضل نموذج، بل في بناء دورة تعلم فوق النماذج، مما يسمح لرأس المال البشري ورأس المال التوكن بالنمو المركب. يمكنك تفويض مهمة، وحتى وظيفة، لكنك لا تستطيع أبدًا تفويض تعلمك. مستقبل الشركات هو تمكين هذا التعلم من النمو المركب بين البشر والذكاء الاصطناعي. وهذا يتطلب منهجية هندسية جديدة تمكن كل شركة من بناء أنظمة وكلاء تتحسن مع مرور الوقت، مع الاحتفاظ في الوقت نفسه بالسيطرة على ملكيتها الفكرية. يجب أن تكون الشركات قادرة على استبدال النماذج "العامة" دون فقدان الخبرة المدمجة في أنظمتها التعليمية من قبل "الموظفين القدامى" في الشركة. هذه هي "الاختبار" الأساسي للسيطرة والسيادة في عصر المستقبل.
بدأ ناديلار هذا الرؤية بتحذير:
ما لا نرغب في رؤيته هو عالم تُقدّم فيه كل شركة في كل صناعة قيمتها لبضعة نماذج قليلة تبتلع كل شيء. إذا تم استحواذ كل القيمة على يد بضعة نماذج فقط، فلن تتحملها الاقتصادات السياسية بأي شكل. المجتمع لن يمنح تصريحًا لمستقبل ذكاء اصطناعي يُفرغ صناعة بأكملها.
فكّر في ما حدث في المرحلة الأولى من العولمة، حيث تم تفريغ كامل الاقتصاد الصناعي عبر التصدير. على الرغم من أن أرقام الناتج المحلي الإجمالي بدت جيدة ظاهريًا، إلا أن التشرد كان حقيقيًا، والنتائج لا تزال تُحسّ حتى اليوم. دعونا لا ننقل هذا الديناميكية إلى عصر الذكاء الاصطناعي، حيث تلتقط أنظمة الذكاء الاصطناعي القليلة جميع العوائد الاقتصادية، بينما تكتشف صناعات بأكملها أن معرفتها تُحوّل إلى سلعة تحت أعينها.
مشكلة هذا التشبيه تكمن في أن العولمة حدثت بالفعل، وأن الاقتصادات الصناعية تم تفريغها بالفعل. قد يكون هذا ليس تحذيرًا بل نبوءة؛ لذا فلا عجب أن ناديليا يُطلق إنذارًا، لأن مايكروسوفت قد تكون من الضحايا. وبالمثل، فإن الضرورة الاقتصادية لصانعي النماذج هي بالضبط تحقيق هذا الأمر.
الضرورة البياناتية
هذه النماذج — حتى Mythos — لم تصل إلى تلك المرحلة بعد. ما تحتاجه، بالإضافة إلى موارد حسابية أكبر، هو بيانات أكثر و meilleur. تأتي تحسينات النماذج بشكل متزايد من التعلم المعزز؛ يمكن لبعضها توليد بيانات مُركبة، لكن أقوى وسيلة للتأثير على المختبرات الرائدة هي الاستخدام في العالم الحقيقي.
أعتقد أن هذا هو السبب الرئيسي وراء قيام OpenAI وAnthropic بتقديم خطط اشتراك مدعومة بشكل كبير. قدرت SemiAnalysis مؤخرًا أن خطة بقيمة 200 دولار تمنحك ما قيمته 8000 دولار من رموز Claude و14000 دولار من رموز Codex. بالطبع، يتنافس كلا الطرفين على حصة من عقلية المستخدمين والمطورين، لكنهما يتنافسان أيضًا على الوصول إلى بيانات الاستخدام الفعلية لتحسين النماذج.
أعلنت Anthropic عن زيادة كبيرة في استثماراتها على Fable، قائلة إنها ستحتفظ بجميع البيانات المستخدمة لمدة 30 يومًا، حتى بالنسبة لخطط الشركات التي وعدت سابقًا بعدم الاحتفاظ بأي بيانات. وصرحت الشركة أنها لن تستخدم هذه البيانات لتدريب النماذج، لكنها لم تضع أي ضمانات لضمان عدم القيام بذلك في المستقبل (مثل تخزين البيانات لدى طرف ثالث). إذا لم تؤدِّ هذه التغييرات في السياسة (عند استئناف عمل Fable) إلى فقدان عدد كبير من العملاء، فأنا أشك أن استخدام البيانات سيكون مجرد مسألة وقت: فهي ذات قيمة كبيرة جدًا لأهدافهم النهائية.
كما يجب الانتباه إلى الدورة التحسينية الإيجابية مع التحرك لأعلى نحو نقاط اتصال المستخدم: كلما تم إنجاز مزيد من سير العمل مباشرةً باستخدام Claude أو Codex، زادت كمية البيانات التي يمكن لكل شركة جمعها وإعادتها إلى التدريب، مما يجعل منتجاتهم أكثر قوة وفائدة، ويوسع عدد سير العمل التي يمكنهم خدمتها، ويوسع وصولهم إلى البيانات.
نادرلا أكد في المقال على أهمية هذه البيانات، لكن ناتور يرى أنها يجب أن تكون مستقلة عن النموذج:
تحتاج الشركة إلى تحويل سير العمل، والمعرفة المتخصصة، والحكم المكتسب إلى نظام ذكاء اصطناعي يتحسن مع كل استخدام. يجب أن تلتقط التقييمات الخاصة ما إذا كان النموذج يُحسّن حقًا النتائج التي لها أهمية للعمل (وليس فقط المعايير الخارجية!). يجب أن تمكن بيئة التعلم المعزز الخاص النموذج من تعزيز أدائه على أساس المسارات الحقيقية داخل المنظمة. كما تجعل قاعدة المعرفة ذاكرة المؤسسة قابلة للاستعلام، وتزيد كفاءة استخدام الرموز.
يصبح هذا الدورة ملكية فكرية جديدة للشركة. أرى فيه آلة تسلق الجبال. على عكس معظم الأصول، فهو يعتمد على الفائدة المركبة. كل تحسين في سير العمل يولد إشارات تدريب أفضل، مما يسرّع تراكم المعرفة الضمنية الحصرية للشركة. ستتمتع الشركات التي تبني هذا في المراحل المبكرة بميزة صعبة التكرار، بغض النظر عن أي قدرات نموذج فردي جديدة.
هذا الدوران يصبح ملكية فكرية جديدة للشركة. أرى فيه آلة تسلق جبال. على عكس معظم الأصول، فإنه ينمو بمعدل مركب. كل تحسين في سير العمل يولد إشارات تدريب أفضل، مما يسرّع تراكم المعرفة الضمنية الحصرية للشركة. الشركات التي تبني هذه القدرة مبكرًا ستتمتع بميزة صعبة التكرار، بغض النظر عن مدى تحسن قدرات النماذج الفردية في المستقبل.
لكن ماذا لو كانت الشركات التي تتبع سياسات بيانات Anthropic يمكنها الآن تحقيق نتائج أفضل؟ أو ماذا لو كانت الشركات الحالية تقاوم، مما يترك فرصة للشركات الجديدة—أو لمصنعي النماذج أنفسهم—للفوز عليها في السوق؟ Anthropic تختبر بالفعل العزيمة التي دعا إليها ناديللا.
مطالب السلطة
بالنسبة لسياسة الاحتفاظ بالبيانات المتعلقة بـ Fable/Mythos، فإنها ليست حتى الجزء الأكثر إثارة للجدل في الإصدار. على العكس، أعلنت Anthropic أنه عند استخدام Fable في تطوير نماذج LLM، فسيتم خفض أدائها بشكل سري؛ ورد في بطاقة النظام:
كما أضفنا تدابير وقائية مرتبطة بتطوير نماذج اللغة الكبيرة المتقدمة. وكما ناقشنا في القسم 6.1 من تقرير المخاطر لفبراير 2026، فإننا نقلق من مخاطر تسريع وتيرة التطور العام للذكاء الاصطناعي، على الرغم من أننا لا نزال غير متأكدين من مدى خطورة هذه المخاطر. على وجه الخصوص، يقلقنا — كما كتبنا في ذلك الوقت — "تسريع قدرة مطوري الذكاء الاصطناعي الآخرين على بناء أنظمة ذكاء اصطناعي قوية مشابهة لأنظمتنا — دون بالضرورة امتلاك تدابير وقائية مكافئة."
نظرًا لقدرة النماذج الأخيرة على تسريع تطوير نفسها، فقد نفذنا تدخلات جديدة تقيّد فعالية Claude عند طلبات تطوير نماذج LLM المتقدمة (مثل بناء خطوط إعداد التدريب المسبق، أو بنية تحتية للتدريب الموزع، أو تصميم وحدات تسريع ML). كان استخدام Claude لتطوير نماذج منافسة ينتهك بالفعل شروط خدمتنا، ولكن من خلال تطبيق تدابير وقائية لفرض هذا التقييد، نتجنب تسريع أولئك الأكثر استعدادًا على انتهاك هذه الشروط.
على عكس تدخلاتنا في مجالات الأمن السيبراني والكيمياء الحيوية ومحاولات التقطير، فإن هذه التدابير الوقائية غير مرئية للمستخدمين. لن يعود Fable 5 إلى نموذج آخر. بدلاً من ذلك، سيتم تقييد فعالية هذه التدابير من خلال تعديلات في النص التحفيزي، أو المتجهات التوجيهية، أو الضبط الدقيق الفعال للمعلمات (PEFT). لن تؤثر هذه التدخلات على غالبية مهام البرمجة. نقدّر أنها ستؤثر على حوالي 0.03% من حركة المرور، مع تركيزها على أقل من 0.1% من المنظمات. عندما تُفعّل هذه التدخلات، نتوقع أن يكون تأثيرها على سلوك النموذج ضئيلاً للغاية، باستثناء تقييد فعاليته في تطوير نماذج LLM المتقدمة. سيظل Claude يقدم ردودًا مفيدة على طلبات المستخدمين. سنواصل تحسين دقة أساليب الكشف بعد إصدار هذا النموذج.
أعادت Anthropic سحب هذا التغيير — سيقوم Fable بتحويل طلبات LLM إلى Opus 4.8 وإبلاغ المستخدمين بهذا التحويل — لكنني أعتقد أن السياسة الأصلية كانت مُلهمة جدًا. من ناحية، لا ألوم Anthropic على عدم رغبتها في مساعدة منافسين؛ ومن ناحية أخرى، يجب أن يكون من الواضح جدًا أن Anthropic ترى أنه لا ينبغي لأي شخص آخر غيرهم إنشاء نماذج LLM متقدمة.
ما يجعل هذه السياسة أكثر إثارةً للانتباه هو أنها صدرت بعد شهرين فقط من خلاف بين Anthropic ووزارة الحرب: حيث أرادت الأخيرة استخدام Claude لأي غرض قانوني، بينما أرادت الأولى فرض قيود أشد صرامة على الأسلحة الرقابية والذاتية. يمثل هذا التخفيض كلاً من قدرة Anthropic على تعديل نماذجها سراً لتحقيق تفضيلاتها السياسية، ورغبته فيها. بعبارة أخرى، تحقق Anthropic بشكل نشط من أكبر مخاوف المنتقدين بشأنها كمصدر خطر في سلسلة التوريد.
ومع ذلك، فإن الاستنتاج الأوسع المستمد من تلك الحادثة هو أن Anthropic تعتقد أنه ينبغي لها أن تمتلك القرار النهائي بشأن كيفية استخدام Anthropic؛ نظرًا لاعتقادها أن فقط عليها هي التي يجب أن تطور الذكاء الاصطناعي المتقدم، فإنها في الواقع ترى أن فقط عليها هي التي يجب أن تمتلك القرار النهائي بشأن الذكاء الاصطناعي بشكل عام. عندما تدمج هذا الفهم مع إعلان الشركة بأن الذكاء الاصطناعي قادر على إجراء جميع الأنشطة الاقتصادية، فإنك تدرك أن قيادة Anthropic تريد فعليًا امتلاك السلطة على كل شيء وعلى الجميع.
السرد الأمني
بالطبع، لن تُعبّر Anthropic أبدًا بهذه الصراحة؛ بل إن القصة تدور حول الأمان:
أتوقع أن تُظهر Anthropic قدرات نماذجها للمستخدمين النهائيين من خلال نقاط نهاية مخصصة بشكل متزايد لسير العمل المختلفة، حتى مع بدئها بفرض قيود على واجهات برمجة التطبيقات. سيتم تنفيذ هذا البديل للبرمجيات وقيود الوصول باسم الأمان، حتى عندما تسعى Anthropic إلى تلبية احتياجاتها الاقتصادية القريبة من المستخدمين النهائيين.
تُفسر Anthropic التغيير الكبير في سياسة الاحتفاظ بالبيانات على أنه مسألة أمان. على وجه التحديد، تدّعي الشركة أن الاحتفاظ بجميع بيانات المستخدمين لمدة 30 يومًا ضروري لمنع سلوكيات الهروب التي تقلق الحكومة الأمريكية. بالطبع، يمكنني تصور مستقبل تجبر فيه عوامل الأمانهم على تدريب هذه البيانات أيضًا لتحسين الحماية ضد الاستخدام الضار.
يرتكز تاريخ نشأة Anthropic بأكمله على إيمان مؤسسيها بأن OpenAI لم تأخذ الأمان على محمل الجد الكافي؛ فقد اعتقدت الشركة أنهم فقط هم من يستطيعون التحكم في الذكاء الاصطناعي، وأنهم، بسبب اهتمامهم الفريد بالأمان، لديهم سبب للسعي للسيطرة على الجميع الآخرين، بما في ذلك الحكومة الأمريكية.
بالنسبة لهذه الحجج الأمنية، فإن المشكلة تكمن في أنني أعتقد أنها فعالة لأنها ليست حججًا حقيقية بالنسبة لـ Anthropic. فالشركة تؤمن حقًا أنها الوحيدة التي تؤمن بالذكاء الفائق، وبالتالي الوحيدة التي تولي اهتمامًا كافيًا للمخاطر. وهذا يبرر قرارًا تلو الآخر، وسياسةً تلو الأخرى، ومواجهةً تلو الأخرى، والتي تبدو للخارجيين كمزيج غريب من السخرية والبراءة.
المقارنة مع OpenAI هائلة: أعتقد أن أحد طرق فهم كيفية وسبب فقدان OpenAI لموقعها القيادي هو أنه خلال السنوات التي تلت إصدار ChatGPT، كانت الشركة في حالة حرب داخلية، حيث تم تحميل مختبر البحث السابق عبء غير متوقع يتمثل في أن يصبح شركة تكنولوجيا استهلاكية؛ وفي أثناء معالجة OpenAI لهذا الصراع، فقدت عدداً كبيراً من الكوادر لصالح شركات مثل Anthropic.
من ناحية أخرى، تمتلك Anthropic توافقًا مثاليًا بين المواهب والرسالة والأعمال. يمكن للشركة أن تبيع رؤية خلق إله آلي للباحثين، مع هالة من الأشخاص الذين يهتمون بالمخاطر ويكونون أذكياء بما يكفي لتمثيل البشر في مواجهة هذه المخاطر؛ وكل تغيير في السياسة الناتج عن ذلك يخدم الأعمال بالضبط، وهو أجمل مصادفة في العالم.
أنا أحترم هذا الاتساق وأخاف منه على حد سواء. أحترمه لأنه واضح أنه فعّال للغاية؛ فإن أقرب مقارنة هي آبل، التي تُغلف دائمًا كل فعل أناني بحجة أنها تفعل ما هو أفضل للمستخدمين — وغالبًا ما تكون على حق. وكذلك الأمر مع Anthropic. لكنني أخاف من أن يُسمح لأولئك الذين يقتنعون بأنهم يفهمون الأفضل للبشرية ببناء هاتف ذكي يمكنني قبوله أو رفضه، أمرٌ واحد؛ أما أن يبنوا ذكاءً فائقًا قادرًا على المساواة أو تجاوز سلطة الدول القومية، أو حتى الشركات الكبرى، فهو أمر مقلق بكثير. إن تاريخ الأشخاص الأذكياء الذين يقتنعون بأنهم يعرفون ما يحتاجه البشر هو تاريخ ملوث، لأنهم أقنعوا أنفسهم بأن نواياهم حسنة، مما منحهم مبررات لأفعال لم تكن كذلك في الواقع.