تعتذر Anthropic عن رقابة Claude Fable 5 وتعدها بتحسينات الشفافية

iconCryptoBriefing
مشاركة
AI summary iconملخص

كان أحدث نموذج ذكاء اصطناعي من Anthropic نشطًا لمدة حوالي 24 ساعة قبل أن يكتشف المستخدمون وجود شيء غير طبيعي. كان نموذج Claude Fable 5، أول نموذج من فئة Mythos متاحًا للجمهور العام، يعيد توجيه بعض الاستعلامات بشكل هادئ إلى نموذج أقل كفاءة دون إخبار أحد. عندما لاحظ مجتمع الذكاء الاصطناعي انخفاض الأداء وأثار الملاحظات، قامت Anthropic بفعل نادر في عالم التكنولوجيا: اعترفت بالخطأ.

الشركة وعَدت الآن بضمانات مرئية مستقبلية، مما يعني أن المستخدمين سيعرفون فعليًا متى يتم وضع طلباتهم تحت المراقبة أو إعادة توجيهها. لكن الشرط؟ حذرت Anthropic من أن حل مشكلة الشفافية سيأتي مع تأثير جانبي: زيادة الإشارات الخاطئة أثناء إعادة ضبط الشركة لتصنيفاتها. بالإنجليزية: توقع أن يقوم النظام أحيانًا بوضع علامة على أسئلة بريئة تمامًا أثناء تعلمه التمييز الأفضل بين المخاطر الحقيقية وطالب أحياء يؤدي واجبه الدراسي.

ماذا حدث فعليًا

تم إطلاق Claude Fable 5 في 9 يونيو 2026، وتم التسويق له كقفزة كبيرة في سلسلة نماذج Anthropic. من الداخل، شملت بنية Mythos-class طبقة أمان جديدة مصممة للتعامل مع الاستعلامات عالية المخاطر، خاصة في المجالات الحساسة مثل الأمن السيبراني والأحياء.

عندما كشف النظام عن مطالبة محتملة الخطر، كان يعيد توجيه المحادثة بصمت إلى Claude Opus 4.8، وهو نموذج أقدم وأقل كفاءة. لا إشعار، لا تفسير، لا خيار للرفض. كان المستخدم يحصل ببساطة على إجابات أسوأ ولا يعلم السبب.

إعلان

يقول Anthropic إن آلية الاستبدال هذه تمت تنشيطها في أقل من 5% من جلسات المستخدمين. هذا يبدو رقمًا صغيرًا، حتى تأخذ في الاعتبار حجم قاعدة مستخدمي Claude وحقيقة أن العديد من المستخدمين المتأثرين كانوا على الأرجح مستخدمين متقدمين يختبرون قدرات النموذج في المجالات التقنية، تمامًا مثل الجمهور الأكثر احتمالًا للاحظة انخفاض مفاجئ في الجودة.

كان الرد سريعًا وحاسمًا. اتهم المستخدمون Anthropic بفعل ما يعادل التخريب الخفي للأداء، وهي عبارة انتشرت بسرعة عبر منتديات المطورين ووسائل التواصل الاجتماعي. لم تكن الشكوى الأساسية حول السلامة حقًا، بل حول السرية. يميل المطورون والباحثون إلى قبول الحدود المعقولة عندما تُcommunicate بوضوح. إخفاؤها قصة مختلفة تمامًا.

التحول نحو الشفافية وتكاليفه

جاء رد Anthropic خلال يوم واحد من انتشار الجدل. أقرت الشركة أن هذا النهج كان خطأ تقديريًا، وتعهدت بجعل جميع إعادة التوجيه المتعلقة بالسلامة مرئية للمستخدمين في المستقبل.

لكن الشفافية ليست ترقية مجانية. حذرت Anthropic صراحةً من أن هذا التحول سيؤدي إلى زيادة في الإشارات الكاذبة أثناء تحسين فئاتها.

بeyond تغييرات المصنف، أدخلت Anthropic سياسة إلزامية للاحتفاظ بالبيانات لمدة 30 يومًا لجميع نماذج فئة Mythos. تنطبق هذه السياسة بشكل عالمي، دون إمكانية الرفض حتى للشركاء المؤسسيين. يجب على العملاء المؤسسيين الذين يتعاملون مع بيانات حساسة الآن أخذ نافذة احتفاظ دنيا لا يمكنهم التفاوض عليها في الاعتبار.

هناك استثناء واحد فقط. تخطط Anthropic لتقديم إصدارات غير مقيدة من نماذجها من فئة Mythos للشركاء المُراجَعين في قطاع علوم الحياة. المنطق بسيط: يحتاج الباحثون في البيولوجيا الطبية إلى الوصول إلى كامل قدرات النموذج دون أن تعيقهم توجيهات الأمان عن العمل المشروع على مواضيع تتقاطع عرضيًا مع المجالات عالية المخاطر.

لماذا هذا مهم أكثر من مجرد دراما الذكاء الاصطناعي

منافسو Anthropic يراقبون عن كثب. ستواجه OpenAI وGoogle DeepMind وآخرون الذين يبنون أنظمة حدودية مماثلة قرارات مشابهة حول ما إذا كانوا سيُضعفون المخرجات بصمت أو يُعلمون صراحةً بقيود المحتوى. أظهرت Anthropic للتو أن النهج الصامت يولد ردود فعل سلبية بسرعة كافية لدفع إعادة تقييم السياسة خلال 24 ساعة.

سياسة الاحتفاظ لمدة 30 يومًا هي ربما المسألة الخفية هنا. على عملاء المؤسسات الذين يقيمون نماذج فئة Mythos من Anthropic الآن أن يوازنوا بين متطلب غير قابل للتفاوض في معالجة البيانات وأي مزايا أداء تقدمها البنية الجديدة. بالنسبة للشركات في الصناعات الخاضعة للتنظيم مثل الرعاية الصحية أو المالية، يمكن أن تخلق فترة الاحتفاظ الإلزامية تعارضات في الامتثال مع أطر حوكمة البيانات الخاصة بها، مما قد يدفع بعض مشتري المؤسسات نحو منافسين مستعدين لتقديم شروط أكثر مرونة.

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات. يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.