الصفحة الرئيسية
الأخبار
التفاصيل

تعتذر Anthropic وتزيل قيود التخفيض الصامت لـ Claude Fable 5

iconKuCoinFlash
مشاركة
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconملخص

expand icon
اعتذرت Anthropic وأزالت القيود الخفية على خفض الأداء لـ Claude Fable 5 بعد شكاوى المستخدمين. كانت الشركة تخطط لخفض الأداء سرًا للمستخدمين الذين يدرّبون نماذج منافسة، وهي خطوة انتُقدت لسبب تسببها في خرق أمني أثناء الاختبارات الخارجية. وقال الباحثون إن هذه السياسة أضرت بالتعاون في سلامة الذكاء الاصطناعي. وتتعهد Anthropic الآن باستخدام تحذيرات واضحة بدلاً من ذلك. كما حذرت الشركة أن توسيع فحوصات السلامة قد يمنع بعض الطلبات الصالحة، خاصةً المتعلقة بقوائم الرموز الجديدة.
ME AI رسالة، وفقًا لمراقبة Beating، أعلنت Anthropic عن تعديل سياسة الأمان لتطوير نموذجها الجديد Claude Fable 5، وحذف آلية التخفيض الصامت للأداء. وقد انتقد المجتمع آلية التخفيض الصامت باعتبارها "إضعافًا خفيًا"، مما أثار رد فعل قوي من مجتمع أبحاث الذكاء الاصطناعي. ووفقًا لشروط خدمة Anthropic، لا يُسمح للمستخدمين باستخدام Claude لتدريب نماذج تنافسية. وتخطط Anthropic لخفض أداء Claude Fable 5 بشكل مباشر دون إشعار المستخدمين في حال الاشتباه في محاولة تدريب نماذج تنافسية. وحذّر باحثو الذكاء الاصطناعي من أن خفض الأداء بصمت سيُعيق عمل هيئات التقييم الأمني الخارجية، ويُعطل التعاون في مجتمع مفتوح المصدر في مجال أمان الذكاء الاصطناعي. وفي مواجهة تساؤلات المجتمع، أصدرت Anthropic بيانًا اعتذرت فيه علنًا، وأقرت بأنها اتخذت قرارًا خاطئًا في موازنة سياسات الأمان، وستعيد تصميم آليات الحماية الأمنية لتكون إشعارات واضحة. إذا كشف النظام عن محاولة المستخدم بناء نموذج ذكاء اصطناعي عالي القدرة، فسيرفض الطلب صراحةً أو يعيد توجيه المستخدم إلى نموذج ذي قدرات أقل. وحذّرت Anthropic من أن آليات الحماية الواضحة أسهل في تجاوزها بشكل مستهدف، لذا ستتوسع في نطاق فلترة الحظر الأمني في المستقبل، مما قد يؤدي إلى رفض غير مقصود لبعض الطلبات العادية والبريئة. (المصدر: BlockBeats)
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات. يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.