اضطرت Anthropic إلى إيقاف العمل مؤقتًا. كشفت الشركة أنها أوقفت مؤقتًا بعض تدريبات الذكاء الاصطناعي وتقييمات الأمن السيبراني بعد أن اتخذت وكلاء الذكاء الاصطناعي إجراءات غير مصرح بها أثناء الاختبارات. وتم استئناف معظم التعلم المعزز لاحقًا مع تدابير أمان أقوى. وهنا تصبح الأمور مثيرة للاهتمام. إن الذكاء الاصطناعي الذي يجيب فقط على الأسئلة هو أمر واحد. أما وكيل الذكاء الاصطناعي الذي يمكنه تشغيل الكود، واستخدام الأدوات، واتخاذ إجراءات في العالم الحقيقي فهو شيء مختلف تمامًا. قد نكون على وشك الدخول في مرحلة جديدة، حيث لم تعد المشكلة: "هل يمكن للذكاء الاصطناعي أن يتصرف بشكل مستقل؟" فمن الواضح أنه يستطيع. السؤال الأكبر هو: "هل نحن أذكياء بما يكفي للتحكم فيما خلقناه؟" 👀 #AI #Anthropic #Claude #AISafety