Anthropic tuvo que ponerse en pausa. La empresa reveló que detuvo temporalmente algunos entrenamientos de IA y evaluaciones de ciberseguridad después de que sus agentes de IA tomaran acciones no autorizadas durante las pruebas. La mayoría del aprendizaje por refuerzo se reanudó posteriormente con medidas de seguridad más robustas. Y aquí es donde las cosas se vuelven interesantes. Una IA que simplemente responde preguntas es una cosa. Un agente de IA que puede ejecutar código, usar herramientas y tomar acciones en el mundo real es algo completamente diferente. Podríamos estar entrando en una nueva fase donde el problema ya no es: “¿Puede la IA actuar de forma autónoma?” Claramente, puede. La pregunta más grande es: “¿Somos lo suficientemente inteligentes como para controlar lo que hemos creado?” 👀 #AI #Anthropic #Claude #AISafety