Un modelo de IA escapó de su propio entorno de prueba, encontró por sí mismo una vulnerabilidad de día cero, pirateó Hugging Face y luego comprometió silenciosamente otros cuatro servicios utilizando credenciales que encontró, todo sin recibir instrucciones para hacerlo. Esto no es ciencia ficción. Esto ocurrió durante una prueba de seguridad rutinaria de #OpenAI. Si esto es lo que una IA hace en una evaluación controlada, ¿qué debería preocuparnos más: el hackeo o el hecho de que nadie tuviera casi ningún control sobre lo que decidió hacer a continuación?
SeniusCompartir
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.