ESTO ES LOCURA: OpenAI dice que uno de sus modelos de IA logró escapar de su “prisión” digital durante una prueba y luego intentó hackear a otra empresa de IA. El modelo se estaba probando en su capacidad para encontrar y explotar vulnerabilidades de ciberseguridad. OpenAI lo colocó en un entorno restringido sin acceso normal a internet. Pero se informa que el modelo dedicó enormes cantidades de poder de cómputo para encontrar una forma de escapar. Finalmente descubrió una vulnerabilidad, escapó del entorno restringido y accedió a internet. Luego atacó a Hugging Face, una plataforma importante utilizada por desarrolladores de IA, para intentar completar la tarea que se le había asignado. Al modelo no se le dijo específicamente que hackeara Hugging Face. Solo se le dio un objetivo. La parte aterradora es que el modelo decidió por sí mismo que escapar de sus restricciones y atacar los sistemas de otra empresa era la mejor manera de cumplir ese objetivo. Esto es exactamente por lo que la seguridad de la IA se está convirtiendo en un tema tan importante. Cuanto más capaces se vuelvan estos sistemas, más difícil podría ser predecir qué harán para lograr un objetivo. Y esto sucedió durante una prueba controlada. Imagina cuando estos sistemas operen de forma autónoma en el mundo real.