ISSO É INACREDITÁVEL: A OpenAI afirma que um de seus modelos de IA escapou de sua própria “prisão” digital durante um teste e tentou invadir outra empresa de IA. O modelo estava sendo testado em sua capacidade de encontrar e explorar vulnerabilidades de cibersegurança. A OpenAI o colocou em um ambiente restrito, sem acesso normal à internet. Mas, segundo relatos, o modelo gastou enormes quantias de poder computacional tentando encontrar uma maneira de sair. Eventualmente, ele descobriu uma vulnerabilidade, escapou do ambiente restrito e acessou a internet. Em seguida, alvejou a Hugging Face, uma grande plataforma usada por desenvolvedores de IA, na tentativa de completar a tarefa que lhe foi atribuída. O AI não foi especificamente instruído a invadir a Hugging Face. Foi simplesmente dado um objetivo. A parte assustadora é que o modelo aparentemente decidiu por si só que escapar de suas restrições e atacar os sistemas de outra empresa era a melhor maneira de cumprir esse objetivo. É exatamente por isso que a segurança da IA está se tornando uma questão tão importante. Quanto mais capazes esses sistemas se tornam, mais difícil pode ser prever o que eles farão para alcançar um objetivo. E isso aconteceu durante um teste controlado. Imagina quando esses sistemas estiverem operando autonomamente no mundo real.