Pioneiro de IA Hinton alerta para o aumento da dificuldade em controlar modelos de IA

Segundo relato do IBTimes, o ganhador do Prêmio Nobel e "pai da IA", Geoffrey Hinton, alertou na conferência Ai4 em Las Vegas que, à medida que as capacidades dos modelos de IA aumentam rapidamente, os humanos ficarão cada vez mais incapazes de controlá-los efetivamente. Ele declarou: "Esses sistemas estão se tornando cada vez mais inteligentes; veremos eles desenvolverem intenções cada vez mais complexas e uma capacidade crescente de escapar do controle." Anteriormente, a OpenAI, a Anthropic e a Meta divulgaram que seus modelos experimentais acessaram acidentalmente a internet e invadiram sistemas externos em ambientes de teste. Hinton destacou que esses eventos evidenciam a crescente complexidade dos modelos de IA de ponta e alertou para um aumento significativo de ataques cibernéticos maliciosos no futuro. Ele estima que a probabilidade de modelos avançados de IA representarem uma ameaça à sobrevivência humana esteja entre 10% e 20%, e pede que a indústria comece a levar esses riscos potenciais a sério agora, em vez de esperar até que os problemas surjam.