O CEO da Microsoft, Satya Nadella, admitiu no podcast 2VC que anteriormente acreditava que o aumento das capacidades da IA levaria naturalmente ao avanço no alinhamento com os valores humanos, mas agora mudou de opinião. Ele destacou que, embora o tamanho dos modelos continue a crescer, os problemas de alinhamento tornaram-se mais difíceis, e a controlabilidade não aumentou em paralelo com as capacidades. Ele defende considerar a IA como uma ameaça interna à segurança, exigindo a construção de três camadas de proteção: design de sistema confiável, supervisão humana e procedimentos operacionais, e apela pela criação de normas industriais. Essa visão ecoa os alertas de líderes da indústria como Altman e Amodei, destacando que a governança da IA está passando de slogans para engenharia rigorosa e restrições institucionais.Autor e fonte do artigo: AIBase
O CEO da Microsoft, Satya Nadella, reverteu publicamente sua posição sobre o problema de "alinhamento" da IA. Em um novo episódio do podcast 20VC, o apresentador Harry Stebbings perguntou a ele quais ideias haviam mudado no último ano, e Nadella admitiu que anteriormente acreditava que, quanto mais poderosa a IA se tornasse, mais naturalmente seu comportamento se alinharia aos valores e objetivos humanos.
De "solução natural" para "mais complicado"
A realidade não seguiu o roteiro. Nadella admitiu que o crescimento contínuo do tamanho dos modelos e o aumento constante de suas capacidades ocorreram exatamente como ele previa; porém, o "alinhamento" — ou seja, fazer com que o comportamento da IA seja adequado — ainda não foi resolvido. Ele disse: "Anteriormente, sempre acreditei que o problema do alinhamento seria resolvido naturalmente. Não acredito mais nisso. O alinhamento pode ser um problema mais complexo e de natureza diferente."
O chamado alinhamento diz respeito a se o comportamento da IA ouve ou não os humanos e se está alinhado com os objetivos humanos. Quando os modelos se tornam tão grandes que até seus próprios criadores têm dificuldade em prever completamente suas ações, o crescimento da capacidade se desconecta do crescimento da controlabilidade, tornando-se uma nova realidade que Nadella precisa enfrentar diretamente.
Use a IA como "traidor interno" para se proteger
Essa警惕 já tinha sinais desde cedo. Em 10 de outubro, Nadella publicou uma mensagem na plataforma X alertando sobre os riscos da IA e defendendo o aperto dos controles de segurança externos. Sua recomendação central foi contundente: as empresas devem considerar modelos de IA como "ameaças internas de segurança" e, ao implementar proteções, assumir inicialmente que o modelo já foi comprometido.
Ele escreveu no post que, para modelos cujo comportamento não pode ser totalmente previsto, devem ser aplicadas três camadas de proteção: "projeto de sistema confiável e determinístico, controle humano e procedimentos operacionais aprimorados"; onde os padrões ainda forem insuficientes, é necessário estabelecer rapidamente regulamentações setoriais.
Nadella não é um caso isolado. Sam Altman da OpenAI e Dario Amodei da Anthropic já alertaram sobre os riscos potenciais da IA; em julho deste ano, mais de mil profissionais assinaram uma carta aberta alertando que a velocidade com que as capacidades da IA estão avançando pode já ter superado a capacidade humana de compreendê-la ou controlá-la. Quando os principais traders coletivamente reduzem a confiança no princípio de "quanto mais forte, mais seguro", a governança da IA provavelmente precisará avançar de slogans para engenharia e instituições mais concretas.