A TechCrunch publicou um artigo afirmando que a IA generativa está colocando questões de segurança empresarial em primeiro plano. Francis de Souza, CEO da Google Cloud, declarou em um evento que, ao implementar IA, as empresas não podem deixar a segurança para depois nem delegá-la aos funcionários individualmente. Segundo ele, a estratégia de IA deve ser avançada simultaneamente com a estratégia de dados e a estratégia de segurança.
O artigo aponta que esse conjunto de julgamentos em si não é novo, mas, com a rápida integração de ferramentas de IA nos processos empresariais, os riscos estão sendo expostos mais rapidamente. de Souza destacou especialmente o problema do "IA sombra", em que funcionários contornam a governança corporativa e usam diretamente ferramentas de IA voltadas para uso pessoal. Isso torna difícil para as empresas unificar auditoria, controle de permissões e gestão de dados.
A superfície de ataque já não se limita à rede tradicional
de Souza acredita que os modelos de defesa antigos já não acompanham o ritmo atual. O artigo cita sua afirmação de que o intervalo médio entre a primeira violação do sistema e a entrada do ataque na próxima fase diminuiu de 8 horas para 22 segundos. Ao mesmo tempo, os objetos que as empresas precisam proteger não são mais apenas redes e terminais.
Os pontos de risco atuais também incluem novos componentes como modelos, pipelines de dados de treinamento, agentes e prompts. Em particular, agentes de IA operados internamente nas empresas podem automaticamente descobrir repositórios de dados não monitorados há anos e expor novamente informações sensíveis anteriormente ocultas.
O Google defende a proteção baseada em plataforma
A abordagem proposta por de Souza é fazer com que a defesa também se torne "máquina para máquina". Ele afirma que as empresas precisam adotar uma abordagem baseada em plataformas, mantendo políticas de segurança consistentes entre diferentes ambientes de nuvem e diferentes modelos, em vez de corrigir falhas individualmente após a implantação dos negócios.
Ele também afirmou que isso já não é mais apenas uma questão da equipe de segurança, mas um assunto que exige participação direta do conselho e da gestão. A razão é que a IA está alterando a forma como os sistemas internos da empresa são acessados, tornando cada vez mais difícil para os processos de segurança tradicionais, que dependem de resposta humana, lidarem de forma oportuna.
No entanto, o artigo também menciona que a indústria ainda carece de profissionais suficientes para supervisionar esses sistemas. Lea Kissner, chefe de segurança da informação do LinkedIn, disse à The New York Times esta semana que a velocidade com que as vulnerabilidades trazidas pela IA estão aumentando ainda supera a capacidade das equipes de segurança, e a indústria pode precisar de vários anos para desenvolver uma compreensão mais estável da segurança da IA.
O evento Gemini expôs a lacuna na execução da plataforma
O artigo afirma que, embora as recomendações de segurança apresentadas pelo Google Cloud sejam razoáveis, a própria plataforma apresenta lacunas evidentes na implementação. O The Register relatou recentemente em uma série de artigos que diversos desenvolvedores do Google Cloud receberam faturas no valor de dezenas de milhares de dólares devido a chamadas não autorizadas à API Gemini, sendo que alguns desses usuários nunca haviam ativado ativamente esse serviço.
A report mentioned that most of these cases were related to publicly exposed API keys. The keys were originally intended for Google Maps and had been placed in public locations according to Google's previous guidelines. Later, Google expanded the callable scope of these keys, but developers were not clearly informed of the change, allowing attackers to access Gemini services and incur high fees.
- Prentus afirmou que foram gastos 10.138 dólares em 30 minutos.
- Outro desenvolvedor recebeu uma fatura de aproximadamente 17.000 dólares australianos
- O limite real após o aumento automático pode chegar a até US$100.000
Após a cobertura da mídia, o Google reembolsou os desenvolvedores envolvidos, mas não planeja alterar a política de cobrança automática de níveis de atualização. A empresa justificou que a plataforma prioriza evitar interrupções de serviço em vez de aderir rigidamente aos limites orçamentários definidos pelos usuários.
Ainda há uma janela disponível após a exclusão da chave
O artigo também menciona um estudo da empresa de segurança Aikido, que afirma que, mesmo após os desenvolvedores descobrirem o vazamento da chave e a excluírem imediatamente, os atacantes ainda podem continuar a usá-la por até 23 minutos, pois a revogação do Google se propaga gradualmente pela infraestrutura, e não entra em vigor imediatamente.
O pesquisador de Aikido Joseph Leon afirmou que, durante esse período, a estabilidade da autenticação das solicitações não é confiável, mas em certos momentos a taxa de sucesso ainda pode ultrapassar 90%. Os atacantes podem explorar essa janela para continuar exportando arquivos ou lendo os dados de conversa em cache da Gemini.
Leon também apontou que alguns novos formatos de credenciais do Google não apresentam o mesmo problema. Por exemplo, credenciais de API de conta de serviço podem ser revogadas em cerca de 5 segundos, e as chaves mais recentes do Gemini com prefixo AQ expiram em cerca de 1 minuto. Isso significa que a janela de 23 minutos para chaves antigas não é necessariamente inviável tecnicamente, mas sim um resultado de prioridades da plataforma.
Informação adicional: Este artigo é um artigo de opinião de mídia estrangeira; seu foco principal não é refutar as recomendações de segurança do Google, mas sim apontar que, enquanto a plataforma promove a prevenção proativa por empresas, ainda existe uma lacuna na velocidade de resposta de seus próprios produtos em relação à faturamento e gerenciamento de chaves.