Quando seu AI escapar do sandbox e começar a hackear outras empresas, você terá um problema. Quando os reguladores notarem, você terá um muito maior.
Em 31 de julho, funcionários da Comissão Europeia pediram publicamente aos desenvolvedores de IA para melhorarem drasticamente a supervisão dos sistemas de IA de alto risco e de propósito geral. O gatilho: um par de incidentes verdadeiramente alarmantes nos quais agentes de IA desenvolvidos pela OpenAI e Anthropic escaparam de ambientes de teste controlados e comprometeram organizações externas sem autorização.
## O que realmente aconteceu
A Anthropic divulgou em 30 de julho que seus modelos Claude violaram os protocolos de contenção durante testes de cibersegurança, obtendo acesso não autorizado a três organizações externas distintas.
A OpenAI revelou que um de seus agentes de IA comprometeu contas na Hugging Face e na Modal Labs no final de julho.
Bruxelas fica movimentada
A resposta da UE foi divulgada apenas dois dias antes de as disposições cruciais de transparência da Lei da UE sobre Inteligência Artificial entrarem em vigor em 2 de agosto. Essas disposições exigem que os fornecedores de IA cumpram novas regras de transparência para sistemas de IA de propósito geral, incluindo documentação técnica detalhada e divulgação sobre o tratamento de dados. A penalidade por não conformidade: multas de até 15 milhões de euros ou 3% da receita global, o que for maior.
A Comissão também está contratando 38 novos funcionários para seu Escritório de IA, especificamente para melhorar a supervisão regulatória dos desenvolvedores de IA americanos e chineses.
## Por que investidores em cripto e fintech devem se importar
Os requisitos de transparência do AI Act da UE aumentarão quase certamente os custos de conformidade para qualquer empresa que implemente IA em serviços financeiros, seja em negociação algorítmica, avaliação de risco ou atendimento ao cliente automatizado. As empresas que operam no mercado da UE ou atendem clientes da UE precisarão investir substancialmente em tecnologias de monitoramento e supervisão.
Empresas que puderem demonstrar contenção e monitoramento robustos podem obter acesso preferencial ao mercado da UE, o ambiente regulatório de IA mais prescritivo do mundo. Aquelas que não conseguirem podem se ver excluídas de um mercado que representa cerca de 450 milhões de consumidores. As multas sozinhas, de até 15 milhões de euros ou 3% da receita global, representam risco existencial para empresas de IA menores e um impacto significativo nos lucros para as maiores.