CEO da NVIDIA alerta para limites de segurança da IA e anuncia iniciativa de segurança da IA no Reino Unido no valor de US$ 250 milhões

Notícia do Beating AI: Em recente entrevista à Bloomberg em Londres, o CEO da NVIDIA, Jensen Huang, afirmou que, em cenários hipotéticos, a NVIDIA poderia interromper o fornecimento de chips a clientes que desenvolvem software de IA inseguro, mas que tomaria tal medida apenas após se comunicar primeiro com os clientes. Huang também enfatizou que a NVIDIA fornece tecnologia geral e que há limitações em como a empresa avalia o uso da tecnologia pelos clientes. Ao mesmo tempo, a NVIDIA comprometeu-se a fornecer aos Reino Unido, nos próximos cinco anos, recursos de computação no valor de US$ 250 milhões para apoiar pesquisas em segurança de IA, com foco principal em testes de segurança de agentes — recursos anuais avaliados em cerca de US$ 50 milhões. Os projetos apoiados incluem o projeto BOLD liderado pela Universidade de Oxford, bem como pesquisas relacionadas do Imperial College London e da University College London. Huang defende a aceleração da integração de restrições e tecnologias de monitoramento de segurança nos sistemas de IA e afirmou que a capacidade da IA e a segurança devem avançar juntas. O relatório sugere que a regulamentação da segurança da IA pode afetar a demanda por chips da NVIDIA: se regulamentações limitarem o treinamento de novos modelos ou aumentarem os custos de desenvolvimento, isso pode inibir a aquisição de processadores de IA; no entanto, o fortalecimento da pesquisa em segurança também pode ajudar a promover a implementação mais confiável da tecnologia de IA.