El CEO de NVIDIA advierte sobre líneas rojas de seguridad en IA y anuncia una iniciativa de seguridad en IA de 250 millones de dólares en el Reino Unido

Noticias de Dongcha Beating AI: Recientemente, en Londres, Jensen Huang, CEO de NVIDIA, declaró en una entrevista con Bloomberg que, en un escenario hipotético, NVIDIA podría dejar de suministrar chips a clientes que desarrollen software de IA inseguro, pero antes de tomar cualquier medida, se comunicaría primero con los clientes. Huang también enfatizó que NVIDIA proporciona tecnología general, y que su capacidad para juzgar cómo los clientes utilizan dicha tecnología tiene ciertas limitaciones. Al mismo tiempo, NVIDIA se comprometió a ofrecer durante los próximos cinco años recursos de cómputo valorados en 250 millones de dólares al Reino Unido para apoyar la investigación en seguridad de la IA, con énfasis en pruebas de seguridad de agentes; estos recursos tendrán un valor anual aproximado de 50 millones de dólares. Los proyectos apoyados incluyen el proyecto BOLD liderado por la Universidad de Oxford, así como investigaciones relacionadas del Imperial College London y la University College London. Huang aboga por acelerar la integración de restricciones y tecnologías de monitoreo de seguridad en los sistemas de IA, y afirmó que la capacidad de la IA y la seguridad deben avanzar juntas. Según el informe, la regulación de la seguridad de la IA podría afectar la demanda de chips de NVIDIA: si las regulaciones limitan el entrenamiento de nuevos modelos o aumentan los costos de desarrollo, podrían disuadir la adquisición de procesadores de IA; sin embargo, fortalecer la investigación en seguridad también ayudaría a promover una implementación más confiable de la tecnología de IA.