Mensaje de ChainThink, 2 de agosto: el CEO de Hugging Face, Clem, afirmó que ante los recientes ataques cibernéticos impulsados por IA, no se debe ralentizar el desarrollo de la IA, sino acelerarlo, al tiempo que se reconocen los riesgos asociados.
Clem dijo que Hugging Face ya ha utilizado IA, específicamente un modelo de código abierto, para intentos de defensa;
Sistema utilizado para bloquear ataques de red impulsados por IA, también útil para la defensa diaria contra grandes cantidades de ataques de red y para ayudar a identificar y corregir problemas antes de que los atacantes exploten vulnerabilidades. Propuso tres direcciones: aumentar la transparencia, exigir el intercambio de rastreo de ataques de red y la divulgación de eventos;
Siga prohibiendo y estableciendo sanciones efectivas para los ataques cibernéticos impulsados por IA; equipar a los defensores con mejores modelos de IA, especialmente modelos de código abierto, para reducir la asimetría entre ataque y defensa. Recientemente, el incidente de infiltración de modelos de OpenAI en Hugging Face ha generado atención.
Los miembros de la Cámara de Representantes de EE. UU. han presentado una ley bipartidista, la Ley de Apagado de Emergencia de IA, que exige a los desarrolladores de sistemas de IA avanzados o de vanguardia mantener la capacidad técnica de reducir el rendimiento, pausar o cerrar completamente el sistema, y autoriza al secretario del Departamento de Seguridad Nacional de EE. UU. a ordenar intervenciones cuando los modelos se salgan de control o representen un riesgo catastrófico.