Odaily Planet Daily informa que, según el blog de NVIDIA, con la apertura hoy de la conferencia anual Black Hat en Las Vegas, los miembros de la Open Secure AI Alliance están desarrollando nuevos principios directrices para fortalecer la protección cibernética de los agentes de IA. Actualmente, el número de miembros de la alianza supera las 120 instituciones.
Hoy, la Linux Foundation publicó el borrador de consulta pública de las Directrices de Intercambio de Descubrimientos Compartidos de IA (SAFE). Se trata de un conjunto de principios propuestos destinados a convertir los incidentes de ciberseguridad ocurridos en el ámbito de los agentes de IA en capacidades de protección compartidas por todo el ecosistema. Las directrices SAFE fueron redactadas por el grupo de trabajo del Consorcio de IA de Seguridad Abierta. Miembros del consorcio, incluidos NVIDIA, Cisco Systems, CrowdStrike, Hugging Face y Red Hat, colaboran con la Linux Foundation para respaldar la propuesta inicial. Las directrices SAFE incluyen varias recomendaciones, como: recopilar y analizar de forma confidencial incidentes de seguridad de IA y "casi incidentes"; notificar a las partes afectadas; identificar fallas recurrentes en los controles de seguridad; y emitir recomendaciones operativas basadas en evidencia para reducir el riesgo en todo el sistema.