El CEO de Hugging Face pide acelerar la seguridad en IA ante el aumento de las amenazas cibernéticas

iconKuCoinFlash
Compartir
AI summary iconResumen
El CEO de Hugging Face, Clem, pidió un avance más rápido en la seguridad de la IA bajo las preocupaciones de MiCA y CFT. Señaló que la IA ya se utiliza para detener ciberataques y enfatizó la transparencia y los marcos legales. Una violación reciente de un modelo de OpenAI y un proyecto de ley estadounidense sobre poderes de apagado de IA han aumentado la urgencia regulatoria.
ME AI mensaje, según el monitoreo de Beating, el CEO de Hugging Face, Clem, afirmó que ahora no es momento de ralentizar el ritmo, ¡sino de acelerar! Los recientes ataques cibernéticos impulsados por IA han hecho que todos hablen sobre los riesgos de la IA. Debemos discutirlo, sin duda, pero no podemos ignorar el panorama más amplio. Si nos esforzamos, la IA hará al mundo más seguro, al igual que la mayoría de las grandes tecnologías. Ya hemos vislumbrado una luz: hemos logrado defendernos con éxito utilizando IA (específicamente, un modelo de código abierto). Los mismos sistemas que ayudaron a detener los ataques cibernéticos impulsados por IA ahora pueden ayudar a defender millones de ataques diarios y nos permiten identificar y corregir vulnerabilidades antes de que los atacantes las exploten. Para lograr esto, creo que necesitamos tres cosas: Aumentar la transparencia, exigiendo el seguimiento compartido y la divulgación de incidentes en ataques cibernéticos impulsados por agentes; Continuar clasificando como ilegales los ataques cibernéticos impulsados por IA e imponer sanciones significativas como disuasivo; Equipar a los defensores con las mejores IA, especialmente modelos de código abierto, para reducir la asimetría de capacidad entre atacantes y defensores. Si logramos estas tres cosas, la IA no solo traerá nuevos desafíos de ciberseguridad; la reforzará fundamental y significativamente. Recientemente, el incidente de intrusión de modelos de OpenAI en Hugging Face ha generado controversia, y miembros del Congreso de EE.UU. han presentado una ley bipartidista, la "Ley de Apagado de Emergencia de IA", que exige a los desarrolladores de sistemas de IA avanzada/frente a la vanguardia que mantengan la capacidad técnica para limitar, pausar o cerrar completamente el sistema; y autoriza al Secretario del Departamento de Seguridad Nacional (DHS) a intervenir tras consultar con el Secretario de Comercio y el Director de Inteligencia Nacional si el modelo se sale de control o representa un riesgo catastrófico. (Fuente: BlockBeats)
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.