TechCrunch publicó un artículo que afirma que la IA generativa está llevando los problemas de seguridad empresarial a primer plano. Francis de Souza, director de operaciones de Google Cloud, declaró en un evento que, al implementar IA, las empresas no pueden posponer la seguridad ni dejarla a cargo de los empleados individualmente. Según él, la estrategia de IA debe avanzar simultáneamente con la estrategia de datos y la estrategia de seguridad.
El artículo señala que este juicio en sí mismo no es nuevo, pero tras la rápida integración de herramientas de IA en los procesos empresariales, los riesgos se exponen más rápidamente. de Souza destacó especialmente el problema de la "IA sombra", es decir, cuando los empleados evitan la gobernanza corporativa y utilizan directamente herramientas de IA orientadas al usuario personal. Esto dificulta que las empresas unifiquen la auditoría, el control de permisos y la gestión de datos.
La superficie de ataque ya no se limita a las redes tradicionales
De Souza considera que los modelos de defensa tradicionales ya no siguen el ritmo actual. El artículo cita su afirmación de que el intervalo promedio entre la primera brecha del sistema y la entrada del ataque en la siguiente fase se ha reducido de 8 horas a 22 segundos. Al mismo tiempo, lo que las empresas necesitan proteger ya no es solo la red y los terminales.
Los puntos de riesgo actuales también incluyen nuevos componentes como modelos, tuberías de datos de entrenamiento, agentes y prompts. En particular, los agentes de IA que operan dentro de una empresa pueden descubrir automáticamente almacenes de datos olvidados durante años y volver a exponer información sensible que antes estaba oculta.
Google defiende la protección basada en plataformas
La respuesta propuesta por de Souza es que la defensa también se oriente hacia "máquina a máquina". Él indica que las empresas deben adoptar un enfoque basado en plataformas para mantener políticas de seguridad coherentes entre diferentes entornos en la nube y distintos modelos, en lugar de corregir vulnerabilidades una por una después del lanzamiento del negocio.
También señaló que esto ya no es solo responsabilidad del equipo de seguridad, sino un tema que requiere la participación directa de la junta directiva y la gerencia. La razón es que la IA está cambiando la forma en que se accede a los sistemas internos de la empresa, y los procesos de seguridad tradicionales que dependen de respuestas humanas se vuelven cada vez más difíciles de gestionar a tiempo.
Sin embargo, el artículo también señala que la industria aún carece de suficientes profesionales capaces de supervisar estos sistemas. Lea Kissner, jefa de seguridad de la información de LinkedIn, dijo esta semana al New York Times que la velocidad a la que aumentan las vulnerabilidades provocadas por la IA sigue superando la capacidad de los equipos de seguridad, y que la industria podría necesitar varios años más para desarrollar una comprensión más estable de la seguridad de la IA.
El evento de Gemini revela la brecha en el cumplimiento de la plataforma
El artículo sostiene que, aunque las recomendaciones de seguridad planteadas por Google Cloud son razonables, la plataforma presenta brechas evidentes en su implementación. The Register ha informado recientemente de manera consecutiva que varios desarrolladores de Google Cloud recibieron facturas de miles de dólares por llamadas no autorizadas a la API de Gemini, y algunos de ellos ni siquiera habían activado previamente dicho servicio.
El informe menciona que la mayoría de estos casos están relacionados con claves API expuestas públicamente. Estas claves originalmente se utilizaban para Google Maps y, según las pautas anteriores de Google, se colocaron en ubicaciones públicas. Posteriormente, Google amplió el alcance de llamada de estas claves, pero los desarrolladores no fueron informados claramente sobre este cambio, lo que permitió a los atacantes acceder a los servicios de Gemini y generar altos costos.
- Prentus afirma que se generaron 10,138 dólares en 30 minutos.
- Otro desarrollador recibió una factura de aproximadamente 17,000澳元
- El límite real tras la mejora automática puede llegar hasta 100,000 dólares estadounidenses
Tras la cobertura mediática, Google ha reembolsado a los desarrolladores afectados, pero no planea modificar su política de actualización automática de niveles de facturación. La empresa justificó su decisión señalando que la plataforma prioriza evitar interrupciones del servicio por encima del cumplimiento estricto del límite de presupuesto establecido por el usuario.
Aún hay una ventana disponible después de eliminar la clave
El artículo también menciona un estudio de la empresa de seguridad Aikido, que indica que incluso si los desarrolladores eliminan inmediatamente la clave tras detectar su compromiso, los atacantes aún pueden seguir utilizándola hasta por 23 minutos, ya que la revocación de Google se propaga gradualmente por la infraestructura y no entra en vigor de inmediato.
El investigador de Aikido Joseph Leon indicó que, durante este período, la estabilidad de la aprobación de las solicitudes no es consistente, pero en ciertos momentos la tasa de éxito aún puede superar el 90%. Los atacantes pueden aprovechar esta ventana para seguir exportando archivos o leyendo los datos de conversación en caché de Gemini.
Leon también señaló que algunos de los nuevos formatos de credenciales de Google no presentan el mismo problema. Por ejemplo, las credenciales de la API de cuentas de servicio se pueden revocar en aproximadamente 5 segundos, y las claves más recientes con prefijo AQ de Gemini caducan en aproximadamente un minuto. Esto significa que la ventana de 23 minutos para las claves antiguas no es necesariamente insuperable técnicamente, sino más bien un resultado de las prioridades de la plataforma.
Información adicional: Este artículo es un artículo de opinión de medios extranjeros; su núcleo no es negar las recomendaciones de seguridad de Google, sino señalar que, aunque la plataforma promueve la prevención proactiva para empresas, aún existe una brecha en la velocidad de respuesta de sus propios productos en cuanto a facturación y gestión de claves.