El camuflaje de IA desactiva las cámaras de vigilancia de enjambre

Bill Swearingen dice que ha encontrado una forma económica y efectiva de ocultar cosas de los ojos automatizados de la vigilancia moderna: un camuflaje generado por IA que engaña a los modelos de detección de objetos utilizados por sistemas como Flock. Swearingen, investigador de seguridad de Kansas City y cofundador del encuentro SecKC, pasó el último año realizando una y otra vez el mismo experimento desde su casa. Después de aproximadamente 31 millones de pruebas, dice que su modelo de aprendizaje por refuerzo puede generar patrones bajo demanda que hacen que el software de detección de Flock ignore lo que cubre el patrón. Demostró públicamente por primera vez esta técnica el viernes en Def Con, en colaboración con Donut Media, envolviendo un Toyota Yaris 2009 con uno de sus diseños más recientes y conduciéndolo frente a una cámara de Flock. “Probamos que era efectivo”, dijo a TechCrunch, aunque admitió que las ruedas del automóvil presentaron un desafío. Donut Media planea publicar pronto el video de la demostración. Advertencia importante: el envoltorio no ciega la cámara. El video aún registra la imagen y una persona que lo mira ve claramente un automóvil. Lo que el patrón ataca es la capa machine—the object-detection model that typically labels “that’s a vehicle” or “that’s a plate” and logs it. Al alimentar a un detector de IA con suficiente ruido visual diseñado específicamente para sus propios límites de decisión, el modelo deja de registrar el objeto. En resumen, el aprendizaje adversarial convierte un diseño visible en invisibilidad estadística. Swearingen describe su sistema, llamado noRecognition, como una forma de “enseñarle al modelo cómo pintar”. El modelo de refuerzo evalúa cada salida en relación con el detector objetivo y mejora iterativamente, generando ahora nuevos patrones candidatos aproximadamente cada minuto. Dice que mantiene los patrones más fuertes fuera de línea para evitar que los proveedores de cámaras entrenen sus sistemas contra ellos. “La privacidad es un derecho fundamental”, dijo a los periodistas, presentando el proyecto como una forma para que las personas opten por salirse del rastreo omnipresente. Dice que la idea surgió de una preocupación personal: quería asistir a una protesta y temía ser registrado por cámaras cercanas. El trabajo de noRecognition se enmarca dentro de una larga historia de tácticas anti-detección de baja y alta tecnología. Los manifestantes han usado conos para confundir a los taxis autónomos, máscaras y capuchas son comunes en las líneas de protesta, y ya han aparecido ropa adversarial y gafas anti-reconocimiento comercialmente disponibles, aunque la evidencia de su efectividad en el mundo real ha sido mixta. Lo que distingue el proyecto de Swearingen es su enfoque explícito en pilas comerciales ampliamente implementadas, con Flock como objetivo principal. El sistema de vigilancia de la empresa se ha vuelto controvertido en el Capitolio, y documentos internos muestran que en un momento propuso convertir hasta 350 000 cámaras de tablero de Uber y Lyft en una flota móvil de escaneo de placas. Los lectores automatizados ya han tenido consecuencias reales peligrosas — coincidencias erróneas han llevado a detenciones de tráfico armadas — y los críticos advierten que las comunidades inmigrantes y los manifestantes pueden quedar atrapados en la aplicación automatizada. Los legisladores también están examinando las funciones de reconocimiento facial de otras empresas, como las gafas inteligentes de Meta, lo que significa que se están explorando activamente respuestas legales a la detección automatizada. Swearingen ha lanzado una campaña de financiación colectiva para financiar productos iniciales — camisetas y sudaderas ahora, envolturas para vehículos más adelante — diciendo que el objetivo es una resolución de patrón que funcione a distancia y un diseño que la gente realmente use. Señala áreas legales grises: conducir un automóvil envuelto plantea preguntas específicas por estado sobre obstrucción de placas, y sus patrones evitan explícitamente cubrir las placas, centrándose únicamente en la carrocería. “Cada fracaso mejora mi modelo, y por eso [los patrones] se vuelven cada vez mejores”, dijo. El proyecto plantea preguntas más agudas sobre el futuro de la vigilancia, la carrera armamentista entre sistemas de detección y tecnologías evasivas, y cómo la sociedad elige equilibrar seguridad, privacidad y libertades civiles. La demostración de Swearingen muestra que, por ahora, una combinación de aprendizaje automático inteligente y diseño gráfico puede hacer que los detectores modernos de IA miren hacia otro lado.