Le camouflage IA contrecarre les caméras de surveillance en vol

Bill Swearingen affirme avoir découvert une méthode peu coûteuse et efficace pour se cacher des yeux automatisés de la surveillance moderne : un camouflage généré par l’IA qui trompe les modèles de détection d’objets utilisés par des systèmes comme Flock. Swearingen, chercheur en sécurité de Kansas City et cofondateur du meetup SecKC, a passé l’année dernière à répéter inlassablement la même expérience depuis chez lui. Après environ 31 millions d’essais, il affirme que son modèle d’apprentissage par renforcement peut produire à la demande des motifs qui font ignorer à logiciel de détection de Flock tout ce qu’ils recouvrent. Il a démontré publiquement pour la première fois cette technique vendredi à Def Con, en collaboration avec Donut Media, qui a recouvert une Toyota Yaris de 2009 d’un de ses derniers designs et l’a fait passer devant une caméra Flock. « Nous avons prouvé que c’était efficace », a-t-il déclaré à TechCrunch, bien qu’il ait admis que les roues de la voiture posaient un défi. Donut Media prévoit de publier prochainement une vidéo de la démonstration. Avertissement important : le revêtement ne rend pas la caméra aveugle. Les images sont toujours enregistrées, et un humain regardant la vidéo voit clairement une voiture. Ce que le motif cible, c’est la couche machine — le modèle de détection d’objets qui identifie habituellement « c’est un véhicule » ou « c’est une plaque » et l’enregistre. En alimentant un détecteur IA avec suffisamment de bruit visuellement conçu pour exploiter ses propres limites décisionnelles, le modèle échoue à détecter l’objet. En résumé, l’apprentissage adversarial transforme un design visible en invisibilité statistique. Swearingen décrit son système, appelé noRecognition, comme une forme d’« enseignement au modèle de la manière de peindre ». Le modèle par renforcement évalue chaque sortie par rapport au détecteur cible et l’améliore itérativement, produisant désormais de nouveaux motifs candidats environ toutes les minutes. Il affirme conserver les meilleurs motifs hors ligne pour empêcher les fabricants de caméras d’entraîner leurs systèmes à les contourner. « La vie privée est un droit fondamental », a-t-il déclaré aux journalistes, présentant le projet comme un moyen pour les individus de choisir de ne pas être suivis partout. Il affirme que l’idée lui est venue d’une préoccupation personnelle : il voulait participer à une manifestation et craignait d’être enregistré par les caméras environnantes. Le travail sur noRecognition s’inscrit dans une longue histoire de tactiques anti-détection, à la fois low-tech et high-tech. Les manifestants ont utilisé des cônes pour dérouter les robotaxis, les masques et capuchons sont courants sur les lignes de protestation, et des vêtements adversariaux et des lunettes anti-reconnaissance commercialisés ont déjà fait leur apparition — bien que les preuves de leur efficacité dans le monde réel soient mitigées. Ce qui distingue le projet de Swearingen, c’est son ciblage explicite des piles commerciales largement déployées, avec Flock en particulier. Le système de surveillance de l’entreprise est devenu controversé au Capitole, et des documents internes montrent qu’il a un jour proposé de transformer jusqu’à 350 000 caméras de tableau de bord Uber et Lyft en une flotte roulante de lecture automatique de plaques. Les lecteurs automatisés ont déjà eu des conséquences réelles dangereuses — des correspondances erronées ont conduit à des arrêts de circulation armés — et les critiques avertissent que les communautés d’immigrés et les manifestants peuvent être emportés dans les systèmes d’application automatisée. Les législateurs examinent également les fonctionnalités de reconnaissance faciale d’autres entreprises, comme les lunettes intelligentes de Meta, ce qui signifie que des réponses juridiques à la détection automatisée sont activement explorées. Swearingen a lancé une campagne de financement participatif pour financer les premiers produits — des T-shirts et des sweat-shirts maintenant, des revêtements pour véhicules plus tard — affirmant que l’objectif est d’obtenir une résolution de motif efficace à distance et un aspect que les gens voudront vraiment porter. Il souligne les zones grises juridiques : conduire une voiture recouverte soulève des questions variables selon les États concernant l’obstruction des plaques, et ses motifs évitent explicitement de couvrir les plaques d’immatriculation, en se concentrant uniquement sur la carrosserie. « Chaque échec améliore mon modèle, et donc [les motifs] deviennent de mieux en mieux », a-t-il déclaré. Le projet soulève des questions plus aiguës sur l’avenir de la surveillance, la course aux armements entre les systèmes de détection et les technologies d’évasion, et la manière dont la société choisit d’équilibrer sécurité, vie privée et libertés civiles. La démonstration de Swearingen montre que, pour l’instant, une combinaison d’apprentissage machine ingénieux et de design graphique peut faire en sorte que les détecteurs IA modernes regardent ailleurs.