Kamuflaj AI Menggagalkan Kamera Pengawasan Kelompok

Bill Swearingen mengatakan dia telah menemukan cara yang murah dan berkesan untuk menyembunyikan benda-benda dari mata automatik pengawasan moden: kameleon yang dihasilkan AI yang menipu model pengesanan objek yang digunakan oleh sistem seperti Flock. Swearingen, seorang penyelidik keselamatan dari Kansas City dan rakan penubuh pertemuan SecKC, menghabiskan setahun terakhir menjalankan eksperimen yang sama berulang-ulang dari rumah. Selepas kira-kira 31 juta ujian, dia mengatakan model pembelajaran peningkatan miliknya dapat menghasilkan corak atas permintaan yang menyebabkan perisian pengesanan Flock mengabaikan apa sahaja yang ditutupi oleh corak tersebut. Dia menunjukkan teknik ini secara awam untuk pertama kalinya pada Jumaat di Def Con, bekerjasama dengan Donut Media untuk membungkus sebuah Toyota Yaris 2009 dengan salah satu rekaan terbaharu miliknya dan memandu melewati kamera Flock. “Kami membuktikan ia berkesan,” katanya kepada TechCrunch, walaupun beliau mengakui roda kereta itu menjadi cabaran. Donut Media merancang untuk menerbitkan video demonstrasi itu segera. Peringatan penting: pembungkusan tersebut tidak butakan kamera. Rakaman masih direkodkan dan manusia yang memerhatikan video akan melihat sebuah kereta. Apa yang ditargetkan oleh corak tersebut ialah lapisan mesin—model pengesanan objek yang biasanya memberi label “itu sebuah kenderaan” atau “itu sebuah plat” dan merekodkannya. Dengan memberikan pengesan AI cukup gangguan visual yang direka khas mengikut sempadan keputusan sendiri, model gagal mendaftarkan objek tersebut. Dengan kata lain, pembelajaran mesin adversarial menukar rekaan yang kelihatan menjadi ketidakterlihatan statistik. Swearingen menggambarkan sistemnya—yang dipanggil noRecognition—sebagai bentuk “mengajar model bagaimana melukis.” Model pembelajaran peningkatan menilai setiap output berdasarkan pengesan sasaran dan memperbaikinya secara berulang, kini menghasilkan corak calon baharu kira-kira setiap minit. Dia mengatakan dia menyimpan corak-corak terkuat secara luar talian untuk mencegah pembekal kamera melatih sistem mereka melawan corak-corak tersebut. “Privasi adalah hak asasi,” katanya kepada wartawan, membingkai projek ini sebagai cara bagi orang ramai untuk menolak pengesanan meluas. Dia mengatakan idea ini timbul daripada kebimbangan peribadi: beliau ingin menghadiri satu perhimpunan dan bimbang akan direkodkan oleh kamera-kamera berhampiran. Kerja noRecognition berada dalam sejarah panjang taktik anti-pengesanan teknik rendah dan tinggi. Pemprotes telah menggunakan kon untuk mengganggu robotaksi, topeng dan tudung biasa digunakan dalam barisan perhimpunan, dan pakaian adversarial serta cermin mata anti-pengenalan yang dijual secara komersial telah muncul—walaupun bukti keberkesanannya dalam dunia nyata masih campur aduk. Apa yang membezakan projek Swearingen ialah penargetannya secara eksplisit terhadap rangkaian komersial yang tersebar luas, dengan Flock menjadi sasaran utama. Sistem pengawasan syarikat ini telah menjadi kontroversial di Capitol Hill, dan dokumen dalaman menunjukkan ia pernah menawarkan untuk mengubah sehingga 350,000 kamera dashboard Uber dan Lyft menjadi armada pemindai plat bergerak. Pembaca automatik telah menyebabkan kesan nyata yang berbahaya—kesilapan pencocokan telah menyebabkan pemberhentian trafik bersenjata—dan para kritikus memperingatkan komuniti imigran dan pemprotes boleh terseret dalam penegakan automatik. Ahli-ahli undang-undang juga sedang mengkaji ciri pengenalan muka daripada syarikat-syarikat lain, seperti cermin pintar Meta, bermakna tindakan undang-undang terhadap pengesanan automatik sedang aktif dikaji. Swearingen telah melancarkan kempen penggalangan dana untuk membiayai barangan awal—baju-T dan baju berhud sekarang, kulit kereta kemudian—dengan mengatakan matlamatnya ialah resolusi corak yang berkesan pada jarak jauh dan penampilan yang benar-benar akan dipakai orang. Dia mencatatkan ruang kelabu undang-undang: memandu kereta yang dibungkus menimbulkan persoalan mengikut negeri mengenai halangan plat, dan corak-coraknya secara eksplisit mengelakkan menutup plat nomor, hanya fokus pada badan kereta sahaja. “Setiap kegagalan memperbaiki model saya, dan maka [corak-corak itu] terus menjadi lebih baik dan lebih baik,” katanya. Projek ini menimbulkan soalan yang lebih tajam tentang masa depan pengawasan, perlumbaan senjata antara sistem pengesanan dan teknologi elakan, serta bagaimana masyarakat memilih untuk menyeimbangkan keselamatan, privasi, dan kebebasan sivil. Demonstrasi Swearingen menunjukkan bahawa, untuk masa ini, gabungan pembelajaran mesin yang bijak dan reka bentuk grafik boleh membuat pengesan AI moden memalingkan pandangan.