Kamuflase AI Menggagalkan Pengawasan Kamera Kelompok

Bill Swearingen mengatakan ia menemukan cara murah dan efektif untuk menyembunyikan benda-benda dari mata otomatis pengawasan modern: kamera kamuflase yang dihasilkan AI yang menipu model deteksi objek yang digunakan oleh sistem seperti Flock. Swearingen, seorang peneliti keamanan dari Kansas City dan co-founder acara SecKC, menghabiskan tahun terakhir menjalankan eksperimen yang sama berulang-ulang dari rumah. Setelah sekitar 31 juta tes, ia mengatakan model pembelajaran penguatan miliknya dapat menghasilkan pola sesuai permintaan yang membuat perangkat lunak deteksi Flock mengabaikan apa pun yang ditutupi pola tersebut. Ia memperagakan teknik ini secara publik untuk pertama kalinya pada hari Jumat di Def Con, bekerja sama dengan Donut Media untuk membungkus Toyota Yaris tahun 2009 dengan salah satu desain terbarunya dan mengemudikannya melewati kamera Flock. “Kami membuktikan bahwa ini efektif,” katanya kepada TechCrunch, meskipun ia mengakui roda mobil menjadi tantangan. Donut Media berencana menerbitkan video demonstrasi tersebut segera. Catatan penting: pembungkus tersebut tidak butakan kamera. Rekaman tetap terekam dan manusia yang menonton video tersebut melihat sebuah mobil. Yang menjadi sasaran pola tersebut adalah lapisan mesin—model deteksi objek yang biasanya memberi label “itu kendaraan” atau “itu plat” dan mencatatnya. Dengan memberi masukan noise visual yang dirancang khusus ke dalam batas keputusan detektor AI, model gagal mendaftarkan objek tersebut. Singkatnya, machine learning adversarial mengubah desain yang terlihat menjadi ketidakterlihatan statistik. Swearingen menggambarkan sistemnya—yang disebut noRecognition—sebagai bentuk “mengajari model cara melukis.” Model penguatan menilai setiap output terhadap detektor target dan terus meningkat secara iteratif, kini menghasilkan pola kandidat baru sekitar setiap menit. Ia mengatakan menyimpan pola-pola terkuat secara offline untuk mencegah pemasok kamera melatih sistem mereka melawan pola tersebut. “Privasi adalah hak dasar,” katanya kepada wartawan, membingkai proyek ini sebagai cara bagi orang-orang untuk memilih keluar dari pelacakan yang meluas. Ia mengatakan ide ini muncul dari kekhawatiran pribadi: ia ingin menghadiri protes dan takut dicatat oleh kamera-kamera terdekat. Karya noRecognition berada dalam sejarah panjang taktik anti-deteksi berbasis teknologi rendah dan tinggi. Para demonstran telah menggunakan kerucut untuk membingungkan robotaxi, topeng dan tudung umum digunakan di barisan protes, dan pakaian adversarial serta kacamata anti-pengenalan yang dijual secara komersial telah muncul—meskipun bukti efektivitasnya di dunia nyata masih campur aduk. Yang membedakan proyek Swearingen adalah penargetannya secara eksplisit terhadap stack komersial yang banyak digunakan, dengan Flock menjadi fokus utama. Sistem pengawasan perusahaan ini telah menjadi kontroversial di Capitol Hill, dan dokumen internal menunjukkan bahwa pernah mengusulkan mengubah hingga 350.000 kamera dasbor Uber dan Lyft menjadi armada pemindai plat bergerak. Pembaca otomatis telah menyebabkan konsekuensi nyata yang berbahaya—kesalahan pencocokan telah menyebabkan penghentian lalu lintas bersenjata—dan para kritikus memperingatkan bahwa komunitas imigran dan demonstran bisa terseret dalam penegakan otomatis. Para legislator juga sedang mengkaji fitur pengenalan wajah dari perusahaan lain, seperti kacamata pintar Meta, yang berarti respons hukum terhadap deteksi otomatis sedang aktif dieksplorasi. Swearingen telah meluncurkan kampanye penggalangan dana untuk membiayai barang dagangan awal—kaos dan hoodie sekarang, kulit kendaraan nanti—dengan mengatakan tujuannya adalah resolusi pola yang berfungsi pada jarak jauh dan tampilan yang benar-benar akan dipakai orang. Ia mencatat adanya area abu-abu hukum: mengemudikan mobil yang dibungkus menimbulkan pertanyaan berbeda-beda di tiap negara bagian tentang penghalangan plat, dan pola-pola miliknya secara eksplisit menghindari menutupi plat nomor, hanya fokus pada bodi kendaraan saja. “Setiap kegagalan memperbaiki model saya, dan karena itu [pola-pola tersebut] terus menjadi lebih baik dan lebih baik,” katanya. Proyek ini menimbulkan pertanyaan lebih tajam tentang masa depan pengawasan, perlombaan senjata antara sistem deteksi dan teknologi penghindaran, serta bagaimana masyarakat memilih menyeimbangkan keamanan, privasi, dan kebebasan sipil. Demonstrasi Swearingen menunjukkan bahwa, untuk saat ini, kombinasi pembelajaran mesin yang cerdas dan desain grafis dapat membuat detektor AI modern memalingkan pandangan.