AI Kamuflaj, Sürü Gözetleme Kameralarını Etkisiz Hale Getiriyor

Bill Swearingen, modern gözetim sistemleri gibi Flock tarafından kullanılan nesne algılama modellerini yanıltan, yapay zeka tarafından üretilen bir kamufle deseniyle şeyleri gizlemenin ucuz ve etkili bir yolunu keşfettiğini söylüyor. Swearingen, Kansas City’li bir güvenlik araştırmacısı ve SecKC buluşması ortağıdır; geçen yıl evinde aynı deneyi tekrar tekrar gerçekleştirdi. Yaklaşık 31 milyon testten sonra, kendi pekiştirmeli öğrenme modelinin, Flock’un algılama yazılımını kapsamadığı nesneleri görmezden gelmesine neden olacak desenleri istenildiğinde ürettiğini söylüyor. Cuma günü Def Con’da Donut Media ile birlikte, 2009 model bir Toyota Yaris’i en yeni tasarımlarından biriyle kaplayıp bir Flock kamerasının önünde sürerek bu tekniği ilk kez kamuoyuna gösterdi. “Etkili olduğunu kanıtladık,” dedi TechCrunch’a; ancak arabanın tekerleklerinin bir zorluk oluşturduğunu kabul etti. Donut Media, demo videosunu yakında yayınlamayı planlıyor. Önemli bir uyarı: Kaplama kamerayı kör etmiyor. Görüntüler hâlâ kaydediliyor ve bir insan videoyu izlediğinde bir araba görüyor. Desenin hedefi, makine katmanı—yani genellikle “bu bir araçtır” veya “bu bir plakadır” şeklinde etiketleyip kaydeden nesne algılama modelidir. Bir AI algılayıcısına, kendi karar sınırlarına özel olarak tasarlanmış görsel gürültü verilerek, model nesneyi algılamaz hale gelir. Kısacası, düşmanca makine öğrenimi, görünür tasarımı istatistiksel görünürlükten kaldırır. Swearingen, noRecognition adını verdiği sistemi “modelin nasıl boyama yapacağını öğretmek” şeklinde tanımlıyor. Pekiştirmeli model, her çıktıyı hedef algılayıcıya göre değerlendirir ve sürekli iyileştirilir; şimdi yaklaşık her dakikada yeni aday desenler üretiyor. Swearingen, kameraların üreticilerinin bu desenlere karşı sistemlerini eğitmesini önlemek için en güçlü desenleri çevrimdışı tuttuğunu söylüyor. “Gizlilik temel bir haktır,” dedi gazetecilere ve projeyi insanların yaygın takipten kaçınma yolu olarak sunuyor. Fikrin, kendisinin bir protestoya katılmak istediğini ve yakındaki kameralar tarafından kaydedilmesinden korktuğunu söyleyerek doğduğunu belirtiyor. noRecognition çalışması, düşük teknolojili ve yüksek teknolojili algıdan kaçınma taktiklerinin daha uzun bir tarihi içinde yer alıyor. Protestocular, robot taksiyi karıştırmak için koniler kullandılar; maskeler ve kapüşonlar protesto sıralarında yaygındır; ticari olarak satılan düşmanca giysiler ve algıdan kaçınma gözlükleri ortaya çıkmıştır—ancak bunların gerçek dünyadaki etkinliği konusunda kanıtlar karışık olmuştur. Swearingen’in projesini diğerlerinden ayıran şey, özellikle Flock gibi yaygın olarak kullanılan ticari sistemlere odaklanmasıdır. Şirketin gözetim sistemi, Kongre’de tartışmalı hale gelmiş; dahili belgeler, 350.000’e kadar Uber ve Lyft kamera sistemini hareketli plaka tarayıcı bir filo haline getirmeyi önerdiğini gösteriyor. Otomatik okuyucular zaten tehlikeli gerçek dünya sonuçlarına yol açtı—yanlış eşleşmeler silahlı trafik durdurmalarına neden oldu; eleştirmenler, göçmen topluluklarını ve protestocuları otomatik uygulamalara dahil olmaktan uyarıyor. Yasama organları, Meta’nın akıllı gözlükleri gibi diğer şirketlerin yüz tanıma özelliklerini de incelemekte; bu da otomatik algılama ile ilgili yasal tepkilerin aktif olarak araştırıldığını gösteriyor. Swearingen, erken ürünleri—şu anda tişört ve kapüşonlu kazaklar, daha sonra araç kaplamaları—finanse etmek için bir fon toplama kampanyası başlattı; hedefi ise uzaktan çalışan ve insanlar gerçekten giyebilecekleri bir desen çözünürlüğüdür. Yasal belirsizliklere dikkat çekiyor: Kaplı bir araba sürmek, plaka tıkanıklığı konusunda eyalet bazında sorular doğuruyor; desenleri açıkça plakaları kaplamıyor ve sadece gövdeye odaklanıyor. “Her başarısızlık modelimi geliştiriyor ve bu yüzden [desenler] giderek daha da iyi hale geliyor,” dedi. Proje, gözetimin geleceği, algılama sistemleri ile kaçış teknolojisi arasındaki silahlanma yarışı ve toplumun güvenliği, gizliliği ve sivil özgürlükleri nasıl dengeleyeceği konusunda daha keskin sorular doğuruyor. Swearingen’in gösterisi şu anda akıllı makine öğrenimi ve grafik tasarımın bir kombinasyonunun modern AI algılayıcılarını başka yöne bakmaya zorlayabileceğini gösteriyor.