Ang AI Camouflage ay nagpapabigo sa mga kamera ng pagsubaybay sa flock

Sinasabi ni Bill Swearingen na natagpuan niya ang isang murang epektibong paraan upang itago ang mga bagay mula sa automated na mga mata ng modernong pagmamasid: isang AI-na-generate na camouflage na nakakabigo sa mga object-detection model na ginagamit ng mga sistema tulad ng Flock. Si Swearingen, isang security researcher mula sa Kansas City at co-founder ng SecKC meetup, ay nagpasa ng isang taon sa pagpapatakbo ng parehong eksperimento muli at muli mula sa bahay. Pagkatapos ng halos 31 milyong pagsubok, sinasabi niya na ang kanyang reinforcement-learning model ay makapag-output ng mga pattern ayon sa kahilingan na magdudulot ng pag-iwas ng detection software ng Flock sa anumang kahalili ng pattern. Ipinakita niya ang teknik na ito sa publiko para sa unang pagkakataon noong Friday sa Def Con, kasama ang Donut Media, na isinakop ang isang 2009 Toyota Yaris sa isa sa kanyang pinakabagong disenyo at sinakop ito sa harap ng isang Flock camera. “Napatunayan namin na epektibo ito,” sabi niya kay TechCrunch, bagaman tinanggap niya na ang mga gulong ng kotse ay naging hamon. Planong ilabas ng Donut Media ang video ng demo sa darating na panahon. Mahalagang babala: hindi nagpapalabo ang wrap ang camera. Ang footage ay patuloy na nire-record at nakikita ng isang tao sa video ang isang kotse. Ang tinutukoy ng pattern ay ang machine layer—ang object-detection model na karaniwang naglalabel ng “iyon ay isang sasakyan” o “iyon ay isang plaka” at kinokolekta ito. Sa pamamagitan ng pagpapadala ng sapat na visually engineered noise na disenyo ayon sa sariling mga desisyon ng AI detector, nabigo ang model na makarehistro ang bagay. Sa madaling salita, ang adversarial machine learning ay nagpapalit ng makikita na disenyo sa statistical invisibility. Ipinapaliwanag ni Swearingen ang kanyang sistema—na tinatawag na noRecognition—bilang isang uri ng “pagtuturo sa model kung paano mag-pinta.” Ang reinforcement model ay nagtatasa bawat output laban sa target detector at paulit-ulit na pinapabuti, kasalukuyang nagpapagawa ng mga bagong candidate pattern halos bawat minuto. Sinasabi niya na iniiwasan niya ang pinakamalakas na mga pattern sa offline upang maiwasan ang pag-train ng mga camera vendor laban dito. “Ang privacy ay isang pangunahing karapatan,” sabi niya sa mga reporter, at ipinapakita ang proyekto bilang paraan para sa mga tao na pumili na huwag maging bahagi ng pangkalahatang pagtatake. Sinasabi niya na nagsimula ang ideya mula sa isang personal na pag-aalala: nais niyang sumali sa isang protesta at natatakot na ma-record siya ng mga camera sa paligid. Ang gawaing noRecognition ay bahagi ng mas mahabang kasaysayan ng mga low-tech at high-tech anti-detection tactics. Ang mga protestante ay gumagamit ng mga cone upang magkamali sa robotaxis, ang mga mask at hood ay karaniwan sa mga protesta, at meron nang commercially available na adversarial clothing at anti-recognition glasses—kahit na ang ebidensya ng kanilang tunay na epekto sa mundo ay hindi malinaw. Ang nagpapakilala sa proyektong ni Swearingen ay ang eksplisitong pagtutok sa malawakang ginagamit na commercial stacks, partikular na si Flock. Ang sistema ng pagmamasid ng kumpanya ay naging kontrobersyal sa Capitol Hill, at ang mga panloob na dokumento ay ipinakita na dati nilang inilahad ang pagpapalit ng hanggang 350,000 Uber at Lyft dashcams bilang isang rolling plate-scanning fleet. Ang automated readers ay mayroon nang nakaranas ng mapanganib na epekto sa mundo—mali ang pagkakatugma ay nagdulot ng armed traffic stops—at ang mga kritiko ay nagbabala na ang mga komunidad ng imigrante at protestante ay maaaring ma-impake sa automated enforcement. Ang mga lawmaker ay nag-aaral din ang facial-recognition features mula sa iba pang kumpanya, tulad ng smart glasses ni Meta, ibig sabihin na aktibong sinusuri ang legal na tugon sa automated detection. Lumunsad si Swearingen ng isang crowdfunding campaign upang pagsuportahan ang unang merchandise—T-shirts at hoodies ngayon, vehicle skins mamaya—sinasabi niya na layunin ay ang isang pattern resolution na epektibo sa layo at isang hitsura na gagamitin talaga ng mga tao. Tinitiyak niya ang legal na gray areas: ang pagmamaneho ng isang wrapped car ay nagtatayo ng tanong base sa estado tungkol sa pagkakabukod ng plaka, at ang kanyang mga pattern ay eksplisitong iniiwasan ang pagkakapalubog sa license plates, nakatuon lamang sa bodywork. “Bawat pagkabigo ay nagpapabuti sa aking model, kaya patuloy itong lumalago,” sabi niya. Ang proyekto ay nagtatayo ng mas malalim na tanong tungkol sa hinaharap ng pagmamasid, ang arms race sa pagitan ng detection systems at evasive tech, at kung paano pipiliin ng lipunan ang balanse sa seguridad, privacy, at sibil na kalayaan. Ipinaliliwanag ni Swearingen ang demo na para sa kasalukuyan, ang kombinasyon ng matalinong machine learning at graphic design ay maaaring gawing tumingin nang iba-iba ang modernong AI detectors.