AI-камуфляж обходить системи спостереження зграї

Біл Свірінген стверджує, що знайшов дешевий та ефективний спосіб приховати об’єкти від автоматизованих систем спостереження: AI-згенеровану камуфляжну текстуру, яка вводить в оману моделі виявлення об’єктів, використовувані системами, такими як Flock. Свірінген, дослідник з безпеки з Канзас-Сіті та співзасновник спільноти SecKC, протягом останнього року повторював один і той самий експеримент удома. Після приблизно 31 мільйона тестів він стверджує, що його модель підсиленого навчання може генерувати на замовлення шаблони, які змушують програмне забезпечення Flock ігнорувати будь-що, що покривається цим шаблоном. Вперше він публічно продемонстрував цю техніку в п’ятницю на Def Con, співпрацюючи з Donut Media, щоб обгорнути Toyota Yaris 2009 року одним із його найновіших дизайнов і проїхати повз камеру Flock. «Ми довели, що це ефективно», — сказав він TechCrunch, хоча визнав, що колеса автомобіля стали викликом. Donut Media планує опублікувати відео з демонстрацією у найближчий час. Важлива оговорка: обгортка не сліпить камеру. Запис все одно зберігається, і людина, що дивиться на відео, бачить автомобіль. Шаблон спрямований на машинний рівень — модель виявлення об’єктів, яка зазвичай позначає «це транспортний засіб» або «це номерний знак» і зареєстровує це. Надаючи AI-детектору достатньо візуально створеного шуму, адаптованого до його власних меж прийняття рішень, модель не реєструє об’єкт. Коротко кажучи, адверсарійне машинне навчання перетворює видимий дизайн на статистичну невидимість. Свірінген описує свою систему під назвою noRecognition як форму «навчання моделі малювати». Модель підсиленого навчання оцінює кожен вихід проти цільового детектора та ітеративно покращується, зараз генеруючи нові кандидатські шаблони приблизно кожну хвилину. Він каже, що зберігає найсильніші шаблони офлайн, щоб запобігти тому, щоб виробники камер навчили свої системи протидіяти їм. «Приватність — це фундаментальне право», — сказав він журналістам, представляючи проект як спосіб для людей уникнути повсюдного слідкування. Він каже, що ідея виникла з особистої тривоги: він хотів взяти участь у протесті і боявся бути зареєстрованим сусідніми камерами. Робота над noRecognition є частиною довшої історії низькотехнологічних і високотехнологічних методів уникнення виявлення. Учасники протестів використовували конуси для заплутування робототаксі, маски та капюшони є поширеними на протестних лініях, а також з’явилися комерційно доступні адверсарні одяг та окуляри проти розпізнавання — хоча докази їхньої реальної ефективності були змішаними. Що вирізняє проект Свірінгена — це його явне спрямування на широко поширених комерційних системах, зокрема Flock. Система спостереження цієї компанії стала суперечливою на Капітолійському пагорбі, а внутрішні документи показують, що раніше вона пропонувала перетворити до 350 000 камер на приладних панелях Uber та Lyft на рухомий флот для сканування номерних знаків. Автоматизоване читання вже мали небезпечні наслідки у реальному світі — помилкове збігання призвело до збройних зупинок руху, а критики попереджають, що іммігрантські спільноти та протестувальники можуть потрапити під автоматизоване застосування закону. Законодавці також перевіряють функції розпізнавання обличчя інших компаній, таких як розумні окуляри Meta, що означає, що правове регулювання автоматизованого виявлення активно розглядається. Свірінген запустив кампанію з залучення коштів для фінансування перших товарів — футболок та толстовок зараз, а шкір для авто позже — кажучи, що мета — це роздільна здатність шаблону, яка працює на вдаленостях, та зовнiшнiй вигляд, який люди справдi будуть носити. Вона зазначає правову суперечливу зону: їзда на обгорнутому автомобiлi пiднiмає питання на рiвнi штатiв щодо перекриття номерних знакiв, а його шаблони навмисно не покривають номернi знаки, фокусуючись лише на кузовi. «Кожна невдача покращує мою модель, тому [шаблони] стають кращими й кращими», — сказав він. Проект прагне глибше розумiти майбутнє спостереження, гонку озброєнь мiж системами виявлення та технологiями уникнення, а також те, як суспiльство обирає баланс мiж безпекою, приватнiстю та громадянськими свободами. Демонстрацiя Свiрiнгена показує, що зараз поєднання грамотного машинного навчання та графiчного дизайну може змусити сучасних AI-детекторiв дивитися iнакше.