Камеры с ИИ для распознавания номерных знаков Flock подвергаются всестороннему контролю и актам вандализма

Генеральный директор Flock призывает к «компромиссу», поскольку негативная реакция на камеры для считывания номерных знаков вызвала двусторонний контроль и акты вандализма Генеральный директор Flock Safety Гарретт Лэнгли призывает американцев искать «компромисс», поскольку компания сталкивается с растущим общественным сопротивлением из-за своих камер для считывания номерных знаков на основе ИИ — устройств, которые были повреждены по всей стране и привлекли редкую двустороннюю критику в Конгрессе. «То, что мы должны ставить во главу угла как страна, — это компромисс», — сказал Лэнгли в интервью Fox News, вышедшем в субботу, утверждая, что представление дебатов как бинарного выбора между конфиденциальностью и безопасностью — «приоритизация неправильного». Он предупредил, что полный запрет на технологию будет чрезмерным — «как запретить транспортные средства», — и указал на регулирование и целенаправленные реформы как на правильный политический ответ. Законодатели со всего политического спектра сосредоточились на Flock. Независимый сенатор от Вермонта Берни Сандерс заявил, что представит законопроект для остановки того, что он называет «массовым наблюдением с помощью ИИ», написав в твиттере, что неограниченные системы могут направить общество к «тоталитаризму». Республиканцы в Палате представителей во главе с конгрессменом Тимом Берчеттом предложили законопроект, запрещающий федеральным агентствам покупать камеры Flock, а сенатор Джош Холли (респ., Миссури) открыл расследование в Сенате по компании. Акты вандализма камер Flock усилились в последние месяцы, поскольку местные противники стремятся отключить устройства в общественных местах. Два недавних расследования усилили внимание. The Washington Post сообщил 19 августа, что по меньшей мере 69 сотрудников полиции были обвинены, преданы суду или осуждены за неправомерное использование камер Flock или аналогичных систем считывания номерных знаков. В 15 из этих случаев неправомерное использование было выявлено не в результате внутренних проверок полиции, а жертвами, активистами или журналистами. Репортеры также выявили еще троих офицеров, проанализировав публичные журналы поиска: один офицер из Индианаполиса провел 3759 поисков за десять месяцев — примерно дюжину поисков в день — часто целенаправленно по автомобилям, связанным с его женой и знакомыми. Несколько департаментов сообщили The Post, что они не проводят регулярные проверки поисков офицеров; двое офицеров уже были подвергнуты дисциплинарным взысканиям. В ответ на эти проблемы Flock объявила незадолго до публикации статьи The Post, что к концу года все клиенты из правоохранительных органов обязаны включить функцию «Аудиторская помощь» — инструмент, который отмечает аномальные паттерны поиска. Эта функция была опциональной с апреля; на момент объявления примерно треть из примерно 7000 агентств-клиентов компании активировали ее. Отдельное расследование WIRED, опубликованное в тот же день, что и статья The Post, сообщило, что Flock разработала возможность ИИ, способную идентифицировать водителей исключительно по паттернам движения — без номерного знака или имени для инициации поиска. Лэнгли не оспорил этот отчет, назвав ИИ «невероятно мощным, но также очень опасным инструментом», и утверждая, что любое применение в сфере общественной безопасности должно включать независимую аттестацию. «Когда вы звоните в 911, система должна работать. Нет места для галлюцинаций», — сказал он. Лэнгли предложил два конкретных решения для регуляторов: ужесточить правила хранения данных и повысить подотчетность офицеров, злоупотребляющих системой. Flock уже сократила собственную рекомендацию по хранению данных до семи дней — изменение по сравнению с предыдущими рекомендациями — против самого строгого государственного лимита в 21 день. Что касается злоупотреблений со стороны офицеров, Лэнгли заявил, что дисциплина и аудит необходимы: «Первым, кто хочет уволить плохого офицера, является хороший офицер, и 99,9% офицеров — хорошие», — сказал он. Flock защищает общественную безопасность своих камер. Компания опубликовала «Отчет об эффективности» — опрос почти 700 агентств, который сама Flock признает как раннюю методологию, подлежащую критике, — согласно которому ее системы поддержали более одного миллиона уголовных расследований в прошлом году и помогли найти более 10 000 пропавших людей. Flock также оценивает, что ее технологии способствовали примерно 20% раскрытых дел в юрисдикциях, где установлены ее камеры. Пока законодатели рассматривают законопроекты и расследования, а акты вандализма со стороны общественности продолжаются, дебаты вокруг Flock выявляют более широкие противоречия о наблюдении, общественной безопасности и границах применения ИИ в гражданской жизни. Регуляторы теперь сталкиваются с давлением, чтобы согласовать очевидные преимущества для правоохранительных органов с требованиями более строгих ограничений на данные, независимых аудитов и мер защиты от злоупотреблений.