AI ngụy trang làm vô hiệu hóa camera giám sát bầy đàn

Bill Swearingen cho biết ông đã tìm ra một cách rẻ và hiệu quả để ẩn các vật thể khỏi mắt máy móc của hệ thống giám sát hiện đại: một lớp ngụy trang do AI tạo ra, đánh lừa các mô hình phát hiện đối tượng được sử dụng bởi các hệ thống như Flock. Swearingen, một nhà nghiên cứu bảo mật tại Kansas City và đồng sáng lập nhóm SecKC, đã dành năm qua lặp đi lặp lại cùng một thí nghiệm tại nhà. Sau khoảng 31 triệu lần thử nghiệm, ông nói rằng mô hình học tăng cường của mình có thể tạo ra các mẫu theo yêu cầu khiến phần mềm phát hiện của Flock bỏ qua bất kỳ vật thể nào được bao phủ bởi mẫu đó. Ông đã lần đầu tiên trình diễn kỹ thuật này công khai vào thứ Sáu tại Def Con, hợp tác cùng Donut Media để bọc một chiếc Toyota Yaris năm 2009 bằng một trong những thiết kế mới nhất của ông và lái nó qua một camera của Flock. “Chúng tôi đã chứng minh nó hiệu quả,” ông nói với TechCrunch, dù thừa nhận rằng bánh xe của chiếc xe đã gây ra thách thức. Donut Media dự định sẽ công bố video về buổi trình diễn này sớm. Cảnh báo quan trọng: lớp bọc không làm mù camera. Hình ảnh vẫn được ghi lại và con người xem video vẫn thấy một chiếc xe. Những gì mẫu này nhắm đến là lớp máy móc—mô hình phát hiện đối tượng thường gán nhãn “đó là phương tiện” hoặc “đó là biển số” và ghi lại. Bằng cách cung cấp cho bộ phát hiện AI đủ lượng nhiễu được thiết kế thị giác phù hợp với ranh giới ra quyết định của chính nó, mô hình không nhận diện được đối tượng. Nói ngắn gọn, học máy đối kháng biến thiết kế có thể nhìn thấy thành sự vô hình về mặt thống kê. Swearingen mô tả hệ thống của mình—có tên noRecognition—như một hình thức “dạy mô hình cách vẽ”. Mô hình học tăng cường đánh giá mỗi đầu ra so với bộ phát hiện mục tiêu và cải tiến dần dần, hiện tại tạo ra các mẫu ứng cử mới khoảng mỗi phút. Ông nói rằng ông đang giữ các mẫu mạnh nhất ngoại tuyến để ngăn các nhà cung cấp camera huấn luyện hệ thống của họ chống lại chúng. “Quyền riêng tư là quyền cơ bản,” ông nói với các phóng viên, đồng thời định vị dự án như một cách để mọi người lựa chọn không bị theo dõi khắp nơi. Ông cho biết ý tưởng này xuất phát từ nỗi lo cá nhân: ông muốn tham gia một cuộc biểu tình và sợ bị camera gần đó ghi lại. Công trình noRecognition nằm trong chuỗi dài các chiến thuật chống phát hiện cả công nghệ thấp và cao. Những người biểu tình đã dùng nón để làm rối robotaxi, mặt nạ và mũ trùm đầu là phổ biến trong các hàng biểu tình, và quần áo đối kháng cũng như kính chống nhận diện đã xuất hiện trên thị trường—dù bằng chứng về hiệu quả thực tế của chúng vẫn chưa rõ ràng. Điều làm dự án của Swearingen nổi bật là việc nhắm mục tiêu rõ ràng vào các hệ thống thương mại được triển khai rộng rãi, đặc biệt là Flock. Hệ thống giám sát của công ty này đã trở thành chủ đề gây tranh cãi tại Quốc hội Mỹ, và các tài liệu nội bộ cho thấy từng đề xuất biến tới 350.000 camera bảng điều khiển của Uber và Lyft thành một đội xe quét biển số di động. Các thiết bị đọc tự động đã gây ra hậu quả thực tế nguy hiểm—những sai sót trong khớp nối đã dẫn đến các cuộc dừng xe có vũ trang—and các nhà phê bình cảnh báo cộng đồng nhập cư và người biểu tình có thể bị cuốn vào các biện pháp thực thi tự động. Các nhà lập pháp cũng đang xem xét các tính năng nhận diện khuôn mặt từ các công ty khác, như kính thông minh của Meta, nghĩa là các phản ứng pháp lý đối với phát hiện tự động đang được tích cực xem xét. Swearingen đã khởi động chiến dịch quyên góp để tài trợ cho các sản phẩm đầu tiên—áo thun và áo hoodie hiện tại, sau đó là lớp bọc xe—nói rằng mục tiêu là đạt được độ phân giải mẫu hoạt động ở khoảng cách xa và có thiết kế mà người dùng thực sự sẽ mặc. Ông lưu ý đến những khoảng trống pháp lý: việc lái xe được bọc lớp này đặt ra câu hỏi khác nhau tùy bang về việc che khuất biển số, và các mẫu của ông rõ ràng tránh phủ lên biển số, chỉ tập trung vào thân xe. “Mỗi thất bại giúp cải thiện mô hình của tôi, và vì vậy [các mẫu] ngày càng trở nên tốt hơn,” ông nói. Dự án đặt ra những câu hỏi sắc nét hơn về tương lai của giám sát, cuộc đua vũ trang giữa các hệ thống phát hiện và công nghệ trốn tránh, cũng như cách xã hội lựa chọn cân bằng giữa an ninh, quyền riêng tư và quyền dân sự. Buổi trình diễn của Swearingen cho thấy rằng, hiện tại, sự kết hợp giữa học máy thông minh và thiết kế đồ họa có thể khiến các bộ phát hiện AI hiện đại “quay mặt đi”.