AIカモフラージュが群れの監視カメラを回避

ビル・スウェアリングンは、Flockのようなシステムで使用される物体検出モデルを欺くAI生成のカモフラージュを用いて、現代の監視システムの自動化された目から物を隠す安価で効果的な方法を発見したと語っている。 セックKCミートアップの共同設立者で、カンザスシティのセキュリティ研究者であるスウェアリングンは、過去1年間、自宅で同じ実験を繰り返し行い、約3,100万回のテストを経て、自分の強化学習モデルが、Flockの検出ソフトウェアがカバーされた対象を無視するようにパターンを要求に応じて生成できることを確認した。彼は金曜日、Def ConでDonut Mediaと協力して、2009年式トヨタ・ヤリスを自身が開発した最新デザインで包み、Flockのカメラの前を走行するという公開デモを初披露した。「効果があることを証明しました」と彼はTechCrunchに語ったが、車のタイヤが課題だったと認めた。Donut Mediaは近日中にこのデモの動画を公開する予定だ。 重要な注意点：このラッピングはカメラを盲目にしているわけではない。映像は依然として記録され、人間が動画を見れば車が見える。このパターンが狙っているのは機械の層——つまり「これは車両です」「これはプレートです」とラベル付けして記録する物体検出モデルである。AI検出器に、その決定境界に特化して設計された視覚的ノイズを十分に与えることで、モデルは対象を認識できなくなる。簡単に言えば、敵対的機械学習により、目に見えるデザインが統計的に不可視になる。 スウェアリングンは「noRecognition」と名付けたこのシステムを、「モデルに絵を描く方法を教える」形態と説明している。強化学習モデルは、各出力をターゲット検出器と比較して評価し、段階的に改善し、現在では約1分ごとに新しい候補パターンを生成している。彼は、カメラベンダーが自らのシステムをこれらのパターンに適応させることを防ぐため、最も強力なパターンをオフラインで保管している。「プライバシーは基本的な権利です」と彼は記者に語り、このプロジェクトを、普遍的な追跡から選択的に離脱する手段として位置づけた。彼はこのアイデアが個人的な懸念から生まれたと語った——彼は抗議活動に参加したかったが、周囲のカメラに記録されることを恐れていた。 noRecognitionの取り組みは、低技術・高技術の回避策の長い歴史の中に位置づけられる。抗議者たちはロボットタクシーを混乱させるためにコーンを使用し、マスクやフードを着用することが一般的であり、商業的に販売される敵対的衣類や認識回避用メガネも登場しているが、それらの実世界での有効性については証拠が不確実である。 スウェアリングンのプロジェクトが際立つのは、広く導入されている商用スタック——特にFlockを明確にターゲットにしている点である。同社の監視システムは上院で論争の的となっており、内部文書によると、同社は最大35万台ものUberおよびLyftのダッシュカムを移動式ナンバープレートスキャナーとして活用することを提案していた。自動読み取り装置はすでに危険な現実の結果をもたらしており、誤った一致により武装した交通停止が発生している。批判者は移民コミュニティや抗議者たちが自動化された執行に巻き込まれる可能性を警告している。また、メタのスマートグラスのような他の企業の顔認識機能についても立法府が注目しており、自動検出への法的対応が現在積極的に模索されている。 スウェアリングンは早期の商品——現在はTシャツやパーカー、後には車両用スキン——の資金調達のためにクラウドファンディングを開始した。彼の目標は、遠距離でも機能するパターン解像度と、実際に人々が着用するような外観である。彼は法的グレーゾーンにも言及した——ラッピングした車両を運転することは州ごとにナンバープレートの遮蔽に関する問題を引き起こし、彼のパターンは明確にナンバープレートをカバーせず、ボディ部分のみに焦点を当てている。「すべての失敗が私のモデルを改善し、したがって[パターン]はますます良くなっていきます」と彼は語った。 このプロジェクトは、監視の未来、検出システムと回避技術との軍拡競争、そして社会がセキュリティ・プライバシー・市民的自由をどのようにバランスさせるかというより鋭い問いを提起している。スウェアリングンのデモは、現在のところ、機知に富んだ機械学習とグラフィックデザインの組み合わせによって、現代のAI検出器が見向きもしないようにできるということを示している。