AI کیموفلیج فلک سروریلنس کیمرے کو الگ کر دیتا ہے

بل سوئیرنگن کا کہنا ہے کہ انہوں نے جدید نگرانی کی خودکار آنکھوں سے چیزیں چھپانے کا ایک سستا، مؤثر طریقہ تلاش کر لیا ہے: AI سے تیار کردہ کیموفلاج جو Flock جیسے سسٹمز میں استعمال ہونے والے آبجیکٹ‑ڈیٹیکشن ماڈلز کو دھوکہ دیتا ہے۔ سوئیرنگن، جو کنساس سٹی کے ایک سیکیورٹی ریسرچر اور SecKC میٹ اپ کے شریک بانی ہیں، نے گزشتہ ایک سال گھر سے بار بار وہی تجربہ چلایا ہے۔ تقریباً 3 کروڑ 10 لاکھ ٹیسٹس کے بعد، وہ کہتے ہیں کہ ان کا ری انفورسمنٹ‑لرننگ ماڈل مانگ پر ایسے پیٹرن آؤٹ پٹ کر سکتا ہے جو Flock کے ڈیٹیکشن سافٹ ویئر کو اس چیز کو نظر انداز کرنے پر مجبور کر دیتے ہیں جسے وہ پیٹرن ڈھانپتا ہے۔ انہوں نے یہ تکنیک پہلی بار جمعہ کو Def Con میں عوام کے سامنے دکھائی، جہاں انہوں نے Donut Media کے ساتھ مل کر 2009 ٹویوٹا یارس کو اپنے تازہ ترین ڈیزائنوں میں سے ایک میں لپیٹا اور اسے Flock کیمرے کے سامنے سے گزارا۔ انہوں نے TechCrunch کو بتایا، "ہم نے ثابت کیا کہ یہ مؤثر ہے"، اگرچہ انہوں نے اعتراف کیا کہ گاڑی کے پہیے ایک چیلنج تھے۔ Donut Media جلد ہی ڈیمو کی ویڈیو شائع کرنے کا ارادہ رکھتا ہے۔ اہم انتباہ: یہ ریپ کیمرے کو اندھا نہیں کرتی۔ فوٹیج پھر بھی ریکارڈ ہوتی ہے اور ویڈیو دیکھنے والا انسان گاڑی کو دیکھتا ہے۔ جو پیٹرن نشانہ بناتا ہے وہ مشین لیئر ہے—آبجیکٹ‑ڈیٹیکشن ماڈل جو عموماً ٹیگ لگاتا ہے کہ "یہ گاڑی ہے" یا "یہ نمبر پلیٹ ہے" اور پھر اسے لاگ کرتا ہے۔ جب کسی AI ڈیٹیکٹر کو اس کے اپنے ڈسیژن باؤنڈریز کے مطابق بنائے گئے بصری شور کی کافی مقدار کھلائی جاتی ہے، تو ماڈل آبجیکٹ کو رجسٹر کرنے میں ناکام ہو جاتا ہے۔ مختصراً، ایڈورسیریل مشین لرننگ ظاہری ڈیزائن کو شماریاتی طور پر غائب کر دیتی ہے۔ سوئیرنگن اپنے سسٹم—جس کا نام noRecognition ہے—کو "ماڈل کو پینٹنگ سکھانے" کی ایک شکل کے طور پر بیان کرتے ہیں۔ ری انفورسمنٹ ماڈل ہر آؤٹ پٹ کو ٹارگٹ ڈیٹیکٹر کے مقابلے میں گریڈ کرتا ہے اور تکراری طور پر بہتر ہوتا جاتا ہے، اور اب تقریباً ہر منٹ میں نئے امیدوار پیٹرن تیار کر رہا ہے۔ وہ کہتے ہیں کہ وہ مضبوط ترین پیٹرن آفلائن رکھ رہے ہیں تاکہ کیمرہ وینڈرز انہیں استعمال کر کے اپنے سسٹمز کو ان کے خلاف ٹرین نہ کر سکیں۔ انہوں نے رپورٹرز کو بتایا، "پرائیویسی ایک بنیادی حق ہے"، اور اس پروجیکٹ کو لوگوں کے لیے ہمہ گیر ٹریکنگ سے خود کو الگ رکھنے کا ایک طریقہ کے طور پر پیش کیا۔ وہ کہتے ہیں کہ یہ خیال ایک ذاتی پریشانی سے پیدا ہوا: وہ ایک احتجاج میں شریک ہونا چاہتے تھے اور انہیں خدشہ تھا کہ قریب کے کیمرے انہیں لاگ کریں گے۔ noRecognition کا کام کم‑ٹیک اور ہائی‑ٹیک اینٹی‑ڈیٹیکشن طریقوں کی ایک طویل تاریخ کے اندر جگہ رکھتا ہے۔ مظاہرین نے روبوٹیکسیز کو الجھانے کے لیے کونز استعمال کیے ہیں، ماسک اور ہیڈز احتجاجی صفوں میں عام ہیں، اور تجارتی طور پر فروخت ہونے والے ایڈورسیریل کپڑے اور اینٹی‑ریکگنیشن عینک بھی سامنے آئی ہیں—اگرچہ ان کی حقیقی دنیا میں مؤثریت کے شواہد ملے جلے رہے ہیں۔ جو چیز سوئیرنگن کے پروجیکٹ کو الگ کرتی ہے وہ وسیع پیمانے پر تعینات کمرشل اسٹیکس کو صراحت کے ساتھ نشانہ بنانا ہے، جس میں Flock کو خاص طور پر فوکس کیا گیا ہے۔ کمپنی کا نگرانی سسٹم کیپیٹل ہل میں متنازع ہو چکا ہے، اور اندرونی دستاویزات سے ظاہر ہوتا ہے کہ اس نے ایک وقت میں 3,50,000 تک Uber اور Lyft ڈیش کیم کو چلتی پھرتی پلیٹ‑اسکیننگ فلیٹ میں تبدیل کرنے کی پیشکش کی تھی۔ خودکار ریڈر پہلے ہی حقیقی دنیا میں خطرناک نتائج پیدا کر چکے ہیں—غلط میچز مسلح ٹریفک اسٹاپس تک لے گئے ہیں—اور ناقدین خبردار کرتے ہیں کہ تارکین وطن کمیونٹیز اور مظاہرین خودکار نفاذ کے جال میں پھنس سکتے ہیں۔ قانون ساز دیگر کمپنیوں، جیسے Meta کے اسمارٹ گلاسز، کی فیشل‑ریکگنیشن فیچرز پر بھی غور کر رہے ہیں، جس کا مطلب ہے کہ خودکار ڈیٹیکشن پر قانونی ردِ عمل فعال طور پر زیرِ بحث ہے۔ سوئیرنگن نے ابتدائی مرچنڈائز—اب کے لیے T‑shirts اور hoodies، بعد میں گاڑیوں کے اسکنز—کی مالی معاونت کے لیے ایک کراؤڈ فنڈنگ مہم شروع کی ہے، ان کا کہنا ہے کہ مقصد ایسا پیٹرن ریزولوشن حاصل کرنا ہے جو فاصلے پر بھی کام کرے اور ایسا انداز ہو جو لوگ واقعی پہنیں۔ وہ قانونی ابہام کی نشاندہی کرتے ہیں: لپٹی ہوئی گاڑی چلانا ریاست بہ ریاست نمبر پلیٹ کی رکاوٹ سے متعلق سوالات اٹھاتا ہے، اور ان کے پیٹرن واضح طور پر لائسنس پلیٹ کو ڈھانپنے سے گریز کرتے ہیں اور صرف باڈی ورک پر فوکس کرتے ہیں۔ انہوں نے کہا، "ہر ناکامی میرے ماڈل کو بہتر کرتی ہے، اور اس لیے [پیٹرن] آہستہ آہستہ مزید بہتر ہوتے جاتے ہیں۔" یہ پروجیکٹ نگرانی کے مستقبل، ڈیٹیکشن سسٹمز اور بچاؤ ٹیک کے درمیان ہتھیاروں کی دوڑ، اور معاشرہ کس طرح سیکیورٹی، پرائیویسی، اور سول آزادیوں کے درمیان توازن قائم کرنے کا انتخاب کرتا ہے، کے بارے میں مزید تیز سوالات اٹھاتا ہے۔ سوئیرنگن کا ڈیمو دکھاتا ہے کہ فی الحال ہوشیار مشین لرننگ اور گرافک ڈیزائن کے امتزاج سے جدید AI ڈیٹیکٹرز کو دوسری طرف دیکھنے پر مجبور کیا جا سکتا ہے۔