اگر AI صرف ایک سوال کا غلط جواب دے، تو صرف کچھ منٹ ضائع ہو جائیں گے۔ لیکن اگر اس کے پاس والٹ ہو، تو ایک غلطی آپ کو 200,000 امریکی ڈالر کا نقصان دے سکتی ہے۔ مئی 2026 میں، کسی نے ایک ٹرانسفر آرڈر کو X پوسٹ کے مورس کوڈ میں چھپا دیا۔ گروک نے اسے سمجھ لیا، اور Bankrbot نے فوراً یہ ٹرانزیکشن انجام دے دی۔ یہی وہ خطرہ ہے جسے میں AI ایجینٹ کے لیے سب سے زیادہ اہم سمجھتا ہوں: یہ دوسروں کے معلومات میں چھپائے گئے حکمات کو اپنی اطاعت کا حکم سمجھ لے۔ @GenLayer کا Greyboxing ایک قابلِ ذکر ڈیزائن رکھتا ہے۔ ہر ویریفائر اپنے پوشیدہ دفاع کے ساتھ ان پٹ کو ریفرش کرتا ہے، اور پھر اپنے AI ماڈل کو جانچنے کے لیے بھیجتا ہے۔ اگر ایک ماڈل جھوٹا ثابت ہو جائے، تو دوسرے ویریفائرز ووٹنگ کے ذریعے غلط فیصلے کو روک سکتے ہیں۔ میرا خیال ہے کہ اس طرح کا متعدد لیر دفاع آہستہ آہستہ زیادہ اہم ہوتا جائے گا۔ جب AI میلز پڑھنے، ویب سائٹس پر براوز کرنے، اور ہمارے اثاثوں کو مینج کرنے لگ جائے، تو حقیقی سیکورٹی کا مسئلہ صرف اس کی ذکاوت نہیں رہ جاتا، بلکہ یہ بھی ہوتا ہے کہ وہ معلومات اور حکمات میں فرق کر سکتی ہے یا نہیں۔ اگر آپ کا AI ایجینٹ والٹ کنٹرول کر سکتا ہے، تو کیا آپ اسے کسی بھی علنا پوسٹ کو براہ راست پڑھنے کی اجازت دینا چاہیں گے؟