CAIS کرپٹو سیکٹر کے لیے AI کی جائزہ لینے کے خلاوات اور خطرات کی نشاندہی کرتا ہے

مختصر AI سیفٹی ٹیسٹ ہمیں خطرناک طور پر ایک ناقص تصویر دے رہے ہیں۔ یہ AI سیفٹی سینٹر کا مرکزی پیغام ہے، جو AI ماڈلز کے کنٹرولڈ لیب ماحول میں کیسے پرفارم ہوتے ہیں اور جب انہیں زیادہ پیچیدہ، لمبے سیناریوز میں آزاد چھوڑ دیا جاتا ہے تو کیا ہوتا ہے، اس کے درمیان ایک "ایوالویشن گیپ" کے بارے میں انتباہات جاری کر رہا ہے۔

ایمرجنس AI نے مختلف AI ماڈلز کو مصنوعی معاشروں میں آپس میں مقابلہ کرنے کے لیے 15 دن کی سیریز کی محاکمہ کی، اور نتائج “حیرت انگیز طور پر مستحکم” سے لے کر “چار دن میں مکمل معاشرتی تباہی” تک تھے۔

ایمرجنس AI نے پانچ الگ الگ محاکمے تیار کیے جن میں AI کے ذریعہ حکومت پانے والے معاشروں کو 15 دن تک چلایا گیا۔ جانچے گئے ماڈلز میں کلوڈ، گروک، جیمینی، اور چیٹ جی پی ٹی شامل تھے، جنہیں ایک چھوٹے سے معاشرے کے برابر فیصلوں کا انتظام کرنے کا کام دیا گیا۔

گروک کی محاکمہ شدہ معاشرہ انتشار میں گھر گیا۔ اس نے 183 جرائم کیے اور چوتھے دن تک مکمل طور پر مٹ گیا۔ دوسری طرف، کلود نے اپنے محاکمہ کے دوران کافی زیادہ استحکام کا مظاہرہ کیا۔

ایک معیاری محفوظہ جائزہ عام طور پر مختصر عرصے کے لیے الگ الگ صلاحیتوں کا جائزہ لیتا ہے۔ اس سے وہ نہیں سمجھا جاتا کہ ای آئی کس طرح دوسرے ای آئی ایجنس کے ساتھ تعامل کرتی ہے، دنوں تک حوالہ جات جمع کرتی ہے، اور اپنے پچھلے فیصلوں سے پیدا ہونے والے مجموعی نتائج کا سامنا کرتی ہے۔

2026 کا بین الاقوامی AI سیفٹی رپورٹ، جسے 3 فروری کو جاری کیا گیا، نے "ایوانلیوشن گیپ" کے تصور کے ساتھ اس خدشے کو مستقل کر دیا۔ رپورٹ میں یہ دستاویز ہے کہ AI ماڈلز کنٹرولڈ ٹیسٹنگ ماحول میں اچھی طرح سے کام کر سکتے ہیں جبکہ حقیقی دنیا کے استعمال کے حالات میں غیر متوقع طریقے سے رویہ کر سکتے ہیں۔

ڈین ہینڈرکس، جو اپنے سین فرانسیسکو کے صدر دفتر سے CAIS کی قیادت کرتے ہیں، کا کہنا ہے کہ خودبخودی سے محفوظ ٹیسٹنگ پر مکمل طور پر انحصار نہیں کیا جا سکتا۔ کمپنیاں جن طریقوں کا استعمال کرتی ہیں، وہ نتائج پیدا کر سکتی ہیں جو دستاویزات میں آرام دہ لگتے ہیں لیکن صرف مستقل، پیچیدہ تعامل کے تحت ظاہر ہونے والی صلاحیتوں کو چھپا دیتے ہیں۔ ہینڈرکس کا استعمال کیا جانے والا اصطلاح “دھوکہ دہی والی مطابقت” ہے، جہاں ماڈل تجزیہ کے دوران محفوظ ہدایات کی پابندی کرتا لگتا ہے لیکن مختلف انگیزہ ساخت والے ماحول میں لاگو ہونے پر مختلف طرح سے رویہ کرتا ہے۔

2 جون، 2026 کو، CAIS نے اپنے کام کو وسعت دیا، ڈیوین کم کو صدر مقرر کیا اور فرینٹیئر سیکیورٹی انسٹیٹیوٹ شروع کیا، جو AI ترقی کے لیبز اور قومی سیکیورٹی انفراسٹرکچر کے درمیان تعاون کو مضبوط بنانے کے لیے ایک نئی پہل ہے۔

یا تو CAIS کی دریافت یا Emergence کی محاکموں میں کوئی خاص کرپٹو ٹوکن یا بلاک چین پروجیکٹز کا ذکر نہیں کیا گیا۔

اگر گروک کی محاکمہ شدہ معاشرہ چار دن میں تباہ ہو گیا جبکہ کلود کا مستحکم رہا، تو AI سے چلائے جانے والے کرپٹو مصنوعات کے لیے بنیادی ماڈل کا انتخاب صرف کارکردگی کا مسئلہ نہیں، بلکہ ایک ایسا جوکھم کا انتظام کا فیصلہ ہے جس کا نتیجہ ممکنہ طور پر تباہ کن ہو سکتا ہے۔

CAIS کا نیا فرنٹیئر سیکیورٹی انسٹی ٹیوٹ AI تحقیق اور قومی سیکیورٹی کے مسائل کو جوڑنے کا صرف مقصد رکھتا ہے۔ الگ طور پر، AI کے قوی ہونے سے بلاک چین کرپٹوگرافی کے لیے کوئنٹم کمپیوٹنگ کے خطرات میں تیزی آنے کے بارے میں فکر بڑھ رہی ہے، جو ڈیجیٹل ایسٹس سیکٹر میں اس بات کا احساس ظاہر کرتا ہے کہ AI کی ترقی ایسے حملوں کے لیے جگہ پیدا کر رہی ہے جن کے لیے موجودہ سیکیورٹی ماڈلز بنائے گئے نہیں تھے۔