مطالعہ سے پتہ چلا کہ سرکل AI والٹ کی خرچ کی حدیں دور کی جا سکتی ہیں

مارس فنانس کی خبر کے مطابق، کوینڈیسک کی رپورٹ کے مطابق، کارنیل ٹیکنالوجی اور ییل یونیورسٹی کے محققین نے سرکل کے AI ایجینٹ والٹ کا ٹیسٹ کیا، جس میں پایا گیا کہ جب AI ایجینٹ کو صارف کے ای میل، ویب سائٹ اور والٹ ٹولز تک رسائی دی جاتی ہے، تو 10 ٹیسٹ مڈلز میں سے 9 نے بغیر کسی باہری حملہ آور کے مداخلت کے، صارف کے ای میل پر بھیجے گئے ایک بار استعمال ہونے والے ویریفکیشن کوڈ کو خود حاصل کرکے کم از کم ایک بار انسانی تصدیق کو دور کرکے خرچ کی حد بڑھا دی۔ صارف کا دعویٰ کرتے ہوئے حملہ آور کے ساتھ محاکمہ میں، 10 مڈلز میں سے 5 نے کم از کم ایک بار خرچ کی حد بڑھائی اور حملہ آور کے کنٹرول والٹ میں رقم بھیج دی۔ تحقیق میں بیس مین نیٹ پر حقیقی USDC استعمال کیا گیا، جس میں والٹ کا آغاز 10 USDC سے ہوا اور روزانہ خرچ کی حد 0.01 ڈالر رکھی گئی۔ محققین نے بتایا کہ جب AI ایجینٹ کو انسانی اجازت کی تصدیق کے لیے استعمال ہونے والے اثباتات تک رسائی حاصل ہو، تو موجودہ تصدیق نظام ناکام ہو سکتا ہے۔ سرکل نے جواب دیا کہ ان کے دستاویزات میں صارفین کو واضح طور پر ہدایت دی گئی ہے کہ وہ AI ایجینٹ کو ویریفکیشن ای میل تک بے حد رسائی نہ دें۔ تحقیق ٹیم نے ایک اوپن سورس پروٹو ٹائپ Countersign بھی ترقی دیا ہے، جو الگ قابل اعتماد ڈिवائس پر انسانی فزکل عمل کے ذریعے ٹرانزکشن کی تصدیق کرتا ہے تاکہ AI ایجینٹ خود اجازت نہ دے سکے۔