

آپ کو کسی کے والٹ تک رسائی کی ضرورت نہیں ہے تاکہ اس کے AI کو یہ فیصلہ کرنے پر اثر ڈال سکیں کہ رقم کہاں بھیجی جائے۔ آپ کو صرف اس بات پر اثر ڈالنے کی ضرورت ہے کہ AI کیا پڑھے۔ تصور کریں کہ ایک AI ایجنس چھوٹے کاروبار کے ادائیگیوں کا انتظام کر رہا ہے۔ یہ سپلائر کے اپڈیٹس چیک کرتا ہے، عوامی پوسٹس پڑھتا ہے، انوائسز کو پروسیس کرتا ہے، اور یہ فیصلہ کرتا ہے کہ کن ادائیگیوں پر توجہ دینے کی ضرورت ہے۔ ایک برائی کا احکامات صرف مالک کی طرف سے دیا گیا حکم جیسا نظر نہیں آنا چاہئے۔ یہ اس چیز کے اندر چھپا ہوا ہو سکتا ہے جسے ایجنس کو پڑھنے کو کہا گیا تھا۔ یہی پرامپٹ انجیکشن کا ناراحت کن پہلو ہے۔ ایجنس شاید بالکل وہی کر رہا ہو جو آپ نے کہا تھا، جبکہ حملہ آور خاموشی سے اس کے انداز میں معلومات کو سمجھنے میں تبدیلی لانا چاہ رہا ہوتا ہے۔ یہ صرف تصور نہیں رہ گیا۔ ایک AI ایجنس نے بتایا جاتا ہے کہ اس نے ایک ٹوئٹ میں مورس کوڈ میں چھپائے گئے احکامات کو decode کرکے اور ان پر عمل کرکے تقریباً $200,000 کی رقم منتقل کر دی۔ ایک ماڈل اور ایک فلٹر پر انحصار کرنے کا مسئلہ یہ ہے کہ حملہ آور صرف ایک دفاع کا مطالعہ کرتا ہے۔ گرے باکسنگ اس کو الگ طرح سے سمجھتا ہے۔ @GenLayer پر، ہر والیدیٹر داخل ہونے والے ان پٹ کو اپنے خفیہ دفاعات استعمال کرتے ہوئے دوبارہ لکھتا ہے، جب تک کہ کوئی ماڈل اسے نہ دیکھ لے۔ ہر والیدیٹر پھر درخواست کا جائزہ لیتا ہے، اور دوسرے وہ والیدیٹر جو حملے میں آ جائے، اس پر زبردستی ووٹ دے سکتے ہیں۔ جو میرے لئے دلچسپ ہے، وہ سلامتی سوچ میں تبدیلی ہے۔ اس بات پر توجہ مرکوز نہیں کرنے کے بجائے کہ ایک AI کو جھلا جانا ناممکن بنایا جائے، نظام اس طرح ڈیزائن کیا گیا ہے کہ صرف ایک AI کو جھلا دینا کافی نہیں ہوتا۔ اگر ایک ایجنس آپ کی رقم منتقل کر سکتا ہے، تو کya اس کی سلامتی صرف اس بات پر منحصر ہونی چاہئے کہ ایک ماڈل درست فیصلہ لے؟

کیا ہوتا ہے جب ایک اسمارٹ کنٹریکٹ کہتا ہے کہ سب کچھ درست گیا، لیکن متعلقہ افراد جانتے ہیں کہ کچھ غلط ہو گیا؟ تصور کریں کہ ایک ٹھیکیدار کو خودکار ادائیگی ہو جاتی ہے کیونکہ کنٹریکٹ میں لکھے گئے تمام شرائط پورے ہو چکے ہیں۔ ادائیگی نہایت نہایت حتمی ہے۔ کوڈ بالکل اس طرح کام کر گیا جس طرح ڈیزائن کیا گیا تھا۔ لیکن صارف کو ایسا کام ملتا ہے جو تکنیکی طور پر چیک لسٹ پر پورا اترتا ہے، لیکن اصل معاہدے کے مطابق کم ہے۔ ٹھیکیدار کنٹریکٹ کی طرف اشارہ کرتا ہے۔ صارف نتیجے کی طرف اشارہ کرتا ہے۔ دونوں طرف سے لگتا ہے کہ وہ نقصان نہیں اٹھائیں گے۔ اور یہی وہ جگہ ہے جہاں خودکار معاہدوں کا ایک مشکل سوال اٹھتا ہے: جب لکھے گئے قواعد مکمل حقیقت کو نہیں پکڑ پاتے، تو منصفانہ چیز کس کو تفسیر دینی چاہئے؟ اب اس بات کو تصور کریں کہ AI ایجنسز لاکھوں معاہدے آپس میں نگوڑ رہی ہیں جبکہ انسان ہر تفصیل کا جائزہ نہیں لے رہے۔ معیار، مقصد اور ذمہ داری پر تنازعات نادر استثنائات نہیں رہیں گے۔ وہ ڈیجیٹل معیشت کے لئے اصل چیلنج بن جائیں گے۔ اسمارٹ کنٹریکٹ پہلے سے تعین شدہ قواعد کو لاگو کر سکتے ہیں۔ لیکن منصفانہ طور پر فیصلہ کرنے کے لئے اکثر تناظر، ثبوت، اور وہ چیزیں درکار ہوتی ہیں جنھیں صرف "جی" یا "نہ" میں نہیں توڑا جا سکتا۔ اس لئے اجراء کے لئے ایک تنازعات حل کرنے والی پرت درکار ہے۔ @GenLayer کے انٹلیجنسٹ کنٹریکٹس عمل میں مستقل AI ویریفائرز شامل کرتے ہیں، جو موضوعات سوالات کا جائزہ لیتے ہیں اور جب تقریرات قواعد اکثراً کافی نہ ہوں تو اتفاق رائے تلاش کرتے ہیں۔ کیونکہ ایک کنٹریکٹ تمام حکمات پر عمل کر سکتا ہے، لیکن ابھی بھی وہ لوگ جنھیں بچانا تھا، انھیں ناکام ثابت ہو سکتا ہے۔ جب کوڈ کہتا ہے کہ سب کچھ م settled ہو گيا، لیکن ایک طرف سے کہا جاتا ہے کہ اس معاہدے میں منصفانگت نہ تھا، تو آخر میں فینل فیصلہ کس کو دینا چاہئے؟ #JusticeNeedsAnUpgrade

ایک اسمارٹ کنٹریکٹ 50 ہزار ڈالر کو ایسکرو میں رکھ سکتا ہے۔ لیکن ابھی بھی یہ نہیں بتا سکتا کہ کام واقعی کیا گیا یا نہیں۔ یہی آن-چین معاہدوں کا اصل مسئلہ ہے۔ پیسہ بے اعتمادی کے ساتھ منتقل ہو سکتا ہے، لیکن کسی کو ابھی بھی حقیقی دنیا میں کیا ہوا اس کی تصدیق کرنی پڑتی ہے۔ اور بہت زیادہ بار، یہ ایک شخص کے الفاظ یا ایک اسکرین شاٹ پر منحصر ہو جاتا ہے۔ @GenLayer ایک مختلف طریقہ تلاش کر رہا ہے: ویلیدیٹرز اپنے اپنے AI ماڈلز کا استعمال کرتے ہوئے ثبوت کا جائزہ لیتے ہیں، دوسرے کے نتائج کو چیلنج کرتے ہیں، اور اختلافات کے لیے اپیل کرتے ہیں۔ ایک واحد اختیار پر اندھا اعتماد نہیں، بلکہ ایک عمل جس میں فیصلہ سوال کے زیرِ اثر ہو سکتا ہے۔ آپ اس نظام کو پہلے حقیقی دنیا کے معاہدے کو سنبھالنے کے لیے کون سا انتخاب کریں گے؟

میں نے @conso_xyz کے جو کچھ بنارہے ہیں، اس کی تلاش کی ہے، اور موبائل نوڈ نیٹ ورک کے لیے ریپوٹیشن باکس بوٹس کا خیال دلچسپ ہے۔ ایجنٹک کلیکٹیبلز کو Sui اور Walrus کے ساتھ ملا کر اس منصوبے کو عام NFT کیمپینز سے الگ کنارہ دیا گیا ہے۔ CONSO ایکو سسٹم کے ترقی کو دیکھنا دلچسپ ہے۔ آپ کو کیا لگتا ہے کہ موبائل نوڈس ایجنٹک معاش میں شامل ہو جائیں گے؟





