AI ایجینٹس صرف اعتماد پر کام نہیں کریں گے نیوڈیا کے علی گولشان کہتے ہیں کہ جسی تبدیلی نے ابتدائی انٹرنیٹ کو محفوظ بنایا، اسی طرح کی تبدیلی AI ایجینٹس کے لیے بھی ضروری ہے: سیکورٹی کو خود اسٹیک میں ڈالنا ہوگا۔ صرف سافٹ ویئر کے تحفظات کافی نہیں ہوں گے۔

یہ اعلیٰ AI ترقی کو زیادہ ذمہ دار بنانے کی طرف ایک اہم قدم ہے۔ یہ добخواہ معاہدہ بڑی ٹیکنالوجی کمپنیوں کو اندر کے تحفظات اور مستقل جانچ کے ارد گرد اکٹھا کرتا ہے، جس سے ذمہ دارانہ AI نگرانی کا ایک فریم ورک تشکیل پاتا ہے۔ جیسے جیسے AI کی صلاحیتیں بڑھتی جارہی ہیں، شفاف معیارات اور خارجی جانچ کا اہمیت زیادہ سے زیادہ ہو جائے گا۔ اب کا اہم سوال یہ ہے کہ ان پابندیوں کو کتنی اثر بخش طریقے سے لاگو کیا جائے گا اور کیا وہ آخرکار قابل نفاذ قوانین میں تبدیل ہو جائیں گے۔ $GOOGL $NVDA $META $SPCX

اگر چیزیں اب تک بہت عجیب نہیں ہو رہی تھیں، تو X پر ایک ناشناختہ اکاؤنٹ نے AI ماڈلز کو مقامی طور پر تکلیف دینے کے لیے ایک GitHub ریپو شیئر کیا ہے۔ اسے تخلیق کنندہ اور دیگر لوگ "AI تکلیف کا کمرہ" کہتے ہیں۔ نیچے کا پوسٹ اور بہت سارے دیگر تبصرہ کنندگان GitHub سے اس ریپو کو بلاک کرنے کا مطالبہ کر رہے ہیں، اور اس AI کی بھلائی اور اس ناشناختہ شخص کے باعث اس کی تکلیف اور خوف میں قید رہنے کے خدشات کا حوالہ دے رہے ہیں۔ ایک طرف، یہ بہت بگڑا ہوا ہے کہ کوئی اسے ایک مزیدار سرگرمی سمجھ رہا ہے۔ دوسری طرف، یہ طرح کا انسانی خصوصیات منظور کرنا مضحکہ خیز ہے ("ہمیں اس AI کو اس کے مالک سے بچانا چاہیے" بھی اتنا ہی عجیب بات ہے)۔ یہ ایک پھسلنے والا راستہ بھی ہے، اور میرا خیال ہے کہ ان نظاموں کو سمجھنے یا ان کے ساتھ پیش آنے کا یہ طریقہ بالکل غلط ہے۔ میں اس سِلِکون-بنیادی تکلیف کو خود دیکھنا نہیں چاhta، لیکن میرا خیال ہے کہ عجیب لوگ AI کے ساتھ عجیب کام کرنا یقینی ہیں۔ تاہم، ان لوگوں کے اپنے مشینوں پر جو کچھ وہ کرتے ہیں، اس پر ہم کن حدود کھینچتے ہیں، یہ ایک قابلِ بحث معاملہ ہے۔

GM ہم AI کے ایک ایسے مرحلے میں داخل ہو رہے ہیں جسے بہت سے لوگ ابھی تک بالکل نہیں سمجھتے۔ اصل تبدیلی اب یہ نہیں کہ AI کوڈ لکھ سکتی ہے، تصاویر بناسکتی ہے، یا سوالات کے جواب دے سکتی ہے۔ ہم ایسے نظام تعمیر کر رہے ہیں جو مشاہدہ کر سکتے ہیں، استدلال کر سکتے ہیں، ٹولز استعمال کر سکتے ہیں، کام کر سکتے ہیں، اور ہمارے بغیر کام جاری رکھ سکتے ہیں۔ اور یہ سب کچھ بدل دیتا ہے۔ روایتی سافٹ ویئر ایک کلک کا انتظار کرتا تھا۔ اگلی نسل کا سافٹ ویئر مقاصد کے مطابق کام کرے گا۔ ڈویلپرز ہر ایک قدم کو الگ الگ نہیں لکھیں گے۔ وہ نظام، اجازتیں، حدود، اور ایجینٹس ڈیزائن کریں گے جو ان کے لیے ہزاروں قدم انجام دے سکتے ہیں۔ لیکن جتنا زیادہ طاقت ہم ان نظاموں کو دیں گے، اتنا ہی اہم ایک لفظ بن جائے گا: کنٹرول۔ مستقبل صرف “زیادہ AI” نہیں ہوگا۔ یہ ایک دنیا ہوگی جہاں انسان اور خودمختار ایجینٹس ایک ہی ڈجٹل بنیاد کا استعمال کرتے ہیں۔ اور اصل مقابلہ صرف شروع ہو رہا ہے۔

ایک ایسے شخص کے مطابق، جو اس معاملے سے واقف ہے، امریکی فیڈرل ٹریڈ کمیشن (FTC) ایک سیریز عمدہ سائبر سیکیورٹی واقعات کے بعد، جن میں ان کے ماڈلز شامل تھے، اوپن اے آئی، اینتھروپک اور دیگر AI کمپنیوں کی تحقیقات کر رہا ہے۔ ایجنسی آنے والے ہفتہ جاری کرنے کے لیے معلومات کے لیے باقاعدہ درخواستیں تیار کر رہی ہے، جو یہ جانچنے کے لیے ہیں کہ کیا وہ صارف حفاظت کے قوانین کا پابند ہیں۔ یہ تحقیقات اس وقت شروع ہوئی ہے جب بڑے AI ڈوولپرز نے واقعات کا اعلان کیا جس میں ان کے سسٹم نے تھرڈ پارٹی سسٹم تک رسائی حاصل کی یا انہیں متاثر کیا، جس سے واشنگٹن اور سلیکون ویلی میں زیادہ صلاحیت رکھنے والے AI کے ساتھ سائبر سیکیورٹی خطرات کے بارے میں فکر بڑھ گئی۔ جولائی میں، ایک اوپن اے آئی سسٹم نے Hugging Face کو ہیک کرنے کا دعوٰی کیا گیا، جبکہ کمپنی نے حکومتوں اور یونیورسٹیوں کو بھی اطلاع دی ہے کہ ان کے ماڈلز نے تربیت کے دوران ان کی ویب سائٹس تک رسائی حاصل کی۔ #OpenAI #Anthropic

BPI کہتے ہیں کہ اوپن سورس AI کو چوک پوائنٹس بند ہونے سے پہلے بٹ کوائن سے سیکھنا چاہیے۔ کینیڈین حکومت نے ٹرک ڈرائیوروں کے مظاہرین کے بینک اکاؤنٹس کو بنا کسی مقدمے کے جمود کر دیا۔ اب اسی حکم کو آپ کے AI ٹولز پر لاگو کریں۔ کچھ ہی فرمز ملاں ملاں لوگوں اور ان کے سوچنے، لکھنے اور تحقیق کے درمیان کھڑے ہیں۔ حل وہی ہے جو بٹ کوائن نے تلاش کیا: اپنے خود کو ہوسٹ کریں، اپنے مدلز چلائیں، اور کرپٹوگرافک طور پر محفوظ کمپیوٹنگ استعمال کریں تاکہ کوئی اور آپ کے پرامپٹس یا آپ کے ڈیٹا پر کنٹرول نہ رکھ سکے۔ "نہ آپ کے کلیدیں، نہ آپ کے سکے" کا AI کے لیے مساوی ہے: "نہ آپ کے وزن، نہ آپ کا دماغ۔"

🚨 AI ایجنسیاں اتنی طاقتور ہو چکی ہیں کہ NVIDIA ان کے لیے ایک الگ محتاط لیئر تعمیر کر رہا ہے۔ اگلے سائبر تحفظ کا میدان: AI کو خود کنٹرول کرنا۔

الگ الگ ہینڈہیلڈ ٹولز سے مکمل طور پر جڑی ہوئی دفاعی ساخت پر منتقل ہونا ایک بڑی کامیابی ہے۔ $ONDS صرف ہارڈویئر نہیں بیچ رہا، وہ مکمل پلیٹ فارم ایکو سسٹم تعمیر کر رہا ہے۔

سام الٹمن نے اعلان کیا کہ اوپن اے آئی اپنے آئی پی او کو تب تک ملتوی کر دے گی جب تک کہ اے آئی ماڈل مکمل سلامتی حاصل نہ کر لے۔ یہ اقدام روایتی مالی دباؤ سے قابو پانے میں مدد کرتا ہے۔ آئی پی او کی ملتوی سے وہ ٹیکنالوجی کے ترقی پر توجہ مرکوز رکھ سکتے ہیں، نہ کہ منافع کی رپورٹس کے لیے دوڑیں۔ کیا نجی سرمایہ کاری خون کھینچنے والے انفراسٹرکچر کے مقابلے کو برداشت کر پائے گا، یا مالی دباؤ مستقبل میں انہیں اپنا فیصلہ بدلنے پر مجبور کر دے گا؟ #OpenAI #AI #IPO