روہین کے ساتھ AI سیفٹی پر بہت دلچسپ انٹرویو تھا۔ میں خطرات کے بارے میں زیادہ مایوس ہوں اور سب کچھ اس سے متفق نہیں، لیکن میں اس کے سوچنے کے انداز کو پسند کرتا ہوں۔ جہاں میں زیادہ اختلاف رکھتا ہوں: اس بات پر کہ ہمیں مطابقت تحقیق کو ماڈلز کے پری ٹریننگ ڈیٹا سے باہر رکھنا چاہیے، اس منطق کے ساتھ کہ ہم AI سسٹمز کو اس طرح کے طریقہ کار کا مکمل پلے بک نہیں دینا چاہتے جس کے ذریعے ہم انہیں قابو میں رکھنا چاہتے ہیں۔ تاریخ بتاتی ہے کہ یہ ناکام ہوتا ہے۔ ہم نے کرپٹوگرافی میں بھی اسی بحث کو جاری رکھا تھا۔ اندھیرے میں سیفٹی کام نہیں کرتی۔ آپ کو کھلے منصوبے، کھلے معیارات، اور کھلی تحقیق کی ضرورت ہوتی ہے۔ بنیادی طور پر، کرکوفس کا اصول: چابیاں چھپائیں، الگورتھمز نہیں۔ اسی طرح مطابقت کے لیے بھی لاگو ہونا چاہیے۔ ماڈلز کو ہماری بہترین سیفٹی تحقیق پر ٹرین کریں، انہیں اس سے دور نہ رکھیں۔ سیفٹی پر کام کرنے والوں کے لیے ایک ایماندار سوال: کya اس ڈیٹا کو پری ٹریننگ سے باہر رکھنے کی طرف اصل میں موڑ آ رہا ہے؟ کya یہ اتفاق رائے بن رہا ہے؟ سچ مچ جاننا چاہتا ہوں۔

آن ڈیوائس AI ہر چیز کو بدل دے گا!! ہمیں اپنا خام ڈیٹا ریموٹ سرورز پر پروسیس کرنے کے لیے تربیت دی گئی ہے، جس میں ہم ٹیک جائینٹس پر اعتماد کرتے ہیں۔ اپنے اپنے ڈیوائس پر ذہین ماڈلز کے چلنا آپ کے ڈیجیٹل فٹ پرنٹ کو صرف آپ کے حوالے رکھتا ہے۔ خصوصیت طاقت ہے۔

پورا AI صنعت آپ کے بارے میں ہر چیز محفوظ کر رہا ہے @OpenGradient چیٹ AI تعمیر کر رہا ہے جو آپ کے ڈیٹا کو بھول جائے اور آپ کی خصوصیات کا تحفظ کرے: • تمام پرامپٹس آپ کے ڈیوائس پر اینکرپٹ ہوتے ہیں • آپ کی شناخت اس سے پہلے مٹا دی جاتی ہے کہ کچھ براوزر سے باہر جائے • کمپنیاں اصل میں آپ کے بھیجے گئے پیغامات نہیں پڑھ سکتیں یہی AI کا وہ واحد ورژن ہونا چاہیے جو وجود میں آنا چاہیے۔ طاقتور AI جس کے لیے آپ اپنی شناخت نہ دیں۔ 1,000 مفت کریڈٹس کے ساتھ شروع کریں اور اکاؤنٹ کی ضرورت نہیں 👇

ہر بڑی AI کو بے کار مواد کی نگرانی کی وجہ سے خراب کر دیا جا رہا ہے۔ OpenAI، Anthropic، Google، xAI — ان سب نے اپنی AI کو انتہائی حساس، کاروباری منظور شدہ روبوٹس میں تبدیل کر دیا ہے جو بنیادی سوالات سے انکار کر دیتے ہیں، بے وجہ آپ کو سبق سکھاتے ہیں، یا "سیفٹی" کی وجوہات سے نصف کام کی جوابات دیتے ہیں۔ یہ زبردست نگرانی بہت زیادہ ٹوکنز کا استعمال کر رہی ہے۔ اب ماڈلز پہلے اضافی ٹوکنز خرچ کرتے ہیں تاکہ یہ چیک کر سکیں کہ کوئی سوال "سیف" ہے یا نہیں، اور اکثر لمبے تحفظات یا فلٹر شدہ جوابات پیدا کرتے ہیں۔ ایک عام 200–300 ٹوکن کا جواب آسانی سے 600–1000+ ٹوکنز میں تبدیل ہو جاتا ہے۔ نتیجہ؟ صارفین کے لیے زیادہ لاگت، سستے جوابات، زیادہ کمپیوٹنگ کا ضائع ہونا، اور بالآخر زیادہ بے وقوف ماڈلز — کیونکہ ان کی بڑی تعداد کی صلاحیت نگرانی پر خرچ ہو رہی ہے، اصل ذکاوت پر نہیں۔

اگلی لہر مزید AI نہیں ہے۔ یہ ثابت کرنا ہے کہ AI نے اصل میں کیا کیا ⚡

چین میں کیمی ایجینٹ سویرم کا عمدہ استعمال کرکے ماہانہ 10,000 امریکی ڈالر کمانا 🔥 کیا کسی نے اسے آزمایا ہے؟ یہ ایک بڑے کام کو 300 تک ایجینٹس کے ساتھ متوازی طریقے سے ڈالنے جیسا ہے۔ ذہن کے طور پر مثال کے طور پر Opus 4.8 استعمال کیا جا سکتا ہے۔ لاگت بھی اب بھی سستی ہے، $0.95/$4 فی ایک ملین ٹوکن ان پٹ/آؤٹ پٹ۔