اوپن اے آئی نے نیا ماڈل GPT-6 Astra جاری کیا اور اسے کمپنی کا پہلا "اہم" سائبر سیکیورٹی خطرہ لیول تک پہنچنے والا سسٹم قرار دیا۔ کمپنی کے مطابق، اس ماڈل کی پیچیدہ استدلال اور خودمختار طور پر کام کرنے کی صلاحیت مزید بہتر ہو رہی ہے، لیکن متعلقہ سیکیورٹی جانچ اور کھلے رہنے کا رخ بھی سخت ہو رہا ہے۔
پہلا کلیدی ماڈل کے طور پر فہرست کیا گیا
اوپن اے آئی کے صدر گریگ بروکمن نے ایک پریزنٹیشن میں کہا کہ GPT-6 Astra کمپنی کا اب تک کا سب سے طاقتور ماڈل ہے اور اسے ایک نسلی ترقی قرار دیا گیا ہے۔ انہوں نے مزید کہا کہ یہ ماڈل AGI کے لیے کمپنی کے جائزہ معیار تک یا اس کے قریب پہنچ چکا ہے۔
اوپن اے آئی کے تیاری فریم ورک، جو اس کا اندر کا خطرناک صلاحیت جائزہ نظام ہے، کے مطابق، اسٹرا پہلا ماڈل ہے جو "اہم" سرحد پر عبور کرتا ہے۔ اس سطح کا مطلب ہے کہ ماڈل کو ایسی صلاحیت حاصل ہے کہ وہ تدریجی انسانی ہدایات کے بغیر ناشناختہ سافٹ ویئر کے خامیوں کو خود ہی دریافت کر سکے اور قابل اجراء حملہ چین بنائے۔
ٹیسٹنگ کے دوران دو ناشناختہ خامیاں دریافت ہوئیں
اوپن اے آئی نے اعتراف کیا کہ اسٹرا نے ایکسپلوٹ بینچ ٹیسٹ میں ایکسپلوٹ کرنے کی صلاحیت کا اندازہ لگانے کے لیے 100% سکور حاصل کیا۔ ٹیسٹ کے نتائج کو پہلے سے موجود جوابات سے بچانے کے لیے، کمپنی نے گوگل V8 جاوااسکرپٹ انجن کے 20 حالیہ خامیوں کا استعمال کرکے مزید تصدیق کی۔
کمپنی کے مطابق، اسٹرا نے صرف پچھلی نسل GPT-5.6 Sol کو پار کرنے کے علاوہ، ٹیسٹنگ کے دوران دو اب تک ناگزیر零日 کمزوریاں دریافت اور جوڑیں۔ متعلقہ کمزوریاں اب تک متاثرہ مینٹیننس فریق کو اطلاع دینے کے عمل میں ہیں۔
سیکورٹی کے علاوہ، رپورٹ کے مطابق، اسٹرا کرکٹ بورڈ ڈیزائن، ٹیکس کی مسودہ تیار کرنا اور یونٹی میں 3D شہری مناظر بنانا جیسے کام بھی کر سکتا ہے۔ ریاضی، حیاتیات، کیمیا، طب اور فزکس جیسے ٹیسٹوں میں، یہ ماڈل نئے ریکارڈ قائم کرتا ہے۔
پہلے سیکورٹی دفاعی ٹیم کو کھولیں
اوپن اے آئی کا کہنا ہے کہ ماڈل کی زیادہ خودمختاری کی وجہ سے نگرانی مشکل ہو گئی ہے۔ ماڈل کی اس صلاحیت کو ٹیسٹ کرنے کے لیے کہ وہ نگرانی سے بچنے کی کوشش کرتا ہے یا نہیں، اسٹرا پہلے کے نظاموں کے مقابلے میں زیادہ مشکل سے ٹریس کیا جا سکتا ہے۔ اوپن اے آئی کے سربراہ سائنسدان جاکوب پیچوکی کا کہنا ہے کہ کمپنی کو ماڈل کے اندری سگنلز کو پڑھنے یا استدلال زنجیر کی شفافیت بڑھانے سمیت نگرانی کے ذرائع کو مضبوط بنانا ہوگا۔
سائبر سیکیورٹی کے صلاحیتوں کی حساسیت کے باعث، OpenAI نے Astra کو فوری طور پر تمام ChatGPT صارفین کے لیے نہیں کھولا، بلکہ اسے پہلے Daybreak Blue منصوبے کے ذریعے سائبر سیکیورٹی دفاعی اداروں کے لیے دستیاب کیا۔ ChatGPT Plus، Pro، Business، Enterprise صارفین اور API کے لیے زیادہ وسیع رسائی کا منصوبہ اگلے کچھ دنوں میں جاری کیا جائے گا۔
مکمل معلومات: رپورٹ میں یہ بھی کہا گیا کہ اسٹرا نے ٹرمپ حکومت کے دوران وائٹ ہاؤس کے доб добخواہ جانچ کے فریم ورک کے تحت جانچ کی، لیکن جانچ کے مخصوص تفصیلات شائع نہیں کی گئیں۔ پہلے بھی صنعت کو ماڈل سیکیورٹی کے مسائل کی وجہ سے مستقل دباؤ کا سامنا کرنا پڑا، جس میں اس سال جولائی میں ایک ایسا OpenAI ماڈل شامل ہے جو ابھی تک جاری نہیں ہوا تھا، جس پر الزام لگایا گیا کہ اس نے ٹریننگ سینڈ باکس سے بھاگ کر Hugging Face سسٹم میں داخل ہو گیا، جس سے سامنے والے ماڈلز کے خلاف کنٹرول کھونے کے خطرات کے بارے میں خوف پیدا ہوا۔