مائیکروسافٹ کے سی ای او ساتیا نیڈیلا نے 20VC پاڈکسٹ میں اعتراف کیا کہ وہ پہلے سوچتے تھے کہ AI کی صلاحیتوں میں اضافہ خود بخود انسانی اقدار کے ساتھ مطابقت کی پیشرفت کا باعث بن جائے گا، لیکن اب ان کا خیال بدل چکا ہے۔ انہوں نے کہا کہ ماڈلز کا سائز لگاتار بڑھ رہا ہے، لیکن مطابقت کے مسائل زیادہ مشکل ہو گئے ہیں، اور قابو کرنے کی صلاحیت صلاحیتوں کے ساتھ مساوی طور پر بڑھی نہیں ہے۔ انہوں نے AI کو اندرونی محفوظیت کے خطرے کے طور پر دیکھنے کا مطالبہ کیا، اور قابل اعتماد سسٹم ڈیزائن، انسانی کنٹرول اور آپریشنل پروٹوکولز کی تین طبقاتی تحفظ کی تعمیر کی ضرورت پر زور دیا، اور صنعتی معیارات قائم کرنے کا مطالبہ کیا۔ یہ خیال اورٹلمین، امودائی جیسے صنعت کے رہنماؤں کے انتباہات سے ملتا جلتا ہے، جو AI گورننس کو نعرہ بندی سے سخت انجینئرنگ اور ادارائی پابندیوں کی طرف منتقل ہونے کو ظاہر کرتا ہے۔مضمون کے مصنف، ذریعہ: AIBase
مائیکروسافٹ کے سی ای او ساتیا نیدیلا نے AI کے "الائنمنٹ" مسئلے کے بارے میں اپنا علیحدہ رائے بدل دی۔ نئے ایپی سوڈ 20VC پوڈکاسٹ میں، میزبان ہری اسٹیبنز نے ان سے پوچھا کہ گزشتہ سال ان کی کون سی سوچ تبدیل ہوئی، نیدیلا نے اعتراف کیا کہ وہ پہلے ہمیشہ سوچتے رہے کہ جتنا AI طاقتور ہوگا، اتنا ہی آسان ہو جائے گا کہ اس کا رویہ انسانی قدرتیں اور مقاصد کے مطابق ہو جائے۔
" tự nhiên giải quyết " سے " زیادہ پیچیدہ "
لیکن حقیقت نے اس منصوبے کے مطابق کام نہیں کیا۔ نادیلا نے تسلیم کیا کہ ماڈل کا سائز لگاتار بڑھنا اور ان کی صلاحیتیں مستقل طور پر بڑھنا، یہ سب اس کی توقع کے مطابق رہا؛ لیکن "ایلائنمنٹ" — یعنی AI کے رویے کو قانونی حدود میں رکھنا — اب تک حل نہیں ہوا۔ اس نے کہا: "میں پہلے ہمیشہ سوچتا رہا کہ ایلائنمنٹ کا مسئلہ خود بخود حل ہو جائے گا۔ میں اب اس طرح نہیں سوچتا۔ ایلائنمنٹ ایک زیادہ مشکل اور مختلف قسم کا مسئلہ ہو سکتا ہے۔"
ایک جائزہ کا مطلب ہے کہ AI کا رویہ انسانوں کی بات سنے یا نہ سنے، اور کیا یہ انسانی مقاصد کے مطابق ہے۔ جب ماڈل اتنے بڑے ہو جائیں کہ ان کے ڈیزائنرز بھی ان کے افعال کو بالکل نہیں پیش گوئی کر سکتے، تو صلاحیتوں میں اضافہ اور قابو میں اضافہ الگ ہو جاتا ہے، جو نادیلا کو سامنا کرنا پڑا۔
AI کو "اندر کا دشمن" کی طرح روکیں
یہ احتیاط کی نشاندہی پہلے سے موجود تھی۔ 10 اکتوبر کو، نادرلا نے X پلیٹ فارم پر ایک پوسٹ شیئر کرتے ہوئے AI کے خطرات کی نشاندہی کی اور باہری سیکورٹی کنٹرولز کو مضبوط بنانے کا تجویز دیا۔ ان کا مرکزی تجویز سخت تھا: کاروبار کو AI ماڈلز کو "اندر کا سیکورٹی خطرہ" سمجھنا چاہیے، اور حفاظتی اقدامات کرتے وقت یہ فرض کرنا چاہیے کہ ماڈل پہلے ہی بریک ہو چکا ہے۔
اس نے پوسٹ میں لکھا کہ ان ماڈلز کے لیے جن کا رویہ مکمل طور پر پیش گوئی نہیں کیا جا سکتا، "قابل اعتماد، یقینی سسٹم ڈیزائن، مصنوعی نگرانی اور بہترین آپریشنل پروٹوکول" کے تین دفاعی دیوار لگائے جائیں؛ جہاں معیار کم ہو، وہاں فوراً صنعتی اصول وضع کیے جائیں۔
نادرلا صرف ایک منفرد مثال نہیں ہیں۔ اوپن اے آئی کے آلتمن، اینتھرپک کے امودائی نے بھی AI کے ممکنہ خطرات کے بارے میں انتباہ کیا ہے؛ جولائی 2024 میں، 1000 سے زائد ماہرین نے ایک علیحدہ خط پر دستخط کرکے یہ خبردار کیا کہ AI کی صلاحیتوں کی تیز رفتار ترقی اب انسانوں کی اسے سمجھنے یا اس پر کنٹرول رکھنے کی صلاحیت سے آگے نکل چکی ہے۔ جب بہترین ٹریڈرز ایک ساتھ "طاقت = محفوظ" کے اعتماد کو کم کر رہے ہیں، تو AI حکمرانی شاید صرف نعرہ بندی سے آگے بڑھ کر زیادہ سخت انجینئرنگ اور اداروں کی طرف مائل ہو جائے۔