اینٹروپک نے سرحدی AI ماڈلز کے لیے ایک پالیسی پیکیج جاری کیا ہے۔ کمپنی کا کہنا ہے کہ موجودہ شفافیت کے قواعد ماڈلز کی صلاحیتوں کے ترقی کے ساتھ ساتھ پیچھے رہ گئے ہیں، اور حکومت کو اعلیٰ خطرہ والے سسٹمز کو عوامی بازار میں داخل ہونے سے پہلے اقدامات اٹھانے کے لیے زیادہ واضح مداخلت کا اختیار حاصل کرنے کی ضرورت ہے۔
监管对象按算力和收入划定
یہ منصوبہ دو حصوں پر مشتمل ہے، ایک حصہ سب سے طاقتور ماڈل کی ٹیکنالوجی اور تنظیمی ضروریات پر مرکوز ہے، جبکہ دوسرا حصہ خودکاری کے اثرات کے تحت معاشی تقسیم پر بحث کرتا ہے۔ اب تک کی فاش شدہ معلومات کے مطابق، پہلا حصہ واضح طور پر زیادہ مکمل ہے۔
اینٹروپک نے پورے صنعت کے بجائے صرف کچھ ٹاپ ڈویلپرز پر تنظیمی دائرہ کار کو محدود کیا ہے۔ کمپنی نے پیش کیا ہے کہ 10²⁵ سے زیادہ فلوٹنگ پوائنٹ آپریشنز کے ساتھ تربیت یافتہ ماڈلز کو فریم ورک میں شamil کیا جائے؛ اور وہ کمپنیاں جن کی سالانہ AI سے متعلق آمدنی 5 ارب ڈالر سے زیادہ ہو یا AI ریسرچ اور ترقی پر 10 ارب ڈالر سے زیادہ خرچہ ہو، ان پر بھی متعلقہ ضوابط لاگو ہوں۔
اس ڈیزائن کا مقصد وسائل اور صلاحیتوں کے سب سے زیادہ مرکوز ماڈلز پر توجہ مرکوز کرنا ہے، جس سے چھوٹے اور درمیانے سائٹس اور تحقیقی اداروں کو بھی اسی حد تک تنظیم کے تحت لایا جائے۔
حکومت کو اعلیٰ خطرہ والے لانچ روکنے کا حق ہے
کمپنی کے مطابق، سب سے اہم تبدیلی یہ ہے کہ حکومت کو اعلیٰ خطرہ والے ماڈلز کے ڈیپلومنٹ کو روکنے یا روکنا کا قانونی اختیار دیا جائے۔ اب تک امریکہ میں ایک مکمل نظام نہیں ہے جو ماڈلز کو عوام کے لیے جاری کرنے سے پہلے ان کا عملی طور پر روک سکے۔
تفصیلی درخواستوں کے تحت، اگرے ماڈل ڈویلپرز کو جاری کرنے سے پہلے ٹیسٹ کرنا ہوگا اور ٹیسٹ خلاصہ، سیفٹی فریم ورک اور سسٹم کارڈ شائع کرنا ہوگا، جس میں ماڈل کے رویے اور خطرات کے کنٹرول کے طریقے کا تفصیلی تعارف دیا جائے۔ کمپنیوں کو مسلسل خطرات کی رپورٹس جمع کرانی ہوں گی، جن میں مجموعی خطرات کی حالت اور سیفٹی کے عمل کی پیش رفت کا انکشاف ہو۔
اینٹروپک نے مستقل ایوانوں کو متعارف کرانے کا بھی تجویز کیا ہے تاکہ کمپنیوں کے خود کیے گئے ٹیسٹوں کا جائزہ لیا جا سکے اور ماڈل کے خطرات کے نتائج الگ سے جاری کیے جائیں۔ اس طرح، تنظیمی اداروں اور عوام کو معلومات حاصل کرنے کا واحد ذریعہ کمپنیوں کے اپنے بیانات پر محدود نہیں رہے گا۔
سزائیں اور سیکورٹی کی ضروریات کے ساتھ ساتھ مزید تشدد کیا جا رہا ہے
قانونی ڈیزائن کے حوالے سے، Anthropic نے مخصوص جرمانوں کے بجائے مدنظر رکھتے ہوئے شہری جرمانوں کو کمپنی کی عالمی سالانہ آمدنی سے منسلک کرنے کی تجویز کی ہے۔ کمپنی کا خیال ہے کہ صرف اسی صورت میں جرمانے بڑے AI کمپنیوں کے لیے عملی پابندی بن سکتے ہیں۔ دوبارہ خلاف ورزی کرنے والوں کے لیے جرمانے کی شدت مزید بڑھانی چاہیے۔
ٹیسٹنگ اور افشا کے علاوہ، اس منصوبے کے تحت کاروباروں کو مدل وزنز اور ٹریننگ سسٹمز کو باہری حملوں اور اندر کے غلط استعمال سے محفوظ رکھنے کے لیے مضبوط سیکیورٹی نظام قائم کرنے کی ضرورت ہے۔ کاروبار اپنی سیکیورٹی منصوبہ بندی کی عمومی ساخت کو شائع کر سکتے ہیں، جبکہ مزید تفصیلات صرف حکومتی اداروں کی درخواست پر فراہم کی جائیں گی۔
اینٹروپک نے یہ بھی پیش کیا کہ حکومت اور صنعت کو مستقل جائزہ دینے والوں کے معیارات تیار کرنے چاہئیں اور یہ یقینی بنانا چاہئیے کہ ان جائزہ دینے والوں کو کافی فنڈنگ اور ضروری رسائی حاصل ہو۔ کیونکہ سامنے والے ماڈل عام طور پر کمپنیوں کے سب سے حساس اثاثے ہوتے ہیں، اس لیے کون جائزہ دے گا اور کس طرح رسائی حاصل کی جائے گی، اس کا عمل میں لانا ایک بڑی چیلنج ہوگی۔
چار اہم خطرات کا نام لیں
اینٹروپک نے فائل میں چار اہم خطرات کی فہرست بنائی: زندہ خطرات، سائبر سیکیورٹی خطرات، بیرون کنٹرول خطرات، اور AI کا اپنے ترقی کو خود بخود تیز کرنے کا خطرہ۔ کمپنی کا خیال ہے کہ یہ خطرات الگ الگ نہیں ہیں، بلکہ ایک دوسرے کو بڑھا سکتے ہیں۔
مثلاً، بڑے پیمانے پر سافٹ ویئر کے خامیوں کو دریافت کرنے کی صلاحیت رکھنے والے ماڈل، ہسپتالوں، توانائی نیٹ ورکس جیسے اہم بنیادی ڈھانچوں کو безپوس طور پر متاثر کر سکتے ہیں؛ اور اگر ان کی پابندیاں کم ہوں تو ایسی صلاحیتیں حیاتیاتی خطرات کے ساتھ جُڑ سکتی ہیں۔
متعلقہ اقدامات کے حوالے سے، Anthropic نے انٹرنیٹ اور اہم بنیادی ڈھانچے کی حفاظت کو مضبوط بنانے، اہم خدمات کو قدیم سسٹمز سے تبدیل کرنے، اور ایک مخصوص حکومتی فنکشن قائم کرنے کی تجویز کی ہے تاکہ ای آئی کی سائبر صلاحیتوں میں تبدیلیوں کا مستقل طور پر جائزہ لیا جا سکے۔ بے قابو ہونے اور خودکار ریسرچ کے خطرات کے حوالے سے، کمپنی تسلیم کرتی ہے کہ متعلقہ حکومتی ٹولز اب بھی ناقص ہیں اور غیر محفوظ سسٹمز کی تشخیص، علیحدگی اور بند کرنے کی صلاحیتیں مزید بہتر بنانے کی ضرورت ہے۔
اضافی معلومات: اینتھروپک نے دستاویز میں ظاہر کیا ہے کہ موجودہ کیلیفورنیا اور نیو یارک جیسے مقامات کے شفافیت کے قوانین کا کچھ اثر ہے، لیکن صرف شفافیت کے ذریعے سامنے لانے سے سامنے والے ماڈلز کی تیز رفتار ترقی کے ساتھ جڑے خطرات کو پوری طرح کاور نہیں کیا جا سکتا۔