کیلیفورنیا کے گورنر نیوسن نے ایک عظیم الشان AI监管 قانون منظور کیا ہے، جس کے تحت تریلین پیرامیٹر ماڈلز کو لانچ کرنے سے پہلے ریڈ ٹیم ٹیسٹنگ اور تھرڈ پارٹی آڈٹ سے گزرنا ہوگا۔مضمون کے مصنف، ذریعہ: AIBase
امریکہ کے کیلیفورنیا کے گورنر گیون نیوسن نے ایک عظیم الشان مصنوعی ذہانت کے تنظیم کے بل کو منظور کر لیا ہے۔ قابل ذکر بات یہ ہے کہ اس نئی قانون سازی کا مقصد آگے کے بڑے ماڈلز کے محفوظ خطرات، شفافیت کی اطلاعات اور تباہ کن سائبر حملوں سے بچاؤ کو مضبوط بنانا ہے، جسے پہلے قانون سازی کے مذاکرات میں OpenAI اور Anthropic سمیت کئی سلیکون ویلی AI ٹاپ کمپنیوں نے نایاب طور پر تائید اور علیحدہ حمایت دی۔
ٹریلیون پیرامیٹرز والے ماڈل کو لانچ کرنے سے پہلے "ریڈ ٹیم ٹریننگ + تھرڈ پارٹی آڈٹ" سے گزرنا ہوگا
پچھلے کچھ سالوں میں، جنریٹو AI کی کمپوٹیشنل کیپیسٹی کے اسی طرح کے اسٹیلر اضافے اور سرحدی بنیادی ماڈلز کی خودمختار صلاحیتوں میں اضافے کے ساتھ، AI کے استعمال کے ذریعے اہم بنیادی ڈھانچے کو نقصان پہنچانا، خودکار بائیوکیمیکل ہتھیاروں کی ترقی، بڑے پیمانے پر ڈیپ فکس مینیپولیشن، اور شدید سائبر سیکورٹی خامیوں کا استعمال کرنے کے خدشات بڑھ رہے ہیں۔ امریکی کانگریس کے سطح پر فیڈرل AI قانون سازی میں مستقل تاخیر کے باوجود، کیلیفورنیا اسمبلی نے پچھلے کچھ سالوں میں امریکہ کے AI قانون سازی کے لئے اگرے دھارے کا کردار ادا کیا ہے۔
اس معاہدے کے تحت منظور کیے گئے متعدد قوانین میں زور دیا گیا ہے کہ انتہائی بڑے بنیادی ماڈلز کے لیے محفوظ ٹیسٹنگ معیارات کو قانونی طور پر منظور کیا جائے، جس کے تحت ماڈل ڈویلپرز کو تریلین پیرامیٹرز کے سائنسی سسٹم کو تربیت دینے اور ڈپلوی کرنے سے پہلے معیاری ریڈ ٹیم کنٹرول ٹیسٹنگ کرنا ہوگا، سخت بحرانی خطرات کے کم کرنے کے معاہدے قائم کرنے ہوں گے، اور تھرڈ پارٹی آزاد آڈٹ کے ذریعے تصدیق شدہ سیکورٹی کمپلائنس رپورٹس ریاستی ریگولیٹری اداروں کو جمع کرانی ہوں گی۔
اس قانونی پیکج کو، جو پہلے سیلیکون ویلی میں شدید احتجاج اور ٹیکنالوجی کے بڑے کمپنیوں اور وینچر کیپٹلس کے خلاف موقف کا باعث بن چکا تھا، اس کے ترتیب اور ترمیم کے دوران اعلیٰ AI لیبارٹریز کی ٹیکنیکل تجاویز کو گہرائی سے شامل کیا گیا۔ اینتھروپک اور OpenAI نے پہلے ایسے شقیں جن میں اوپن سورس کمیونٹی کو نقصان پہنچنے یا مدنی ذمہ داریوں کو بے حد بڑھا دیا جائے، کے بارے میں گہری فکر ظاہر کی تھی؛ تفصیلی لابنگ اور شقیں میں مکمل ترمیم کے بعد، نتیجتاً منظور شدہ قانون زیادہ توجہ "پہلے سے خطرہ جائزہ لینے کا شفاف فریم ورک" اور "صنعت کے بہترین حفاظتی معمولات" کے قيام پر مرکوز ہے، نہ کہ سخت ٹیکنالوجی کی حدود طے کرنے یا عملی طور پر ناامن ہونے والے سزا دینے والے اقدامات لاگو کرنے پر، جس سے اس نے قانونی فریم ورک کے اندر اہم AI تحقیقی اداروں کا تعاون حاصل کیا۔
گہری جھوٹی تخلیق پر علامت لگانی ضروری ہے، اطلاع دینے والوں کو قانونی حفاظت حاصل ہے
زیریں سطح کی محفوظیت کے جائزے کے علاوہ، اس قانون میں AI گینریٹ کردہ مواد کے لیے سرچھڑی نشاندہی اور ویٹر مارکنگ کے معیارات بھی شamil کیے گئے ہیں، جس میں پلیٹ فارمز اور اہم مواد تقسیم کنندگان سے گہرے جھوٹے آواز اور ویڈیو مواد پر سسٹم لیول ڈیجیٹل فنگر پرنٹ لگانے کا مطالبہ کیا گیا ہے تاکہ انتخابات کے دوران جھوٹی معلومات اور بدمعاشی شخصی حملوں کو روکا جا سکے۔ اس کے علاوہ، قانون کے تحت ایسے اندر کے ملازمین اور تحقیقی افراد کے لیے مزید واضح "بلوسٹر" قانونی حفاظت فراہم کی گئی ہے جو ماڈل کے ممکنہ بڑے محفوظیت کے خامیوں کو دریافت اور افشا کرتے ہیں، اور کمپنیوں کو سخت سرگوشی معاہدوں کے ذریعے ٹیکنیکل عملہ کو تنظیمی اداروں کو تباہ کن محفوظیت کے خطرات کی رپورٹ دینے کا حق دینے سے منع کیا گیا ہے۔
یہ اقدام کیلیفورنیا، جو عالمی AI ریسرچ اور ترقی کا مرکز ہے، کو سخت سیکورٹی حدود اور صنعتی نوآوری کی تحریک کے درمیان ایک متوازن تنظیمی راستہ تلاش کرنے کا اشارہ ہے، جسے صنعت کے افراد نے نسبتاً قبول کیا ہے۔