ক্যালিফোর্নিয়ার গভর্নর নিউসোম একটি ঐতিহাসিক এআই নিয়ন্ত্রণ আইন স্বাক্ষর করেছেন, যার অধীনে ট্রিলিয়ন প্যারামিটার স্তরের মডেলগুলি চালুর আগে রেড টিম পরীক্ষা এবং তৃতীয় পক্ষের অডিট পাস করতে হবে।লেখক এবং উৎস: AIBase
আমেরিকার ক্যালিফোর্নিয়া রাজ্যের গভর্নর গ্যাভিন নিউসম একটি ঐতিহাসিক কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণ আইনের প্যাকেজ অনুমোদন করেছেন। বিশেষভাবে উল্লেখযোগ্য যে, এই নতুন আইনগুলি উন্নত বড় মডেলের নিরাপত্তা ঝুঁকি মূল্যায়ন, স্বচ্ছতা প্রকাশ এবং বিপজ্জনক সাইবার আক্রমণ প্রতিরোধের উদ্দেশ্যে তৈরি করা হয়েছে, এবং এগুলি আগের আইনগত আলোচনায় OpenAI এবং Anthropic সহ সিলিকন ভ্যালির অনেক AI শীর্ষস্থানীয় কোম্পানির অসাধারণ সমর্থন এবং প্রকাশ্যের সমর্থন লাভ করেছে।
ট্রিলিয়ন প্যারামিটার স্তরের মডেল চালুর আগে “রেড টিম প্র্যাকটিস + থার্ড-পার্টি অডিট” পাস করতে হবে
গত কয়েক বছরে, জেনারেটিভ এআই ক্ষমতার সূচকীয় বিস্তার এবং অগ্রণী মৌলিক মডেলগুলির স্বায়ত্তশাসনের উন্নতির সাথে সাথে, এআই-কে কীভাবে মূল অবকাঠামোর ক্ষতি, স্বয়ংক্রিয় জৈব-রাসায়নিক অস্ত্র উন্নয়ন, বৃহৎ পরিসরের ডিপফেক হস্তক্ষেপ এবং গুরুতর সাইবার নিরাপত্তা দুর্বলতার দিকে ব্যবহার করা যেতে পারে তার প্রতি উদ্বেগ বৃদ্ধি পাচ্ছে। যেহেতু মার্কিন কংগ্রেসে ফেডারেল এআই আইনগত পদক্ষেপের প্রতি দীর্ঘদিন ধরে অগ্রসর হওয়ার কোনো পদক্ষেপ হয়নি, ক্যালিফোর্নিয়া বিধানসভা গত কয়েক বছরে মার্কিন যুক্তরাষ্ট্রের এআই-ভিত্তিক আইনগত অগ্রদূতের ভূমিকা পালন করেছে।
এই বিলগুলির মধ্যে অনেকগুলি বিশাল আকারের মৌলিক মডেলগুলির জন্য নিরাপত্তা পরীক্ষার মানদণ্ডকে আইনগতভাবে নিয়ন্ত্রণের উপর ফোকাস করে, যা মডেল ডেভেলপারদের ট্রিলিয়ন প্যারামিটারের অগ্রগামী সিস্টেমগুলি প্রশিক্ষণ এবং স্থাপনের আগে স্ট্যান্ডার্ডাইজড রেড টিম কনট্রাস্ট টেস্টিং পরিচালনা, কঠোর দুর্ঘটনাজনিত ঝুঁকি হ্রাস প্রোটোকল তৈরি এবং তৃতীয় পক্ষের স্বতন্ত্র অডিটের মাধ্যমে সমন্বিত নিরাপত্তা সঙ্গতি প্রতিবেদনগুলি রাজ্য নিয়ন্ত্রণকারীদের কাছে জমা দিতে বাধ্য করে।
এই আইনটি আগের সিলিকন ভ্যালির তীব্র বিতর্ক এবং প্রযুক্তি বিগ ব্যাস ও বিনিয়োগকারীদের তীব্র প্রতিবাদের সম্মুখীন হওয়া কঠোর নিয়ন্ত্রণ প্রস্তাবের বিপরীতে, এটি তৈরি ও সংশোধনের সময় উন্নত AI পরীক্ষাগারগুলির প্রযুক্তিগত পরামর্শকে গভীরভাবে অন্তর্ভুক্ত করেছে। Anthropic এবং OpenAI আগে অত্যধিক কঠোর, ওপেন-সোর্স সম্প্রদায়ের উন্নয়নকে বাধা দেওয়ার বা দায়বদ্ধতা অসীমভাবে বাড়ানোর শর্তগুলির প্রতি গভীর উদ্বেগ প্রকাশ করেছিল; ঘনঘন লবিং এবং শর্তগুলির সূক্ষ্ম সমন্বয়ের পর, চূড়ান্তভাবে প্রণীত আইনটি সরাসরি কঠোর প্রযুক্তিগত সীমা নির্ধারণ বা অবাস্তব শাস্তিমূলক পদক্ষেপগুলি চালুর পরিবর্তে, পারদর্শিতা-ভিত্তিক “পূর্ব-ঝুঁকি মূল্যায়ন কাঠামো” এবং “শিল্পের সেরা নিরাপত্তা অনুশীলনের” ভিত্তি প্রতিষ্ঠা-এর দিকেই বেশি জোর দিয়েছে, যা আইনগত কাঠামোর মধ্যেই প্রধান AI গবেষণা-প্রতিষ্ঠানগুলিকে সহযোগিতা-এর জন্য প্রণোদিত করেছে।
Deepfakes must be watermarked, whistleblowers are protected by law
নিরাপত্তা পরীক্ষার পাশাপাশি, আইনটি এআই দ্বারা তৈরি কন্টেন্টের উৎস চিহ্নিতকরণ এবং জলরেখা নির্দেশিকা কভার করে, যা প্ল্যাটফর্ম এবং প্রধান কন্টেন্ট বিতরণ চ্যানেলগুলিকে গভীর ফর্জ অডিও-ভিডিও কন্টেন্টের জন্য সিস্টেম-লেভেল ডিজিটাল ফিঙ্গারপ্রিন্ট যোগ করতে বাধ্য করে, যাতে নির্বাচনী মিথ্যা তথ্য এবং কুৎসিত ব্যক্তিগত প্রতারণা রোধ করা যায়। এছাড়াও, আইনটি মডেলের সম্ভাব্য গুরুতর নিরাপত্তা দুর্বলতা আবিষ্কার ও প্রকাশ করা অভ্যন্তরীণ কর্মচারীদের এবং গবেষকদের জন্য "উদ্বোধনকারী" আইনগত সুরক্ষা আরও স্পষ্টভাবে প্রদান করে, এবং প্রতিষ্ঠানগুলিকে কঠোর গোপনীয়তা চুক্তির মাধ্যমে প্রযুক্তিবিদদের নিয়ন্ত্রকদের কাছে দুর্ঘটনাকর নিরাপত্তা ঝুঁকি রিপোর্ট করার অধিকার ছিনিয়ে নেওয়ার নিষেধাজ্ঞা জারি করে।
এই পদক্ষেপটি ক্যালিফোর্নিয়াকে বিশ্বব্যাপী এআই গবেষণা ও উন্নয়নের কেন্দ্র হিসেবে, কঠোর নিরাপত্তা সীমানা এবং শিল্পের উদ্ভাবনী গতিশীলতা বজায় রাখার মধ্যে একটি শিল্পের দ্বারা সাপেক্ষে স্বীকৃত নিয়ন্ত্রণ পথ অনুসন্ধান করার সূচনা করে।