অ্যানথ্রোপিক একটি অগ্রণী AI মডেলের জন্য নীতিমালা প্যাকেজ প্রকাশ করেছে। কোম্পানিটি বলেছে, বর্তমান স্বচ্ছতা নিয়মগুলি মডেলের ক্ষমতা বৃদ্ধির গতির সাথে পাল্লা দিতে পারছে না, এবং উচ্চ-ঝুঁকিপূর্ণ সিস্টেমগুলি জনসাধারণের জন্য বাজারে আসার আগে ব্যবস্থা নেওয়ার জন্য সরকারকে আরও স্পষ্ট হস্তক্ষেপের অধিকার প্রয়োজন।
নিয়ন্ত্রিত পক্ষগুলিকে ক্যালকুলেশন ক্ষমতা এবং আয় অনুযায়ী নির্ধারণ করা হয়
এই পরিকল্পনাটি দুটি অংশে বিভক্ত: একটি সবচেয়ে শক্তিশালী মডেলের প্রযুক্তিগত এবং নিয়ন্ত্রণমূলক প্রয়োজনীয়তার উপর ফোকাস করে, অন্যটি স্বয়ংক্রিয়করণের প্রভাবের অধীনে অর্থনৈতিক বণ্টনের বিষয়টি আলোচনা করে। প্রকাশিত তথ্যগুলির ভিত্তিতে, প্রথমটি স্পষ্টতই আরও সম্পূর্ণ।
অ্যানথ্রোপিক সম্পূর্ণ শিল্পকে কভার করার পরিবর্তে নিয়ন্ত্রণের পরিধি কয়েকজন শীর্ষ ডেভেলপারে সীমাবদ্ধ করেছে। কোম্পানিটি প্রস্তাব করেছে যে 10²⁵ টি ফ্লোটিং-পয়েন্ট অপারেশনের বেশি ট্রেনিং স্কেল সহ মডেলগুলিকে ফ্রেমওয়ার্কের অন্তর্ভুক্ত করা উচিত; বছরে 5 বিলিয়ন ডলারের বেশি AI-সংক্রান্ত আয় বা 10 বিলিয়ন ডলারের বেশি AI গবেষণা-উন্নয়ন ব্যয় করা প্রতিষ্ঠানগুলিও সংশ্লিষ্ট প্রয়োজনীয়তাগুলির অধীনে আসবে।
এই ডিজাইনের উদ্দেশ্য হল সবচেয়ে বেশি সম্পদ এবং ক্ষমতা সম্পন্ন মডেলগুলিকে কেন্দ্রে রাখা, যাতে ছোট এবং মাঝারি আকারের ডেভেলপার এবং গবেষণা প্রতিষ্ঠানগুলিকে একই মাত্রার নিয়ন্ত্রণের অধীনে আনা না হয়।
সরকারকে উচ্চ ঝুঁকিপূর্ণ লিস্টিং বন্ধ করার অধিকার দেওয়া উচিত
কোম্পানি বলেছে, সবচেয়ে গুরুত্বপূর্ণ পরিবর্তনটি হল সরকারকে উচ্চ ঝুঁকিপূর্ণ মডেল চালুর বিরুদ্ধে বাধা দেওয়ার আইনগত ক্ষমতা দেওয়া। বর্তমানে মার্কিন যুক্তরাষ্ট্রে এমন কোনো সম্পূর্ণ ব্যবস্থা নেই যা মডেলটিকে জনসাধারণের জন্য চালুর আগেই বাস্তবিকভাবে বন্ধ করতে পারে।
প্রান্তিক মডেল ডেভেলপারদের প্রকাশের আগে পরীক্ষা সম্পন্ন করে, পরীক্ষার সারাংশ, নিরাপত্তা কাঠামো এবং সিস্টেম কার্ড প্রকাশ করতে হবে, যা মডেলের আচরণ এবং ঝুঁকি নিয়ন্ত্রণ পদ্ধতি ব্যাখ্যা করে। প্রতিষ্ঠানগুলিকে নিয়মিত ঝুঁকি প্রতিবেদন জমা দিতে হবে, যা সামগ্রিক ঝুঁকির অবস্থা এবং নিরাপত্তা কাজের অগ্রগতি প্রকাশ করে।
অ্যানথ্রোপিক এছাড়াও স্বতন্ত্র মূল্যায়ন সংস্থা চালুর প্রস্তাব দিয়েছে, যারা প্রতিষ্ঠানগুলি দ্বারা নিজেদের পরিচালিত পরীক্ষাগুলির পুনরায় মূল্যায়ন করবে এবং মডেলের ঝুঁকি সম্পর্কিত উপসংহারগুলি আলাদাভাবে প্রকাশ করবে। এতে নিয়ন্ত্রক এবং জনসাধারণের জন্য তথ্য প্রাপ্তির একমাত্র উৎস হিসেবে প্রতিষ্ঠানগুলির নিজস্ব বিবৃতির উপর নির্ভরশীলতা কমবে।
শাস্তি এবং নিরাপত্তা প্রয়োজনীয়তা একসাথে বৃদ্ধি পাচ্ছে
আইন প্রয়োগের ডিজাইনে, এনথ্রোপিক স্থির জরিমানার পরিবর্তে ব্যবসায়িক বৈশ্বিক বার্ষিক আয়ের সাথে আইনি জরিমানা সংযুক্ত করার পরামর্শ দেয়। কোম্পানিগুলি মনে করে, শুধুমাত্র এইভাবেই বড় AI কোম্পানিগুলির জন্য জরিমানা প্রাসঙ্গিক হবে। পুনরাবৃত্তি লঙ্ঘনকারীদের জন্য, জরিমানার পরিমাণ আরও বাড়ানো উচিত।
পরীক্ষা এবং প্রকাশের বাইরে, প্রস্তাবটি কোম্পানিগুলিকে মডেল ওয়েট এবং প্রশিক্ষণ সিস্টেমকে বাহ্যিক আক্রমণ এবং অভ্যন্তরীণ দুর্ব্যবহার থেকে সুরক্ষিত রাখতে আরও শক্তিশালী নিরাপত্তা ব্যবস্থা গড়ে তোলার প্রয়োজনীয়তা রাখে। কোম্পানিগুলি নিরাপত্তা পরিকল্পনার সাধারণ কাঠামো প্রকাশ করতে পারে, এবং বিস্তারিত বিষয়গুলি সরকারি সংস্থাগুলির অনুরোধে প্রদান করা হবে।
অ্যানথ্রোপিক আরও প্রস্তাব করেছে যে সরকার এবং শিল্পের মধ্যে স্বাধীন মূল্যায়নকারীদের মানদণ্ড প্রণয়ন করা উচিত এবং এই মূল্যায়নকারীদের পর্যাপ্ত অর্থায়ন এবং প্রয়োজনীয় অ্যাক্সেস নিশ্চিত করা উচিত। যেহেতু অগ্রণী মডেলগুলি প্রায়শই কোম্পানির সবচেয়ে সংবেদনশীল সম্পদ, তাই কে মূল্যায়ন করবে এবং কিভাবে অ্যাক্সেস পাবে, এটি বাস্তবায়নের একটি প্রধান চ্যালেঞ্জ হবে।
চারটি প্রধান ঝুঁকি উল্লেখ করুন
অ্যানথ্রোপিক ফাইলে চারটি প্রধান ঝুঁকি উল্লেখ করেছে: জৈবিক ঝুঁকি, সাইবার নিরাপত্তা ঝুঁকি, নিয়ন্ত্রণহীনতা ঝুঁকি এবং এআই নিজের গবেষণা নিজেই ত্বরান্বিত করার ঝুঁকি। কোম্পানিটি মনে করে, এই ঝুঁকিগুলি পরস্পর থেকে বিচ্ছিন্ন নয়, এবং এগুলি পরস্পরকে বাড়িয়ে তুলতে পারে।
উদাহরণস্বরূপ, বড় পরিসরে সফটওয়্যার ভালো খুঁজে বার করার ক্ষমতা সম্পন্ন মডেলগুলি হাসপাতাল, শক্তি নেটওয়ার্ক ইত্যাদি কী অবকাঠামোকে প্রত্যক্ষভাবে প্রভাবিত করতে পারে; এবং সীমাবদ্ধতা অপর্যাপ্ত হলে, এই ক্ষমতা জীববিজ্ঞানগত ঝুঁকির সাথে যুক্ত হতে পারে।
সংশ্লিষ্ট ব্যবস্থার ক্ষেত্রে, এনথ্রোপিক ইন্টারনেট এবং কীভাবে অবকাঠামোর সুরক্ষা শক্তিশালীকরণ, কীভাবে সেবাগুলির পুরনো সিস্টেম প্রতিস্থাপন এবং অগ্রগতি করা AI-এর নেটওয়ার্ক ক্ষমতার পরিবর্তন নিয়মিতভাবে পর্যবেক্ষণের জন্য একটি বিশেষ সরকারি কর্মক্ষমতা প্রতিষ্ঠা পরামর্শ দেয়। অনিয়ন্ত্রিত এবং স্বয়ংক্রিয় গবেষণা ঝুঁকির ক্ষেত্রে, কোম্পানিটি সংশ্লিষ্ট গভর্নেন্স টুলগুলি এখনও অপরিণত বলে স্বীকার করে, এবং অনিরাপদ সিস্টেমগুলির শনাক্তকরণ, বিচ্ছিন্নকরণ এবং বন্ধকরণের ক্ষমতা আরও উন্নত করার প্রয়োজনীয়তা রয়েছে।
অতিরিক্ত তথ্য: এনথ্রোপিক ফাইলে উল্লেখ করেছে যে, বর্তমান ক্যালিফোর্নিয়া এবং নিউ ইয়র্কের মতো স্থানগুলিতে প্রকাশ্যের নিয়মগুলি কিছুটা কার্যকর, কিন্তু শুধুমাত্র প্রকাশ্যের মাধ্যমে প্রান্তিক মডেলের দ্রুত পুনরাবৃত্তির ফলে উৎপন্ন ঝুঁকি কভার করা যায় না।