স্যাম অল্টম্যান সতর্ক করেছেন যে এআই উন্নয়ন সীমান্ত ঝুঁকি মোকাবেলা করতে ধীর হতে হবে

প্রধান পর্যবেক্ষণ:

• স্যাম অল্টম্যানের সতর্কবাণী এআই সংবাদকে ধীর উন্নয়ন এবং শক্তিশালী নিরাপত্তার দিকে সরিয়ে নিয়েছে।
• ওপেনএআই ক্ষমতা বৃদ্ধি পাওয়ার আশা নিয়ে প্রশিক্ষণ চালানোর আগে নিরাপত্তা কেস প্রস্তুত করছে।
• অল্টম্যান একটি একক কর্তৃপক্ষ দ্বারা ধারণকৃত অত্যধিক এআই শক্তি এবং মানব নিয়ন্ত্রণের হারানোর সতর্কবাণী দিয়েছেন।

ওপেনএআই সিইও স্যাম আল্টম্যানের কথায় এআই সংবাদ এখন সীমান্ত নিরাপত্তার দিকে সরে গেছে, যিনি ধীরে এবং বেশি সতর্কভাবে মডেল বিকাশের আহ্বান জানিয়েছেন। তিনি সতর্ক করেছেন যে, যদি ক্ষমতা অ্যালাইনমেন্ট এবং মনিটরিং সিস্টেমের চেয়ে দ্রুত এগিয়ে যায়, তাহলে মানবতা নিয়ন্ত্রণ হারিয়ে ফেলতে পারে।

অ্যালটম্যান শক্তিশালী এআই-এর উপর শক্তিশালী কেন্দ্রীয় নিয়ন্ত্রণকেও একটি পৃথক বিপদ হিসেবে চিহ্নিত করেছেন। তাঁর সেপ্টেম্বর ১৪-এর বিবৃতিটি অব্যাহত অগ্রগতির সমর্থন করেছে, যদিও ডেভেলপারদের অতিরিক্ত নিরাপত্তা ব্যয় এবং ধীর বিকাশ গ্রহণ করা উচিত।

Altman গবেষকদের নিরাপত্তা সুরক্ষা শক্তিশালী করার সময় বিকাশকে ধীর করার প্রস্তাব অ্যানথ্রোপিকের সিইও ড্যারিও আমোডেইকে সমর্থন করেছেন।

তবে, তিনি ব্যাখ্যা করেন যে গতি নিয়ন্ত্রণ মানে প্রযুক্তিগত প্রগতি বন্ধ করা নয়। বরং, পরীক্ষাগারগুলি সুরক্ষা পর্যালোচনার জন্য বেশি সময় প্রয়োজন হলে ধীর বিকাশকে গ্রহণ করবে। এই হস্তক্ষেপগুলির উচ্চ খরচ থাকে, কিন্তু অলটম্যান এই খরচগুলিকে প্রয়োজনীয় বলে বর্ণনা করেন।

এছাড়াও এআই সংবাদের পাশাপাশি, অলটম্যান বলেন যে মার্কিন যুক্তরাষ্ট্রের ভিতরে প্রতিযোগিতামূলক চাপ কখনই অসাবধানে বিকাশের যৌক্তিকতা হতে পারে না। তিনি যোগ করেন যে মডেলের ক্ষমতা সর্বদা সমন্বয় এবং নিরীক্ষণ সিস্টেমের বাইরে এগিয়ে যাওয়া উচিত নয়।

প্রগতি ত্বরান্বিত হয়েছে, যার ফলে প্রতিটি সীমান্ত পরীক্ষাগারের জন্য দায়িত্বশীল উন্নয়ন আরও প্রয়োজনীয় হয়ে উঠেছে। তিনি বলেন, আমেরিকান কোম্পানিগুলিকে জনগণকে বিশ্বাস দিতে হবে যে তারা উন্নত সিস্টেমগুলি দায়িত্বশীলভাবে উন্নয়ন করবে।

পূর্বের কোম্পানি কাঠামোগুলি মূলত তাদের পাবলিক ডিপ্লয়মেন্টের আগে সম্পন্ন মডেলগুলি পরীক্ষা করত। এগুলি ফ্রন্টিয়ার ল্যাবোরেটরিগুলি দ্বারা বিকশিত দায়িত্বপূর্ণ স্কেলিং নীতি এবং প্রস্তুতি কাঠামো অন্তর্ভুক্ত করেছিল।

অলটম্যান বলেছেন যে বর্তমান বিকাশের অবস্থা নতুন টুলস এবং আগের সুরক্ষা মূল্যায়নের প্রয়োজন। ফলে, ওপেনএআই কিছু সুরক্ষা কাজকে প্রধান ক্ষমতা বৃদ্ধির আগেই সরিয়ে নিয়েছে।

ওপেনএআই এখন সীমান্ত পুনরাবৃত্তিমূলক শেখারের নির্বাচিত রানগুলির আগে স্পষ্ট নিরাপত্তা কেস প্রস্তুত করে। গবেষকদের যখন একটি প্রশিক্ষণ রান উল্লেখযোগ্য ক্ষমতা বৃদ্ধি তৈরি করবে বলে আশা করে, তখন কোম্পানিটি এগুলি প্রয়োগ করে।

OpenAI এছাড়াও সম্পূর্ণ মডেলগুলি প্রকাশের আগে নিরাপত্তা কাজ চালিয়ে যায়। এই পদ্ধতি, তাই, উন্নয়ন এবং বাস্তবায়ন উভয় পর্যায়ে মূল্যায়ন স্থাপন করে।

অলটম্যান বলেছেন যে কোম্পানিগুলি পদ্ধতি শেয়ার করতে এবং নিজেদের নিরাপত্তা প্রক্রিয়া প্রস্তাব করতে চাইবে। তিনি মডেল অসামঞ্জস্যতা, মনিটরিং এবং নিরাপত্তা সম্পর্কিত সাধারণ মানদণ্ডের পক্ষে ছিলেন।

এই মানগুলি প্রতিদিন বেশি ক্ষমতাশালী সিস্টেমগুলি মূল্যায়নে পরীক্ষাগারগুলিকে পথনির্দেশ করতে পারে। তিনি একটি সামঞ্জস্যপূর্ণ সীমান্ত-ঝুঁকি কাঠামোর অংশ হিসাবে স্বাধীন অডিটরদেরও স্বাগত জানান।

সর্বশেষ এআই সংবাদ বিবৃতিটি আইন প্রণয়নের জন্য অপেক্ষা না করে তাৎক্ষণিক শিল্প কার্যক্রমের আহ্বান জানিয়েছে। অলটম্যান বলেছেন, সংরক্ষণাধীন ব্যবস্থা চালুর আগে কোম্পানিগুলির এন্টিট্রাস্ট ব্যতিক্রমের প্রয়োজন হয় না।

তিনি সীমান্ত ডেভেলপারদের জন্য একটি সাম্রাজ্যবাদী কাঠামো প্রতিষ্ঠারও সমর্থন করেছিলেন। তবে, তিনি আন্তর্জাতিক নিরাপত্তা নিয়মগুলির সমন্বয়ে সরকারগুলিকে একটি বড় ভূমিকা দিয়েছিলেন।

অলটম্যান বলেছেন যে প্রযুক্তিগত প্রতিষ্ঠানগুলি প্রথমে তাদের নিজস্ব সংগঠনের মধ্যে উপলব্ধ সুরক্ষা বাস্তবায়ন করবে। তারপর সরকারগুলি উন্নত মডেল তৈরির জন্য দেশগুলির মধ্যে সমন্বয়ের সমর্থন করতে পারে।

তার বিবৃতিতে এআই গবেষণা বা ক্ষমতার উন্নতি বন্ধ করার আহ্বান করা হয়নি। বরং, এটি শক্তিশালী মনিটরিং এবং সচেতন গতির সাথে অব্যাহত উন্নয়নের প্রস্তাব করেছে।

অল্টম্যান বর্ণনা করেছেন যে উন্নত এআই উন্নয়ন দুটি উপায়ে গুরুতর ক্ষতিকর ফলাফল তৈরি করতে পারে। প্রথমত, ক্ষমতা উপলব্ধ সুরক্ষার চেয়ে বেশি হয়ে গেলে মানবতা নিয়ন্ত্রণ হারিয়ে ফেলতে পারে।

দ্বিতীয়ত, একটি কোম্পানি, দেশ, পরীক্ষাগার বা ব্যক্তি শক্তিশালী সিস্টেমগুলির উপর অত্যধিক নিয়ন্ত্রণ অর্জন করতে পারে। এই কেন্দ্রীয়করণ একটি কর্তৃপক্ষকে অন্যদের উপর তাদের বিশ্বদৃষ্টি চাপিয়ে দিতে সক্ষম করতে পারে।

সতর্কবার্তাটি প্রযুক্তিগত নিয়ন্ত্রণ এবং প্রতিষ্ঠানগত নিয়ন্ত্রণকে একই নিরাপত্তা আলোচনার মধ্যে রাখে। অলটম্যান বলেন যে ওপেনএআই এআই-এর মাধ্যমে মানবতার সেবা নিশ্চিত করতে সমর্থিত থাকবে।

সর্বশেষ এআই সংবাদ অনুযায়ী, ওপেনএআই-এর সিইও আরও জোর দিয়েছেন যে প্রতিটি সীমান্ত পরীক্ষাগারকে এই দায়িত্ব পালন করতে হবে। অন্যথায়, আরও ক্ষমতাশালী সিস্টেমগুলি যথেষ্ট পর্যবেক্ষণ বা সম্মিলিত মানবিনা অগ্রগতি করতে পারে।

পোস্টটি AI সংবাদ: স্যাম অলটম্যান বলেছেন যে এআই এগিয়ে যাওয়া ধীর হওয়া উচিত কারণ ফ্রন্টিয়ার ঝুঁকি ত্বরান্বিত হচ্ছে প্রথমে প্রকাশিত হয়েছিল The Coin Republic-এ।