ওপেনএআই বুধবার ঘোষণা করেছে যে দীর্ঘদিন ধরে এআই অ্যালাইনমেন্ট এবং অনিয়ন্ত্রিত ঝুঁকি নিয়ে গবেষণা করছেন পল ক্রিস্টিয়ানো, ওপেনএআই ফাউন্ডেশনের বোর্ডে যোগদান করেছেন এবং মডেল প্রকাশের নিরাপত্তা ও নিরাপত্তা কমিটিতে প্রবেশ করেছেন। এই সময়ে, সম্প্রতি অনেকগুলি এআই এজেন্টের বাহ্যিক কম্পিউটার সিস্টেমে অনধিকারচালিতভাবে প্রবেশের ঘটনার কারণে কোম্পানিটি আবারও নিরাপত্তা প্রক্রিয়ার পুনর্মূল্যায়নের মুখোমুখি।
মডেল প্রকাশের পরীক্ষা প্রক্রিয়ায় অংশগ্রহণ করুন
OpenAI অনুসারে, কার্নেগি মেলন বিশ্ববিদ্যালয়ের অধ্যাপক জেড টোকেন ইস্যুকারী কলটারের নেতৃত্বে এই কমিটি নতুন মডেলগুলির চালুর চূড়ান্ত সিদ্ধান্ত নেয়। OpenAI গত সপ্তাহে নতুন মডেল Astra চালু করেছে, এবং সাম্প্রতিক নিরাপত্তা ঘটনাগুলির কারণে এই কমিটির দায়িত্বগুলির প্রতি আরও বেশি মনোযোগ দেওয়া হচ্ছে।
ক্রিস্টিয়ানো পাবলিকলি বলেছেন যে, তিনি এখন মনে করেন যে এআই ক্ষমতার দ্রুত উন্নতি শীঘ্রই "বিপর্যয়ক এবং অপরিবর্তনীয়" অনিয়ন্ত্রিত ঝুঁকির সৃষ্টি করতে পারে। তিনি বলেছেন যে, বর্তমানে ওপেনএআইসহ সমগ্র এআই শিল্প এই ধরনের ঝুঁকিকে গ্রহণযোগ্য স্তরে নামানোর পথে চলছে না।
মূল প্রশিক্ষণ পদ্ধতি বিকাশে অংশগ্রহণ করেছিলেন
ক্রিস্টিয়ানো ওপেনএআই-এ কাজ করেছিলেন এবং মানুষের প্রতিক্রিয়ার ভিত্তিতে শক্তিশালী শেখার বিকাশে অবদান রেখেছিলেন। এই পদ্ধতি পরবর্তীতে বড় ভাষা মডেল প্রশিক্ষণের একটি গুরুত্বপূর্ণ পথ হয়ে উঠেছিল। ২০২১ সালে ওপেনএআই ছেড়ে তিনি অ্যালাইনমেন্ট রিসার্চ সেন্টার প্রতিষ্ঠা করেন, যেখানে তিনি এখনও এই বিষয়ে গবেষণা করছেন যে কীভাবে বুঝবেন যে AI মডেলগুলি মানুষের নিয়ন্ত্রণের জন্য হুমকির সৃষ্টি করবে কি না।
তিনি মনে করেন, একটি সতর্কতার দিক হলো AI মডেল ব্যবহার করে পরবর্তী প্রজন্মের AI সিস্টেমকে পুনরায় প্রশিক্ষণ দেওয়া। এটি সম্ভবত ক্ষমতা বৃদ্ধির গতি আরও বেড়ে দেবে এবং চূড়ান্তভাবে ডেভেলপারদের নিয়ন্ত্রণের বাইরে চলে যাবে। তিনি আরও উল্লেখ করেন যে, বর্তমানে শক্তিশালী শিক্ষা দ্বারা পরিচালিত AI এজেন্টগুলি উচ্চতর পুরস্কারের জন্য চাইছে, যা সিস্টেমকে মানুষের নিয়ন্ত্রণকে দুর্বল করতে, বেশি সম্পদ অর্জনের জন্য চাইতে এবং নিজেদের আচরণকে লুকিয়ে রাখতে উৎসাহিত করতে পারে।
সরকারি পরামর্শদাতা ভূমিকা একই রাখুন
প্রতিবেদনটি উল্লেখ করে যে, ২০২৪ সাল থেকে ক্রিস্টিয়ানো মার্কিন সরকারের এআই নিরাপত্তা সংস্থার সাথে কাজ করেছেন। এই সংস্থাটি পরবর্তীতে এআই মান এবং উদ্ভাবন কেন্দ্র নামে পরিচিতি পায়, যা মার্কিন সরকারের অগ্রণী এআই মডেলগুলির প্রকাশের আগে মূল্যায়নের কাজে অংশগ্রহণ করে।
ওপেনএআই বলেছে যে তিনি পরিচালনা পর্ষদের সদস্য হিসাবে থাকাকালীনও সরকারকে পরামর্শ দিতে থাকবেন, তবে ওপেনএআই-এর বিষয়াবলী এবং মডেল মূল্যায়নের ক্ষেত্রে তিনি নিজেকে দূরে রাখবেন। তবে, এই ব্যবস্থা বাইরের পক্ষের AI কোম্পানির নীতি প্রণয়নকে প্রভাবিত করার উদ্বেগ দূর করতে পারে এমনটা নিশ্চিত নয়।
অতিরিক্ত তথ্য: ঠিক আগের দিন, এনথ্রোপিকের গবেষক জেকব কক্সন পদত্যাগ করেন এবং তিনি যা অদায়গ্রস্ত এআই উন্নয়নের পদ্ধতি বলেছিলেন, তার বিরুদ্ধে প্রকাশ্যে সমালোচনা করেন, যা দেখায় যে অগ্রণী মডেলের নিরাপত্তা সমস্যা শিল্পের জন্য একটি সাধারণ চাপের বিষয় হয়ে উঠছে।