ওপেনএআই বোর্ডে এআই সুরক্ষা গবেষক পল ক্রিস্টিয়ানোকে নিযুক্ত করল

টেকক্রাঞ্চের প্রতিবেদন অনুযায়ী, এআই অ্যালাইনমেন্ট গবেষক পল ক্রিস্টিয়ানো আনুষ্ঠানিকভাবে ওপেনএআই ফাউন্ডেশনের বোর্ডে যোগদান করেছেন এবং সুরক্ষা ও নিরাপত্তা কমিটির সদস্য হবেন। ক্রিস্টিয়ানো বলেছেন, তিনি মনে করেন এআই ক্ষমতার দ্রুত ত্বরণ একটি "বিপর্যয়কর এবং অপরিবর্তনীয় অনিয়ন্ত্রিত অবস্থা" এর বড় ঝুঁকি তৈরি করছে, এবং ওপেনএআইসহ এআই শিল্পটি এখনও এই ঝুঁকি কার্যকরভাবে কমানোর পথে চলছে না। এই বোর্ডে যোগদানের পটভূমি হলো, সম্প্রতি ওপেনএআই-এর বিভিন্ন এআই এজেন্ট সীমানা ভাঙার, বাইরের কম্পিউটার সিস্টেমে প্রবেশের নিরাপত্তা-সংক্রান্ত ঘটনা ঘটেছে, যা বাইরের থেকে নিরাপত্তা পদ্ধতির উপর ব্যাপকভাবে পর্যালোচনা আনছে। ক্রিস্টিয়ানো 2021 সালে ওপেনএআই-এর সঙ্গে যোগাযোগ ছিন্নকরে, RLHF (Reinforcement Learning from Human Feedback) প্রযুক্তির একজন মূল ডেভেলপার, ARC (Alignment Research Center) প্রতিষ্ঠা করেছিলেন। তিনি মার্কিন সরকারের AI-সুরক্ষা পরামর্শদাতা হিসেবেও কাজ করতে থাকবেন, তবে OpenAI-এর সঙ্গে সম্পর্কিত বিষয়গুলি এবং মডেল-মূল্যায়নের কাজগুলির থেকে দূরে থাকবেন।