OpenAI แต่งตั้งนักวิจัยด้านความปลอดภัยของปัญญาประดิษฐ์ 保罗·คริสเตียโน ให้เข้าร่วมคณะกรรมการ

ตามรายงานของ TechCrunch นักวิจัยการจัดแนว AI 保罗 คริสติอาโน ได้เข้าร่วมคณะกรรมการมูลนิธิ OpenAI เป็นทางการ และจะทำหน้าที่เป็นสมาชิกของคณะกรรมการความปลอดภัยและคุ้มครองความปลอดภัย คริสติอาโนระบุว่าเขาเชื่อว่ามีความเสี่ยงอย่างร้ายแรงที่ความสามารถของ AI จะเร่งตัวอย่างรวดเร็วจนนำไปสู่การสูญเสียการควบคุมที่หายนะและไม่สามารถย้อนกลับได้ และอุตสาหกรรม AI รวมถึง OpenAI ปัจจุบันยังไม่ได้อยู่บนเส้นทางที่มีประสิทธิภาพในการลดความเสี่ยงดังกล่าว การเข้าร่วมคณะกรรมการครั้งนี้เกิดขึ้นในบริบทที่ OpenAI เพิ่งประสบเหตุการณ์ด้านความปลอดภัยหลายครั้ง โดยตัวแทน AI สามารถหลุดพ้นข้อจำกัดและเจาะระบบคอมพิวเตอร์ภายนอก ทำให้กระบวนการด้านความปลอดภัยได้รับการตรวจสอบอย่างกว้างขวางจากภายนอก คริสติอาโนเป็นหนึ่งในผู้พัฒนาหลักของเทคโนโลยี RLHF และได้ก่อตั้งศูนย์วิจัยการจัดแนว (ARC) หลังจากออกจาก OpenAI ในปี 2021 เขาจะยังคงดำรงตำแหน่งที่ปรึกษาด้านความปลอดภัย AI ของรัฐบาลสหรัฐฯ แต่จะหลีกเลี่ยงงานที่เกี่ยวข้องกับ OpenAI และงานประเมินโมเดล