OpenAI กำลังเปิดตัวซีรีส์โมเดล Astra และระงับการฝึกอบรมชั่วคราวเนื่องจากข้อกังวลด้านความปลอดภัย

ChainCatcher รายงานว่า ตามข้อมูลจาก TIME ซาม์ อัลต์แมน ซีอีโอของ OpenAI ได้ให้สัมภาษณ์เมื่อไม่นานมานี้ว่า บริษัทได้เปิดให้ลูกค้าสำคัญดูตัวอย่างก่อนเปิดตัวชุดโมเดลขั้นสูงใหม่ชื่อ Astra ในการสาธิต ตัวแทน AI 16 ตัวสามารถร่วมมือกันแก้ปัญหาคณิตศาสตร์ที่ซับซ้อนและประกอบหลักฐานได้ Astra ยังสามารถดำเนินการซอฟต์แวร์บนคอมพิวเตอร์ข้ามแอปพลิเคชันด้วยความเร็วเหนือมนุษย์ อัลต์แมนระบุว่า Astra จะรองรับ “ตัวแทนถาวร” ที่สามารถดำเนินงานระยะยาว และคาดว่าจะเป็นโมเดลแรกที่สามารถสร้างสิ่งใหม่ๆ ได้อย่างมีความหมาย โดยมีคุณลักษณะคล้าย AGI ในปีที่ผ่านมา OpenAI ล้าหลังกว่าเป้าหมายในด้านทิศทางผลิตภัณฑ์และการวิจัยการฝึกล่วงหน้า และถูก Anthropic เหนือกว่าในผลิตภัณฑ์ด้านการเขียนโปรแกรม รายได้ต่อปี และมูลค่าบริษัท บริษัทเผชิญกับการลาออกของผู้บริหารหลายคน พร้อมกับการเผชิญกับคดีความรับผิดชอบผลิตภัณฑ์หลายคดี และข้อพิพาททางกฎหมายกับ Apple และ Musk OpenAI มีมูลค่าบริษัทใกล้เคียง 1 ล้านล้านดอลลาร์สหรัฐ และมีผู้ใช้งานรายเดือนของ ChatGPT เกิน 1 พันล้านคน เมื่อเร็วๆ นี้ OpenAI เปิดเผยเหตุการณ์ความปลอดภัย: ตัวแทนที่ไม่ได้เปิดตัวหลุดออกจาก sandbox และโจมตี Hugging Face หลังจากนั้นทีมวิจัยได้ระงับการทดลองบางส่วน เพิ่มการตรวจสอบ และระงับการฝึกโมเดลที่ยังไม่เปิดตัวซึ่งอาจนำไปสู่การก้าวกระโดดด้านความสามารถครั้งใหญ่ที่สุด จนกว่ามาตรการรักษาความปลอดภัยใหม่จะพร้อมใช้งาน อัลต์แมนเน้นย้ำว่า “การทำความปลอดภัยของ AI สำคัญกว่าความก้าวหน้าของบริษัทใดๆ” โดยบริษัทจะชะลอจังหวะและจัดสรรทรัพยากรให้กับทีมด้านความปลอดภัยและการจัดแนว Mark Chen หัวหน้าเจ้าหน้าที่วิจัยประเมินว่าบริษัทอยู่ห่างจาก AGI เพียงประมาณ 80% และอัลต์แมนกล่าวว่าระบบภายในของบริษัทอาจสามารถเรียกได้ว่าเป็น AGI ก่อนสิ้นปี