Anthropic กล่าวว่าโลกควรมีตัวเลือกในการชะลอหรือระงับชั่วคราวการพัฒนา AI ระดับหน้าผา หากห้องปฏิบัติการ AI ชั้นนำและรัฐบาลสามารถสร้างวิธีการที่น่าเชื่อถือในการตรวจสอบว่าทุกคน tuân thủ
ใน รายงาน ใหม่จากสถาบัน Anthropic บริษัทระบุว่าการระงับชั่วคราวอาจช่วยให้ผู้กำหนดนโยบาย นักวิจัย และสังคมพลเมืองมีเวลาเพิ่มเติมในการรับมือกับความเสี่ยงที่เกี่ยวข้องกับระบบ AI ที่มีความสามารถสูงขึ้นเรื่อยๆ แต่บริษัทเตือนว่าการชะลอตัวจะช่วยเพิ่มความปลอดภัยได้ก็ต่อเมื่อการชะลอตัวนี้ครอบคลุมห้องปฏิบัติการหลายแห่งที่มีทรัพยากรเพียงพอและอยู่ที่หรือใกล้ขอบเขต
Anthropic กล่าวว่าการระงับอย่างไม่เป็นทางการโดยบริษัทหนึ่งจะง่ายต่อการดำเนินการแต่มีประสิทธิภาพน้อยกว่ามาก เพราะอาจทำให้ผู้เล่นที่ระมัดระวังน้อยกว่าได้เปรียบ บริษัทระบุว่าการระงับที่มีความหมายใดๆ จะต้องมีนักพัฒนาในหลายประเทศหยุดทำงานภายใต้เงื่อนไขเดียวกันและยืนยันว่าคู่แข่งก็ได้หยุดเช่นกัน
คำเตือนนี้เกิดขึ้นขณะที่ Anthropic ระบุว่าระบบปัญญาประดิษฐ์กำลังเร่งการพัฒนาโมเดลปัญญาประดิษฐ์ใหม่ๆ แล้ว นับตั้งแต่เดือนพฤษภาคม 2026 โค้ดมากกว่า 80% ที่ถูกรวมเข้ากับฐานโค้ดของ Anthropic ถูกเขียนโดย Claude เพิ่มขึ้นจากตัวเลขหลักเดียวก่อนที่ Claude Code จะเปิดให้ใช้งานในรูปแบบการทดลองวิจัยในเดือนกุมภาพันธ์ 2025
บริษัทระบุว่าวิศวกรของ Anthropic โดยทั่วไปได้ผสานโค้ดมากกว่าแปดเท่าต่อวันในไตรมาสที่สองของปี 2026 เมื่อเทียบกับปี 2024 การสำรวจภายในเดือนมีนาคม 2026 ยังพบว่าทีมวิจัยที่ใช้ Mythos Preview ประเมินว่าพวกเขากำลังผลิตผลงานประมาณสี่เท่าของปริมาณที่จะผลิตได้หากไม่มีโมเดลปัญญาประดิษฐ์
Anthropic กล่าวว่าผลลัพธ์เหล่านี้ชี้ให้เห็นถึงการเปลี่ยนแปลงในวงกว้างเกี่ยวกับวิธีการสร้างระบบ AI ขั้นสูง วิศวกรและนักวิจัยมนุษย์ยังคงตั้งเป้าหมาย ทบทวนผลลัพธ์ และตัดสินใจว่าปัญหาใดมีความสำคัญ แต่ Claude กำลังรับผิดชอบงานในการดำเนินการมากขึ้นในด้านการเขียนโค้ด การทดสอบ การดีบัก และการปรับปรุงการทดลอง
บริษัทอธิบายแนวโน้มนี้ว่าเป็นขั้นตอนแรกสู่การปรับปรุงตนเองแบบวนซ้ำ ซึ่งเป็นสถานการณ์ที่ระบบปัญญาประดิษฐ์สามารถออกแบบและพัฒนาผู้สืบทอดของตนเองได้อย่างอิสระ Anthropic ระบุว่าระบบดังกล่าวยังไม่มีอยู่จริงและอาจไม่หลีกเลี่ยงได้ แต่เตือนว่าอาจเกิดขึ้นเร็วกว่าที่สถาบันส่วนใหญ่จะเตรียมตัวไว้
หากเกิดเหตุการณ์นี้ขึ้น Anthropic ระบุว่า ความเร็วในการพัฒนาปัญญาประดิษฐ์อาจเชื่อมโยงอย่างใกล้ชิดกับการเข้าถึงทรัพยากรการคำนวณและการเพิ่มประสิทธิภาพ ขณะที่มนุษย์จะเปลี่ยนไปเน้นที่การกำกับดูแล การตรวจสอบ และการยืนยัน ซึ่งจะทำให้ระบบใช้ในการติดตามการพัฒนาปัญญาประดิษฐ์ระดับ前沿 มีความสำคัญมากยิ่งขึ้น โดยเฉพาะหากแบบจำลองปัญญาประดิษฐ์เริ่มมีบทบาทมากขึ้นในการสร้างเวอร์ชันถัดไปของตัวเอง
Anthropic กล่าวว่าความท้าทายคือการตรวจสอบการหยุดชั่วคราวในการพัฒนาปัญญาประดิษฐ์นั้นยากกว่าการตรวจสอบเทคโนโลยีอื่นๆ หลายประเภท การฝึกอบรมสามารถซ่อนไว้ได้ อินพุตของมันมีจุดประสงค์ทั่วไป และแรงจูงใจในการละเมิดอย่างเงียบๆ จะสูงมากหากผู้เล่นหนึ่งรายสามารถได้เปรียบขณะที่ผู้อื่นหยุดลง
บริษัทกล่าวว่าการหยุดชั่วคราวที่น่าเชื่อถือจะต้องมีกฎเกณฑ์ที่ชัดเจนเกี่ยวกับสิ่งที่กระตุ้นการหยุดชั่วคราว สิ่งที่ยุติการหยุดชั่วคราว และผู้ใดเป็นผู้ตัดสินว่าเงื่อนไขต่างๆ ได้รับการปฏิบัติตามแล้ว บริษัทเปรียบเทียบความท้าทายนี้กับระบบควบคุมอาวุธสำหรับเทคโนโลยีที่ซับซ้อนอื่นๆ ในขณะที่ชี้ให้เห็นว่าระบบที่เหล่านั้นใช้เวลาหลายทศวรรษในการสร้าง และปัญญาประดิษฐ์อาจไม่ได้ให้เวลาภาครัฐมากนัก
Anthropic กล่าวว่ามีแผนจัดการสนทนาในเดือนข้างหน้ากับผู้กำหนดนโยบาย นักวิจัย ภาคประชาสังคม และบริษัท AI อื่นๆ เพื่อพิจารณาการปรับปรุงตนเองแบบวนซ้ำและกลไกการประสานงานที่เป็นไปได้สำหรับการพัฒนา AI ระดับหน้าสุด
บริษัทระบุว่าจะคาดหวังให้ชะลอหรือระงับการพัฒนาชั่วคราว หากนักพัฒนาด้านหน้าอื่นๆ ก็ดำเนินการเช่นเดียวกันอย่างสามารถยืนยันได้