บริษัทที่กำลังพัฒนาปัญญาประดิษฐ์ขั้นสูงที่สุดในโลกเพิ่งขอให้ทุกคนชะลอตัวลง อ่านประโยคนี้อีกครั้ง Anthropic ได้เผยแพร่บทความบล็อกในสัปดาห์นี้เตือนว่าปัญญาประดิษฐ์กำลังเข้าใกล้จุดการปรับปรุงตนเองแบบวนซ้ำ ซึ่งคือจุดที่ระบบปัญญาประดิษฐ์ออกแบบ สร้าง และฝึกฝนผู้สืบทอดของตนเองโดยไม่ต้องให้มนุษย์ควบคุมแต่ละขั้นตอน ข้อมูลภายในของพวกเขาเองคือสิ่งที่กระตุ้นให้เกิดการเตือนภัย Claude ตอนนี้เขียนโค้ดมากกว่า 80% ของโค้ดที่ถูกรวมเข้ากับฐานโค้ดของ Anthropic วิศวกรของพวกเขาส่งโค้ดมากกว่า 8 เท่าต่อไตรมาสเมื่อเทียบกับก่อนปี 2025 ไม่ใช่เพราะวิศวกรฉลาดขึ้น แต่เพราะปัญญาประดิษฐ์เป็นผู้ทำงานส่วนใหญ่ ข้อสรุปของ Anthropic: เทคโนโลยีนี้เคลื่อนตัวเร็วกว่าสถาบันที่ถูกออกแบบมาเพื่อควบคุมมัน แนวทางแก้ไขที่เสนอคือการหยุดชั่วคราวอย่างร่วมมือกันทั่วโลก โดยอิงจากข้อตกลงนิวเคลียร์ในยุคสงครามเย็น ต้องมีการยืนยันว่าแล็บชั้นนำทุกแห่งได้หยุดจริง และไม่มีผู้เล่นที่ไม่ดีใช้ช่วงเวลาหยุดนี้เพื่อแอบแซงหน้าอย่างลับๆ ตอนนี้มาถึงจุดที่ผู้ประกาศข่าวทางโทรทัศน์กำลังหลีกเลี่ยง Anthropic ได้ยื่นคำขอ IPO อย่างลับๆ ในสัปดาห์เดียวกับที่บทความนี้เผยแพร่ออกมา ผู้วิพากษ์วิจารณ์เรียกมันว่าการควบคุมโดยหน่วยงานกำกับดูแล เป็นกลยุทธ์เพื่อชะลอคู่แข่งภายใต้กลิ่นอายของข้อความด้านความปลอดภัย แผนเดียวกับที่ Elon Musk ใช้ในปี 2023 เมื่อเขาสนับสนุนจดหมายหยุดชั่วคราวของ Future of Life Institute ในขณะที่สร้าง xAI อยู่เบื้องหลัง บางทีก็เป็นไปได้ หรือบางทีคนที่ใกล้ชิดกับเทคโนโลยีนี้จริงๆ แล้วเชื่อในสิ่งที่พวกเขาพูด ทั้งสองอย่างสามารถเป็นจริงพร้อมกันได้ ความกังวลเรื่องความปลอดภัยและข้อได้เปรียบทางการแข่งขันไม่ได้ขัดแย้งกัน สิ่งที่ไม่สามารถโต้แย้งได้คือข้อมูลที่ซ่อนอยู่ในบทความนี้ ปัญญาประดิษฐ์กำลังเร่งการพัฒนาปัญญาประดิษฐ์อยู่แล้ว คำถามไม่ใช่ว่ามันกำลังเกิดขึ้นหรือไม่ คำถามคือ ข้อตกลงใดๆ การกำกับดูแลใดๆ หรือการหยุดชั่วคราวแบบร่วมมือใดๆ จะสามารถหยุดมันได้จริงหรือไม่ เมื่อเศรษฐศาสตร์ชี้ไปในทิศทางตรงกันข้าม ประวัติศาสตร์บ่งชี้ว่าคำตอบคือไม่สามารถหยุดได้ มงกุฎไม่เคยเป็นประเด็นที่ถูกโต้แย้ง