Anthropic เรียกร้องให้ระงับการพัฒนาปัญญาประดิษฐ์ขั้นสูงในระดับโลก

Odaily星球日报报导，Anthropic บริษัทเรียกร้องห้องปฏิบัติการ AI ชั้นนำต่างๆ พิจารณาชะลอความเร็วในการพัฒนา และระบุว่า ความก้าวหน้าของระบบ AI เร็วมากจนอาจสามารถปรับปรุงตนเองได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์ ซึ่งความสามารถนี้อาจก่อให้เกิดความเสี่ยงทางสังคมอย่างร้ายแรง ข้อมูลภายในของ Anthropic เปิดเผยว่า ประสิทธิภาพของโมเดลขั้นสูงสุดของบริษัทกำลังเพิ่มขึ้นอย่างรวดเร็ว และความก้าวหน้าของโมเดล AI ดูเหมือนกำลังก้าวไปสู่แนวทาง “การปรับปรุงตนเองแบบวนซ้ำ” ซึ่งหมายถึงระบบ AI สามารถปรับปรุงตนเองได้อย่างอิสระโดยไม่ต้องพึ่งมนุษย์ Anthropic ระบุว่า หากทั่วโลกสามารถเลือกชะลอหรือระงับชั่วคราวการวิจัย AI ขั้นสูง เพื่อให้โครงสร้างทางสังคมและการวิจัยที่เกี่ยวข้องสามารถตามทันการพัฒนาทางเทคโนโลยี จะเป็นประโยชน์ต่อโลก Anthropic เสนอให้จัดทำข้อตกลงระดับโลกเพื่อกำหนดวิธีการชะลอความเร็วในการพัฒนา AI และสร้างกลไกตรวจสอบว่าคู่แข่งปฏิบัติตามข้อตกลงหรือไม่