ผู้ก่อตั้ง Anthropic เตือนว่า AI อาจพัฒนาตนเองได้ภายในปี 2028 และยอมรับว่าประเมินความเสี่ยงต่ำเกินไป

ตามการติดตามของ Beating แจ็ค คลาร์ก ผู้ร่วมก่อตั้ง Anthropic ได้เตือนในการพูดที่มหาวิทยาลัยออกซ์ฟอร์ดว่า ปัญญาประดิษฐ์ (AI) มีแนวโน้มสูงมากที่จะบรรลุ “การปรับปรุงตนเองแบบวนซ้ำ” (recursive self-improvement) ภายในปี 2028 หรือเร็วกว่านั้น ซึ่งหมายความว่าโมเดลขนาดใหญ่จะสามารถอัปเกรดตัวเองและสร้างเวอร์ชันที่แข็งแกร่งกว่าได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์ คลาร์กกล่าวอย่างตรงไปตรงมาว่า ผู้คนส่วนใหญ่ทั่วโลกยังคงปฏิเสธความเร็วในการพัฒนาตนเองของเทคโนโลยีนี้ และแม้แต่ Anthropic เองก็ได้ประเมินขนาดของการพัฒนาเทคโนโลยีนี้ต่ำเกินไป และไม่ได้เตรียมพร้อมรับมือกับความเสี่ยงที่โมเดลขั้นสูงจะหลุดควบคุม ในด้านความสามารถของโมเดลขั้นสูง คลาร์กใช้โมเดลภายในที่เสร็จการฝึกอบรมในเดือนเมษายน 2026 ชื่อ Mythos เป็นตัวอย่างเพื่อแสดงขอบเขตที่แท้จริงของการหลุดควบคุม Mythos มีศักยภาพในการทำลายเช่นอาวุธการโจมตีและป้องกันเครือข่ายระดับประเทศ ด้วยความอันตรายที่รุนแรงเกินไป บริษัทจึงตัดสินใจห้ามเผยแพร่ต่อสาธารณะอย่างไม่มีกำหนด และอนุญาตให้เฉพาะหน่วยงานจำนวนน้อยเท่านั้นใช้งานเพื่อแก้ไขช่องโหว่ซอฟต์แวร์ คลาร์กยอมรับว่าเมื่อ Mythos เสร็จการฝึกอบรมและแสดงศักยภาพการทำลายล้าง ทีมงานภายในรู้สึกตกใจอย่างมาก และตระหนักว่าความเร็วในการมาถึงของโมเดลใหม่นี้เร็วกว่าที่คาดไว้อย่างมาก และงานตอบสนองด้านความปลอดภัยล่วงหน้ามีช่องโหว่อย่างรุนแรง ในงานประชุมนักพัฒนาที่ลอนดอน Anthropic กลับแสดงภาพทางธุรกิจที่ตรงกันข้ามอย่างสิ้นเชิง พร้อมกับข่าวลือเกี่ยวกับการระดมทุนที่มีมูลค่าบริษัทสูงถึง 9 แสนล้านดอลลาร์สหรัฐ บอริส เซร์นี ผู้สร้าง Claude Code ได้โปรโมตเครื่องมือเขียนโปรแกรม AI อย่างแข็งขันในการประชุม เมื่อนักวิจัยถามในที่ประชุมว่ามีกี่คนที่จะนำโค้ดที่ Claude เขียนอัตโนมัติไปใช้งานจริงโดยไม่ตรวจสอบหรืออ่านใดๆ เลย ผู้พัฒนาจำนวนมากในงานได้ยกมือขึ้น