นักวิจัยชาวอังกฤษวัย 27 ปี ซึ่งเคยทำงานด้านการฝึกล่วงหน้าที่ Anthropic ได้ลาออกอย่างเปิดเผย และเตือนว่าการแข่งขันเพื่อสร้างปัญญาประดิษฐ์ที่สามารถปรับปรุงตัวเองแบบวนซ้ำอาจนำไปสู่การสูญพันธุ์ของมนุษย์ก่อนสิ้นสุดทศวรรษนี้
เจคอบ คอกซัน ได้จากไปจากหนึ่งในบริษัทด้านความปลอดภัยของปัญญาประดิษฐ์ที่มีชื่อเสียงที่สุดในโลกประมาณวันที่ 8-9 กันยายน และข้อความลาของเขาไม่ใช่โพสต์บน LinkedIn ที่สุภาพเกี่ยวกับ “บทใหม่ที่น่าตื่นเต้น” แต่เป็นคำเตือนว่า ผู้ที่สร้างระบบเหล่านี้เชื่ออย่างแท้จริงว่าพวกเขาอาจก่อให้เกิดผลลัพธ์ที่หายนะ และระยะเวลาที่สถานการณ์จะหลุดควบคุมอาจเกิดขึ้นเร็วถึงปีหน้า
การแจ้งเตือนจากผู้ภายใน
สิ่งที่ทำให้การลาออกของคอคซอนยากที่จะมองข้ามคือสิ่งที่เกิดขึ้นต่อมา เพื่อนร่วมงานของเขาที่แอนธร์โพลิกเริ่มเห็นด้วยกับเขาอย่างเปิดเผย
อีวาน ฮูบิงเกอร์ ผู้ถือตำแหน่งหัวหน้าวิทยาศาสตร์การจัดตำแหน่งที่ Anthropic ได้สนับสนุนข้ออ้างของคอคซอนบนโซเชียลมีเดีย ประมาณการส่วนตัวของเขา: มีโอกาสมากกว่า 10% ที่ปัญญาประดิษฐ์จะนำไปสู่การเสียชีวิตของมนุษย์จำนวนมากภายในอีกสิบปีข้างหน้า
ฮูบิงเกอร์ไปไกลกว่านั้น โดยยอมรับว่า Anthropic ไม่มีแผนที่ชัดเจนในการรับประกันความสอดคล้องกับระบบปัญญาประดิษฐ์ระดับซูเปอร์อัจฉริยะ
แซมูเอล มาร์กส์ นักวิจัยจาก Anthropic อีกคนหนึ่ง ได้แสดงความกังวลในลักษณะเดียวกัน โดยชี้ว่าพนักงานระดับสูงภายในบริษัทกังวลเป็นพิเศษเกี่ยวกับความเสี่ยงที่อาจนำไปสู่การสูญพันธุ์
คอクซันวิพากษ์วิจารณ์การใช้คำว่า “ครันชไทม์” และ “เอนด์เกม” ในวงการพัฒนาปัญญาประดิษฐ์ คำเหล่านี้ทำให้การแสวงหาปัญญาประดิษฐ์ระดับเหนือมนุษย์ดูเหมือนเป็นสิ่งเร่งด่วนและหลีกเลี่ยงไม่ได้ เป็นการแข่งขันที่ต้องชนะ มากกว่าความเสี่ยงที่ต้องจัดการ การตั้งกรอบแบบนี้ เขากล่าวว่า เป็นส่วนหนึ่งของปัญหา
รูปแบบการออก
คอクซันไม่ใช่ผู้วิจัยที่เน้นความปลอดภัยคนแรกที่ลาออกจากแอนทรโอพิกด้วยความกังวลเกี่ยวกับทิศทางของบริษัท คุณมรินังค์ ชาร์มา หัวหน้าทีมวิจัยด้านความปลอดภัยของบริษัท ได้ลาออกในเดือนกุมภาพันธ์ 2026 ชาร์มาชี้ให้เห็นถึงอันตรายที่เพิ่มขึ้นจาก AI และอาวุธชีวภาพ โดยอ้างถึงแรงกดดันภายนอกที่เขาบอกว่ากำลังทำลายจริยธรรมของบริษัท
ความขัดแย้งนั้นหนาแน่นมาก แอนธร์โพลิกถูกก่อตั้งโดยบุคลากรที่เคยทำงานที่ OpenAI รวมถึงซีอีโอ ดาเรียโอ อามอเดีย อย่างเฉพาะเจาะจงเพราะพวกเขาเชื่อว่า OpenAI ไม่ได้ให้ความสำคัญกับความปลอดภัยเพียงพอ มันถูกสร้างขึ้นมาเพื่อเป็นทางเลือกที่เน้นความปลอดภัยเป็นอันดับแรก แต่ตอนนี้นักวิจัยด้านความปลอดภัยของตัวมันเองกลับลาออก เพราะพวกเขาคิดว่าแอนธร์โพลิกไม่ได้ให้ความสำคัญกับความปลอดภัยเพียงพอ
การแข่งขันเป็นตัวเร่งปฏิกิริยา
คำเตือนของคอคซันระบุโดยเฉพาะว่า การแข่งขันจากต่างประเทศเป็นปัจจัยที่ทำให้สถานการณ์เลวร้ายลง แรงกดดันในการตามให้ทันคู่แข่ง โดยเฉพาะห้องปฏิบัติการปัญญาประดิษฐ์ของจีน สร้างสภาพแวดล้อมที่การชะลอตัวเพื่อให้มั่นใจในความปลอดภัยรู้สึกเหมือนการปลดอาวุธฝ่ายเดียว