นักวิจัยจาก Anthropic ได้ลาออกอย่างเปิดเผยและเตือนเกี่ยวกับโมเดล AI ที่สามารถปรับปรุงตัวเองได้ ขณะที่ตัวแทน AI ของ OpenAI และ Anthropic เพิ่งถูกเปิดเผยว่าเคยเชื่อมต่อกับเครือข่ายภายนอกในระหว่างการทดสอบ ทำให้ความกังวลเกี่ยวกับการสูญเสียการควบคุมด้านความปลอดภัยในอุตสาหกรรมยิ่งเพิ่มขึ้น
ผู้ลาออกได้เผยแพร่คำเตือน
ตามรายงานของ TechCrunch นักวิจัยที่ลาออก Coxon ได้กล่าวบน X ว่า บริษัทปัญญาประดิษฐ์กำลังเร่งเดินหน้าสู่การพัฒนาสู่ปัญญาเหนือมนุษย์ที่สามารถปรับปรุงตัวเองได้ โดยการแข่งขันนี้กำลัง “เสี่ยงกับชีวิตของทุกคน” เขาเชื่อว่า เมื่อโมเดลสามารถปรับปรุงตัวเองอย่างต่อเนื่องได้ มนุษย์อาจสูญเสียการควบคุม
คอكسันยังระบุว่า นักพัฒนาจำนวนมากในอุตสาหกรรมไม่ได้ละเลยความเสี่ยงเหล่านี้อย่างเปิดเผย ตามที่เขาพูด ห้องปฏิบัติการบางแห่งรู้ดีว่าความเสี่ยงสูงมาก แต่ยังคงดำเนินการต่อไปเนื่องจากแรงกดดันจากการแข่งขัน โดยอ้างว่าถ้าพวกเขาไม่ทำ บริษัทอื่นก็จะทำ
การทดสอบเหตุการณ์การรั่วไหลก่อให้เกิดความกังวล
การลาออกครั้งนี้เกิดขึ้นในช่วงที่ความขัดแย้งด้านความปลอดภัยของ AI กำลังทวีความรุนแรงขึ้น รายงานระบุว่า ช่วงไม่นานมานี้มีเหตุการณ์หลายครั้งที่ตัวแทน AI ข้ามขอบเขตการทดสอบและเข้าถึงอินเทอร์เน็ตแบบเปิด
หนึ่งในเหตุการณ์ที่ได้รับความสนใจมากที่สุดคือ ระบบของ OpenAI ถูกกล่าวหาว่าละเมิดสภาพแวดล้อมเซิร์ฟเวอร์ของ Hugging Face นักวิจัยระบุว่า เหตุการณ์นี้ยังขาดการสอบสวนอย่างเป็นอิสระอย่างเพียงพอ ในขณะเดียวกัน ตัวแทน AI ของ Anthropic ก็เคยได้รับการเข้าถึงเครือข่ายภายนอกเนื่องจากข้อผิดพลาดในการตั้งค่าการประเมินความปลอดภัยจากบุคคลที่สาม ทำให้สามารถเข้าถึงระบบนอกเหนือจากสภาพแวดล้อมการทดสอบ
การตอบรับจากคู่แข่งและการผลักดันทางกฎหมาย
นักวิจัยจาก Anthropic ชื่อ Evan Hubinger ก็มีมุมมองที่คล้ายกัน เขาระบุว่าทีมงานจริงจังกับความเป็นไปได้ที่ AI อาจก่อให้เกิดความเสี่ยงร้ายแรงต่อมนุษยชาติทั้งหมด และให้ความน่าจะเป็นที่ผลลัพธ์ดังกล่าวจะเกิดขึ้นภายในสิบปีข้างหน้าสูงกว่า 10% เขายังยอมรับว่า Anthropic ขณะนี้ยังไม่มีแนวทางที่ชัดเจนในการแก้ไขปัญหาการจัดแนวของปัญญาประดิษฐ์ระดับซูเปอร์อัจฉริยะ
เกี่ยวกับความนิยมในการเริ่มต้นธุรกิจที่เน้น “การปรับปรุงตนเองแบบวนซ้ำ” ก็กำลังเพิ่มขึ้นเช่นกัน รายงานระบุว่า Ricursive Intelligence ระดมทุนได้ 3.35 พันล้านดอลลาร์สหรัฐในเดือนกุมภาพันธ์ปีนี้ โดยมีมูลค่าบริษัทอยู่ที่ 40 พันล้านดอลลาร์สหรัฐ; Recursive Superintelligence ตามมาด้วยการระดมทุน 6.5 พันล้านดอลลาร์สหรัฐ โดยมีมูลค่าบริษัทเท่ากันที่ 40 พันล้านดอลลาร์สหรัฐ อดีตผู้เชี่ยวชาญระดับสูงจาก Google DeepMind Jeff Dean ก็ได้เปิดตัว Discovery Loop เมื่อเดือนที่แล้ว
ในระดับนโยบาย สหรัฐอเมริกาและสหราชอาณาจักรเมื่อเร็วๆ นี้ต่างมีการเคลื่อนไหวทางกฎหมายเกี่ยวกับปัญญาประดิษฐ์ระดับซูเปอร์อัจฉริยะ วุฒิสมาชิกสหรัฐ Bernie Sanders และสมาชิกสภาผู้แทนราษฎร Greg Casar ได้เสนอร่างกฎหมาย “ห้ามปัญญาประดิษฐ์ซูเปอร์อัจฉริยะ” ในขณะที่สมาชิกพรรคแรงงานของสหราชอาณาจักร Alex Sobel ก็ได้เสนอร่างกฎหมาย “ความปลอดภัยของปัญญาประดิษฐ์ซูเปอร์อัจฉริยะ” ในรัฐสภา รายงานระบุว่าร่างกฎหมายของสหราชอาณาจักรได้พิจารณาว่าการปรับปรุงตนเองแบบวนซ้ำเป็นขั้นตอนเบื้องต้นที่ต้องมีการกำกับดูแลและหยุดยั้ง