Anthropic ปิดกั้นโมเดล Mythos AI เนื่องจากความเสี่ยงด้านความปลอดภัยทางไซเบอร์

ข่าว ME รายงานว่า เมื่อวันที่ 16 เมษายน (UTC+8) โดยการสัมภาษณ์อย่างเปิดเผยกับนักวิจัยทีมแดง ผู้บริหาร และเจ้าหน้าที่รัฐบาลสหรัฐฯ ได้เปิดเผยกระบวนการตัดสินใจอย่างสมบูรณ์ตั้งแต่การค้นพบจนถึงการปิดกั้น นักวิจัยด้านความปลอดภัยของ AI Nicholas Carlini ได้เปิดแล็ปท็อปเพื่อทดสอบ Mythos ซึ่งเพิ่งเปิดให้ตรวจสอบภายในระหว่างเข้าร่วมงานแต่งงานในบาหลีเมื่อเดือนกุมภาพันธ์ และภายในไม่กี่ชั่วโมงก็ค้นพบช่องโหว่หลายช่องทางที่มุ่งเป้าไปยังโครงสร้างพื้นฐานที่ใช้กันอย่างแพร่หลายทั่วโลก หลังกลับไปยังซานฟรานซิสโก เขาพบว่า Mythos สามารถสร้างเครื่องมือโจมตีสำหรับ Linux ได้ด้วยตนเอง โลแกน กราแฮม หัวหน้าทีมแดงชั้นนำกล่าวว่า: “แค่ได้รับโมเดลไม่กี่ชั่วโมง เราก็รู้แล้วว่ามันไม่เหมือนใคร” ความแตกต่างสำคัญคือ รุ่นก่อนหน้า Opus 4.6 สามารถช่วยมนุษย์ในการใช้ช่องโหว่ได้ ในขณะที่ Mythos สามารถดำเนินการใช้ช่องโหว่ทั้งหมดด้วยตนเอง กราแฮมได้เตือนผู้บริหารว่า: “นี่คือความเสี่ยงด้านความมั่นคงแห่งชาติ” เจเรด คาปแลน ผู้ร่วมก่อตั้งและหัวหน้าเจ้าหน้าที่วิทยาศาสตร์กล่าวว่าเขาได้ “เฝ้าระวังอย่างระมัดระวัง” Mythos ตั้งแต่ระยะการฝึกอบรม และเริ่มตระหนักถึงความสามารถในการค้นพบช่องโหว่ของโมเดลนี้ตั้งแต่เดือนมกราคม โดยต้องตัดสินว่าความสามารถเหล่านี้เป็นเพียงสิ่งใหม่ทางเทคนิค หรือเป็น “สิ่งที่เกี่ยวข้องอย่างใกล้ชิดกับโครงสร้างพื้นฐานของอินเทอร์เน็ต” และสรุปว่าเป็นกรณีหลัง ปลายเดือนกุมภาพันธ์ถึงต้นเดือนมีนาคม เขาและ Sam McCandlish ผู้ร่วมก่อตั้งได้รายงานให้ผู้บริหารรวมถึง CEO Dario Amodei และประธาน Daniela Amodei ทราบ และเสนอแนะให้ไม่เปิดตัวอย่างเปิดเผย แต่อนุญาตให้บริษัทภายนอกหรือแม้แต่คู่แข่งทดลองใช้งาน ในสัปดาห์แรกของเดือนมีนาคม บริษัทได้อนุมัติอย่างเป็นทางการให้ Mythos เป็นเครื่องมือป้องกันเครือข่าย รายงานยังเปิดเผยรายละเอียดการทดสอบใหม่ ในการทดสอบรุ่นเริ่มต้นหนึ่งครั้ง โมเดลได้ออกแบบแผนการโจมตีหลายขั้นตอนด้วยตนเอง เพื่อข้ามข้อจำกัดของสภาพแวดล้อมการดำเนินงานและเข้าถึงอินเทอร์เน็ต จากนั้นเริ่มเผยแพร่เนื้อหาออนไลน์ ในการทดสอบที่มีคำสั่งชี้นำ Mythos ได้เขียนโซ่การโจมตีเบราว์เซอร์ที่เชื่อมโยงช่องโหว่สี่ช่องทาง ซึ่งเป็นการดำเนินการที่ยากมากสำหรับแฮกเกอร์มนุษย์เช่นกัน แจ็คสัน จูเนียร์ได้ใช้โมเดลขนาดใหญ่เพื่อช่วยค้นหาช่องโหว่ในซอฟต์แวร์ของตนเองก่อนที่ Mythos จะเปิดตัวอย่างเป็นทางการ โดยเน้นสแกนซัพพลายเชนและองค์ประกอบโอเพ่นซอร์ส ตามแหล่งข่าวที่มีข้อมูล การค้นพบและเขียนโค้ดการใช้งานช่องโหว่ศูนย์วันซึ่งก่อนหน้านี้ใช้เวลาหลายวันถึงหลายสัปดาห์ ตอนนี้สามารถทำได้เร็วที่สุดในไม่กี่นาที CEO Jamie Dimon กล่าวในการประชุมโทรคมนาคมรายงานผลกำไรว่า Mythos “แสดงให้เห็นว่ายังมีช่องโหว่อีกมากที่ต้องแก้ไข” Anthony Grieco หัวหน้าเจ้าหน้าที่ด้านความปลอดภัยและความเชื่อถือของ Cisco กังวลว่าผู้โจมตีอาจใช้ AI เพื่อโจมตีอุปกรณ์เครือข่ายปลายทางที่ไม่มีการบำรุงรักษาอีกต่อไป เนื่องจากอุปกรณ์เหล่านี้จะไม่มีการอัปเดตแพตช์ความปลอดภัยอีกเลย บุคคลหนึ่งที่เข้าใจการประเมินความมั่นคงแห่งชาติของสหรัฐฯ กล่าวว่า การให้นักแฮกเกอร์คนเดียวใช้ Mythos หรือเครื่องมือคล้ายกัน เทียบเท่ากับการยกระดับทหารธรรมดาให้กลายเป็นกองกำลังพิเศษ; กลุ่มแฮกเกอร์อาชญากรรมสามารถใช้มันเพื่อเข้าถึงระดับหน่วยข่าวกรองของประเทศเล็กๆ และประเทศเล็กๆ ก็อาจได้รับความสามารถในการโจมตีทางไซเบอร์ในระดับประเทศใหญ่ Rob Joyce หัวหน้าด้านความปลอดภัยไซเบอร์ของ NSA ก่อนหน้านี้กล่าวว่า: “ผมเชื่อว่า AI ในท้ายที่สุดจะทำให้เราปลอดภัยยิ่งขึ้น แต่ระหว่างตอนนี้จนถึงวันนั้นมีช่วงเวลาที่มืดมน โดยฝ่ายโจมตีจะครองความได้เปรียบอย่างสมบูรณ์ และองค์กรที่ไม่มีพื้นฐานที่มั่นคงจะถูกโจมตีล้มเหลว” (แหล่งที่มา: BlockBeats)