โมเดล AI ล่าสุดของ Anthropic เพิ่งออกไปค้นหาบั๊กในซอฟต์แวร์โอเพ่นซอร์ส และพบบั๊กจำนวนมาก
Claude Mythos Preview แบบจำลองตรวจจับช่องโหว่แบบอัตโนมัติของบริษัท พบช่องโหว่ด้านความปลอดภัยที่เป็นไปได้มากกว่า 23,000 ช่องโหว่ในโครงการโอเพ่นซอร์สกว่า 1,000 โครงการที่ดึงมาจากชุดข้อมูล OSS-Fuzz โดยมี 1,726 ช่องโหว่ได้รับการยืนยันผ่านการทบทวนจากภายนอก และช่องโหว่ที่ยืนยันแล้วมากกว่า 1,000 ช่องโหว่มีระดับความรุนแรงสูงหรือวิกฤต
ข้อผิดพลาดที่มีมานานหลายทศวรรษ กลับปรากฏขึ้นอีกครั้ง
ในจำนวนช่องโหว่ที่ Mythos ระบุ: ช่องโหว่ด้านความปลอดภัยอายุ 27 ปีใน OpenBSD และช่องโหว่อายุ 16 ปีใน FFmpeg ทั้งสองเป็นส่วนประกอบพื้นฐานที่ใช้กันอย่างแพร่หลายในโครงสร้างพื้นฐานแบบโอเพนซอร์ส
ตามการประเมินของโมเดล มากกว่า 99% ของช่องโหว่ศูนย์วันที่ค้นพบโดย Mythos ยังไม่ได้รับการแก้ไขเมื่อเปิดเผย
โปรเจกต์ Glasswing และการให้คำมั่นจำนวน 100 ล้านดอลลาร์
Anthropic เปิดตัว Project Glasswing ซึ่งเป็นคอนเซอร์เทียมที่ควบคุม เพื่อให้พันธมิตรที่ได้รับเลือกเข้าถึง Mythos Preview เพื่อระบุและแก้ไขช่องโหว่ที่ร้ายแรงในซอฟต์แวร์ของตนเอง
รายชื่อพันธมิตรประกอบด้วย AWS, Apple, Google, Microsoft, NVIDIA และ JPMorgan Chase Anthropic ได้ให้คำมั่นว่าจะจัดสรรเครดิตการใช้งานโมเดลสูงสุด 100 ล้านดอลลาร์สหรัฐเพื่อสนับสนุนความพยายามนี้ นอกเหนือจากนั้น มีเงินมากกว่า 4 ล้านดอลลาร์สหรัฐที่ถูกจัดสรรโดยเฉพาะเพื่อเสริมความปลอดภัยให้กับโครงการโอเพ่นซอร์ส
โดยการจำกัดการเข้าถึง Mythos ผ่านโปรแกรมที่มีการควบคุมแทนการเปิดตัวอย่างกว้างขวาง Anthropic จึงรักษาข้อได้เปรียบเชิงทรัพย์สินไว้ การอภิปรายต่างๆ กำลังเกิดขึ้นเกี่ยวกับว่าการตรวจจับช่องโหว่ในลักษณะเดียวกันนี้สามารถทำได้ด้วยโมเดลที่มีให้ใช้งานอย่างเปิดเผยหรือไม่
สิ่งนี้หมายถึงอะไรต่อภูมิทัศน์ด้านความมั่นคงปลอดภัยทางไซเบอร์
การค้นพบช่องโหว่ที่เป็นไปได้มากกว่า 23,000 ช่องโหว่ในครั้งเดียว โดยมีมากกว่า 1,000 ช่องโหว่ยืนยันว่ามีระดับความรุนแรงสูงหรือวิกฤต ทำให้การพูดคุยเปลี่ยนจากเชิงทฤษฎีเป็นเชิงปฏิบัติ
ช่องโหว่ที่ยืนยันแล้ว 1,726 ช่องโหว่ยังต้องการการทบทวนจากภายนอกเพื่อยืนยัน เนื่องจากมากกว่า 99% ของช่องโหว่ศูนย์วันที่ Mythos ค้นพบยังไม่ได้รับการแก้ไขเมื่อเปิดเผย การอัปเดตและการแก้ไขจึงยังตามไม่ทันสิ่งที่ AI ค้นพบ