Model AI terbaru Anthropic baru sahaja pergi memburu ralat dalam perisian sumber terbuka. Ia menemui banyak daripadanya.
Claude Mythos Preview, model pengesan kerentanan autonomi syarikat, mengenal pasti lebih daripada 23,000 kerentanan keselamatan berpotensi merentasi lebih daripada 1,000 projek sumber terbuka yang diambil daripada korpus OSS-Fuzz. Daripada jumlah tersebut, 1,726 telah disahkan melalui ulasan luar. Lebih daripada 1,000 daripada bug yang disahkan dinilai sebagai keparahan tinggi atau kritikal.
Ralat berusia puluhan tahun, baru muncul semula
Di antara kelemahan yang ditandai oleh Mythos: kelemahan berusia 27 tahun di OpenBSD dan kelemahan berusia 16 tahun di FFmpeg. Keduanya merupakan komponen penting infrastruktur sumber terbuka yang banyak digunakan.
Lebih daripada 99% kelemahan zero-day yang ditemui oleh Mythos tidak dipaik semasa pengumuman, menurut penilaian model tersebut.
Projek Glasswing dan komitmen sebanyak $100 juta
Anthropic melancarkan Projek Glasswing, sebuah konsorsium terkawal yang memberikan akses kepada pasangan terpilih kepada Mythos Preview supaya mereka dapat mengenal pasti dan memperbaiki kelemahan kritikal dalam perisian mereka sendiri.
Senarai rakan termasuk AWS, Apple, Google, Microsoft, NVIDIA, dan JPMorgan Chase. Anthropic telah berjanji sehingga $100 juta dalam kredit penggunaan model untuk menyokong usaha ini. Di samping itu, lebih daripada $4 juta telah diperuntukkan secara khusus untuk meningkatkan keselamatan projek sumber terbuka.
Dengan meletakkan Mythos di bawah program akses terkawal daripada melepaskannya secara meluas, Anthropic mengekalkan kelebihan milik. Perbincangan sudah beredar mengenai sama ada pengesanan kerentanan serupa boleh dicapai dengan model yang tersedia secara awam.
Apa yang bermaksud ini terhadap landskap keselamatan siber
Mendapati lebih daripada 23,000 kelemahan berpotensi dalam satu pemeriksaan sahaja, dengan lebih daripada 1,000 disahkan sebagai keparahan tinggi atau kritikal, menggerakkan perbincangan dari teori kepada operasi.
1,726 kelemahan yang disahkan masih memerlukan ulasan luar untuk mengesahkan. Mengingat lebih daripada 99% zero-day yang ditemui Mythos tidak dipatch pada masa pengumuman, pembaikan dan penanggulangan tidak mampu mengejar apa yang ditemui oleh AI.