Anthropic Melancungkan Projek Glasswing bernilai $100 juta bersama 12 raksasa teknologi untuk memperbaiki kerentanan perisian global

Penulis: Anthropic

Diterjemahkan: DeepTech Flow

Pengenalan DeepCha: Anthropic telah melancarkan model canggih yang belum dipublikasikan, Claude Mythos Preview, yang kemampuan audit kodnya melebihi kebanyakan pakar keselamatan manusia, mampu mengesan kelemahan zero-day yang telah wujud selama puluhan tahun.

Berdasarkan kemampuan ini, Anthropic bekerjasama dengan AWS, Apple, Google, Microsoft, NVIDIA, dan 12 syarikat teknologi besar lainnya melancarkan inisiatif Project Glasswing, dengan menyediakan kredit sebanyak 100 juta dolar AS, bertujuan untuk memperbaiki kelemahan perisian penting global sebelum penyerang memperoleh kemampuan yang sama.

Hari ini kami mengumumkan Project Glasswing, inisiatif baharu yang menghimpunkan Amazon Web Services (AWS), Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA, dan Palo Alto Networks untuk melindungi keselamatan perisian paling penting di seluruh dunia.

Kami memulai Project Glasswing kerana model canggih baru yang dilatih oleh Anthropic menunjukkan kemampuan yang kami percaya boleh mengubah landskap keselamatan siber. Claude Mythos Preview ialah model canggih generik yang belum dirilis, yang mengungkapkan satu fakta kejam: kemampuan pengkodean model AI telah mencapai tahap di mana ia boleh melampaui semua orang kecuali pakar paling terkemuka dalam menemui dan memanfaatkan lubang kelemahan perisian.

Mythos Preview telah mengesan ribuan lubang keamanan serius, mencakup setiap sistem pengendali utama dan setiap peramban utama. Mengikut kelajuan kemajuan AI, kemampuan ini akan merebak dalam masa yang tidak lama lagi, mungkin jatuh ke tangan pengguna yang tidak bertanggungjawab. Kesannya terhadap ekonomi, keselamatan awam, dan keselamatan negara mungkin sangat serius. Project Glasswing adalah usaha mendesak untuk mengutamakan penggunaan kemampuan ini untuk pertahanan.

Sebagai sebahagian daripada Project Glasswing, rakan kongsi yang disebutkan di atas akan menggunakan Mythos Preview dalam kerja keselamatan pertahanan mereka; Anthropic akan berkongsi pengalaman yang dipelajari supaya seluruh industri dapat memperoleh manfaat. Kami juga telah membuka akses kepada lebih 40 organisasi lain yang membina atau mengekalkan infrastruktur perisian penting, membolehkan mereka memindai dan memperkuat sistem mereka sendiri serta sistem sumber terbuka. Anthropic berkomitmen untuk menyediakan kuota penggunaan Mythos Preview sehingga maksimum US$100 juta, serta derma langsung sebanyak US$4 juta kepada organisasi keselamatan sumber terbuka.

Project Glasswing hanyalah permulaan. Tiada organisasi mana pun yang boleh menyelesaikan masalah keselamatan siber secara berasingan: pembangun AI terkini, syarikat perisian lain, penyelidik keselamatan, pengekalan sumber terbuka, serta kerajaan di seluruh dunia semuanya mempunyai peranan yang tidak boleh digantikan. Membina pertahanan terhadap infrastruktur siber global mungkin memerlukan bertahun-tahun; manakala kemampuan AI terkini mungkin akan melonjak secara besar-besaran dalam beberapa bulan ke depan. Para pertahanan siber mesti bertindak sekarang untuk mendapat keuntungan awal.

Perisian yang kita bergantung setiap hari—yang menjalankan sistem perbankan, menyimpan rekod perubatan, menghubungkan rangkaian logistik, dan mengekalkan operasi grid kuasa—sentiasa mempunyai ralat. Kebanyakan tidak penting, tetapi beberapa adalah kelemahan keselamatan serius yang, apabila ditemui, membolehkan penyerang mengambil alih sistem, mengganggu operasi, atau mencuri data.

Serangan siber telah menunjukkan kesan merosakkan terhadap rangkaian perusahaan, sistem perubatan, infrastruktur tenaga, pusat pengangkutan, serta kerajaan dan agensi di pelbagai negara. Di peringkat global, serangan berskala negara dari China, Iran, Korea Utara, dan Rusia telah mengancam infrastruktur yang menyokong kehidupan awam dan persiapan tentera. Bahkan serangan kecil terhadap satu hospital atau sekolah boleh menyebabkan kerugian ekonomi yang besar, mendedahkan data sensitif, atau bahkan mengancam nyawa. Kerugian ekonomi tahunan akibat jenayah siber global sukar diukur dengan tepat, tetapi mungkin sekitar USD500 bilion.

Dahulu, banyak kecacatan perisian tidak ditemui selama bertahun-tahun kerana mencari dan memanfaatkannya memerlukan pengetahuan khusus yang hanya dimiliki oleh sedikit pakar keselamatan. Tetapi dengan munculnya model AI terkini, kos, usaha, dan rintangan profesional yang diperlukan untuk menemui dan memanfaatkan kelemahan perisian telah berkurang secara besar-besaran. Sepanjang tahun lalu, model AI menjadi semakin cekap dalam membaca dan menalar kod, terutamanya dalam menemui kelemahan dan membina cara pemanfaatan yang menakjubkan. Claude Mythos Preview mencapai lompatan besar dalam kemahiran keselamatan siber ini—ia menemui beberapa kelemahan yang masih bertahan walaupun telah diperiksa oleh manusia selama puluhan tahun dan melalui jutaan ujian keselamatan automatik, sementara kod pemanfaatan yang ia hasilkan menjadi semakin canggih.

Sepuluh tahun selepas DARPA Cyber Grand Challenge yang pertama, model AI canggih sedang mendekati atau bahkan menyamai kemampuan manusia teratas dalam menemui dan memanfaatkan lubang keamanan. Tanpa langkah keselamatan yang diperlukan, kemampuan siber yang kuat ini boleh digunakan untuk memanfaatkan ribuan kelemahan yang wujud dalam perisian paling penting di seluruh dunia. Serangan siber akan menjadi lebih kerap dan lebih merosakkan, serta memberi kuasa kepada lawan negara-negara demokratik. Ini adalah keutamaan keselamatan yang perlu diperhatikan oleh negara-negara demokratik.

Berita baiknya: kemampuan yang membuat model AI berbahaya jika berada di tangan yang salah, juga menjadikannya sangat berharga dalam menemukan dan memperbaiki kelemahan perisian penting—serta membantu menghasilkan perisian baru yang kurang mengandungi ralat keselamatan. Project Glasswing merupakan langkah penting untuk membolehkan pihak pertahanan membina keunggulan berterusan dalam era keselamatan siber yang didorong oleh AI yang akan datang.

Dalam beberapa minggu terakhir, kami menggunakan Claude Mythos Preview untuk mengesan ribuan kelemahan zero-day (cacat yang sebelumnya tidak diketahui oleh pembangun perisian) di setiap sistem operasi utama, setiap pelayar utama, dan sekumpulan perisian penting lainnya, dengan banyak di antaranya merupakan tahap bahaya tinggi.

Di Blog Frontier Red Team, kami mengungkapkan butiran teknikal sebahagian daripada kelemahan yang telah diperbaiki, serta cara pemanfaatan yang ditemui oleh Mythos Preview. Hampir semua kelemahan ini (dan pengembangan banyak cara pemanfaatan berkaitan) ditemui sepenuhnya secara autonom oleh model, tanpa sebarang panduan manusia. Berikut adalah tiga contoh:

• Mythos Preview menemukan kelemahan yang telah wujud selama 27 tahun dalam OpenBSD. OpenBSD terkenal kerana tahap pengukuhan keselamatan yang sangat tinggi dan digunakan secara meluas dalam firewall dan infrastruktur penting lain. Kelemahan ini membolehkan penyerang menyebabkan mesin sasaran gagal secara jarak jauh hanya dengan menyambungkan ke mesin tersebut.
• Ia juga menemui lubang keamanan berusia 16 tahun dalam FFmpeg. FFmpeg digunakan oleh berbilion perisian untuk codec video. Masalahnya berpunca daripada satu baris kod, dan alat ujian automatik telah mengesan baris kod ini sebanyak 5 juta kali, tetapi tidak pernah mengesan masalah tersebut.
• Model ini secara autonom mengesan dan menghubungkan beberapa kelemahan dalam kernel Linux (kernel Linux menjalankan sebahagian besar server di seluruh dunia), mencapai serangan peningkatan kuasa dari kebenaran pengguna biasa kepada kawalan penuh terhadap mesin.

Kami telah melaporkan semua kelemahan ini kepada pengekalan perisian yang berkaitan, dan semuanya telah diperbaiki. Untuk banyak kelemahan lain, kami telah memberikan hash enkripsi terperinci hari ini (lihat blog Red Team), dan maklumat terperinci akan diumumkan selepas pembaikan selesai.

Benchmarks seperti CyberGym juga mengesahkan jurang ketara antara Mythos Preview dan model kedua terkuat kami, Claude Opus 4.6:

Pemulihan lubang keamanan siber - CyberGym

Selain kerja kami sendiri, banyak rakan kongsi juga telah menggunakan Claude Mythos Preview selama beberapa minggu. Berikut adalah maklum balas mereka:

Kemampuan AI telah melintasi ambang batas yang secara mendasar mengubah kegentingan yang diperlukan untuk melindungi infrastruktur penting daripada ancaman siber, dan perubahan ini tidak dapat dipulihkan. Dengan pekerjaan dasar model ini, kami menunjukkan bahawa lubang keamanan dalam peranti keras dan perisian boleh dikenal pasti dan diperbaiki dengan kelajuan dan skala yang belum pernah terjadi sebelumnya. Ini adalah perubahan mendalam dan isyarat yang jelas: kaedah penguatan sistem lama sudah tidak mencukupi. Penyedia teknologi mesti segera mengadopsi kaedah baharu secara aktif, dan pelanggan juga perlu bersedia untuk pelaksanaannya. Inilah sebabnya Cisco menyertai Project Glasswing—kerja ini terlalu penting dan terlalu mendesak untuk dilakukan secara berasingan.

—— Anthony Grieco, Naib Presiden Kanan dan Pegawai Keselamatan dan Kepercayaan Utama Cisco

Di AWS, kami membina pertahanan sebelum ancaman muncul, dari cip tersuai hingga keseluruhan stak teknologi. Keselamatan bukanlah perkara pada satu peringkat tertentu, ia berterusan dan tertanam dalam semua yang kami lakukan. Pasukan kami menganalisis lebih daripada 400 trilion trafik rangkaian setiap hari untuk mengesan ancaman, dan AI adalah inti kemampuan pertahanan berskala besar kami. Kami terus menguji Claude Mythos Preview dalam operasi keselamatan kami sendiri, menggunakannya pada perpustakaan kod penting, dan ia telah membantu kami memperkuat kod. Kami membawa keahlian keselamatan yang mendalam ke dalam kerjasama kami dengan Anthropic, serta membantu memperkuat Claude Mythos Preview supaya lebih banyak organisasi boleh memajukan kerja mereka dengan piawaian keselamatan tertinggi.

—— Amy Herzog, Naibetua dan Pegawai Keselamatan Maklumat Amazon Web Services

Ketika keselamatan maya tidak lagi dibatasi oleh kemampuan manusia semata, peluang untuk menggunakan AI secara bertanggung jawab guna meningkatkan keselamatan dan mengurangkan risiko secara besar-besaran adalah tanpa precedent. Dengan menyertai Project Glasswing dan mendapatkan akses kepada Claude Mythos Preview, kami mampu mengenal pasti dan mengurangkan risiko lebih awal, memperkuat penyelesaian keselamatan dan pembangunan kami, serta melindungi pelanggan dan Microsoft dengan lebih baik. Semasa diuji pada piawaian keselamatan sumber terbuka kami, CTI-REALM, Claude Mythos Preview menunjukkan peningkatan yang signifikan berbanding model sebelumnya. Kami menantikan kerjasama dengan Anthropic dan industri yang lebih luas untuk memperbaiki hasil keselamatan bagi semua orang.

—— Igor Tsyganskiy, Naib Presiden Eksekutif Keselamatan Siber dan Penyelidikan Microsoft

Jendela masa antara penemuan lubang keamanan hingga dimanfaatkan oleh penyerang telah runtuh—apa yang dahulu memerlukan berbulan-bulan, kini boleh diselesaikan dalam beberapa minit dengan AI. Claude Mythos Preview menunjukkan kemungkinan tindakan besar-besaran oleh pihak pertahanan, sementara lawan pasti akan berusaha memanfaatkan kemampuan yang sama. Ini bukan alasan untuk melambatkan langkah, tetapi alasan untuk mempercepat maju bersama. Untuk melaksanakan AI, keselamatan mesti dijamin. Inilah sebabnya CrowdStrike terlibat sejak hari pertama.

—— Elia Zaitsev, Chief Technology Officer, CrowdStrike

Di masa lalu, keahlian keselamatan adalah kemewahan yang hanya boleh dinikmati oleh organisasi dengan pasukan keselamatan yang besar. Pemelihara perisian sumber terbuka—perisian mereka menyokong sebahagian besar infrastruktur kritikal di seluruh dunia—sepanjang masa hanya mampu mencari jalan sendiri untuk menangani masalah keselamatan. Perisian sumber terbuka membentuk sebahagian besar kod dalam sistem moden, termasuk sistem itu sendiri yang digunakan oleh agen AI untuk menulis perisian baru. Dengan memberikan akses kepada pemelihara perpustakaan sumber terbuka kritikal ini kepada model AI generasi baru—yang mampu mengenal pasti dan membaiki lubang keamanan secara aktif dalam skala besar—Project Glasswing memberikan jalan yang praktikal untuk mengubah situasi ini. Inilah cara keselamatan yang diperkaya AI berubah daripada alat eksklusif pasukan besar menjadi pembantu yang boleh dipercayai bagi setiap pemelihara.

—— Jim Zemlin, CEO Linux Foundation

Meningkatkan keselamatan siber dan ketahanan sistem kewangan adalah inti misi JPMorgan Chase, dan kami percaya bahawa industri paling kuat apabila institusi terkemuka bekerjasama menghadapi cabaran bersama. Project Glasswing memberikan peluang awal yang unik untuk kami menilai kemampuan alat AI generasi seterusnya dalam pertahanan siber infrastruktur penting mengikut standard kami, sambil bekerjasama dengan pemimpin teknologi yang dihormati. Kami akan mengambil pendekatan yang teliti dan bebas untuk menentukan cara memajukan dan memberikan bantuan. Inisiatif Anthropic mencerminkan pendekatan proaktif dan kolaboratif yang diperlukan pada masa ini.

— Pat Opet, Ketua Pegawai Maklumat Keselamatan JPMorgan Chase

Google gembira melihat pembentukan inisiatif keselamatan siber antarabangsa ini dan menyediakan Mythos Preview kepada peserta melalui Vertex AI. Kolaborasi industri dalam isu keselamatan yang muncul sentiasa penting, sama ada dalam kriptografi pasca-kuantum, pengungkapan tanggungjawab terhadap kelemahan zero-day, keselamatan perisian sumber terbuka, atau pertahanan terhadap serangan berasaskan AI. Kami sentiasa percaya bahawa AI membawa cabaran dan peluang baharu dalam pertahanan siber, itulah sebabnya kami membina alat-alat berasaskan AI seperti Big Sleep dan CodeMender untuk mengesan dan memperbaiki kecacatan perisian kritikal. Kami akan terus berinvestasi dalam platform keselamatan siber terkemuka dan budaya yang berpusat pada perlindungan pengguna, pelanggan, ekosistem, dan keselamatan negara.

—— Heather Adkins, Timbalan Kejuruteraan Keselamatan Google

Dalam beberapa minggu terakhir, kami telah menggunakan model Claude Mythos Preview untuk mengenal pasti kelemahan kompleks yang sepenuhnya dilalui oleh model generasi sebelumnya. Ini tidak hanya mengubah permainan dalam mengesan kelemahan tersembunyi, tetapi juga bermakna penyerang akan dapat mengesan dan memanfaatkan lebih banyak kelemahan hari-nol dengan lebih pantas daripada sebelum ini. Jelas bahawa model-model ini perlu diberikan kepada pemilik projek sumber terbuka dan semua pihak pertahanan, supaya kelemahan boleh dikenal pasti dan dibaiki sebelum penyerang mendapat akses. Mungkin lebih penting lagi: semua orang perlu bersedia menghadapi penyerang yang dibantu AI. Serangan akan menjadi lebih ramai, lebih pantas, dan lebih kompleks. Sekarang adalah masa untuk meningkatkan sistem keselamatan siber secara menyeluruh. Kami menghargai usaha Anthropic bekerjasama dengan industri untuk memastikan kemampuan kuat ini diutamakan untuk pertahanan.

—— Lee Klarich, Chief Product and Technology Officer, Palo Alto Networks

Claude Mythos Preview memiliki kemampuan keselamatan siber yang kuat, berasal daripada kemampuan pengkodean dan penalaran agen yang luar biasa. Keputusan penilaian berikut menunjukkan bahawa model ini mencapai skor tertinggi di antara semua model yang diketahui dalam pelbagai tugas pengkodean perisian.

Pengkodan agen

Reasoning

Pencarian agen dan penggunaan komputer

Catatan:

• SWE-bench Disahkan, Pro dan Multibahasa: Penapisan pengingat menandai sebahagian soalan. Selepas mengecualikan soalan yang mungkin dipengaruhi oleh pengingat, kelebihan Mythos Preview berbanding Opus 4.6 tetap sama.
• SWE-bench Multimodal: Menggunakan implementasi dalaman, skor tidak boleh dibandingkan secara langsung dengan papan pemimpin awam.
• Terminal-Bench 2.0: Menggunakan kerangka Terminus-2, modus pemikiran adaptif dengan usaha maksimum, anggaran total 1 juta token setiap tugas, sumber daya 1x jaminan / 3x hadas, 5 percubaan setiap tugas dengan purata. Selepas meningkatkan had masa kepada 4 jam dan menggunakan kemas kini Terminal-Bench 2.1, skor Mythos Preview ialah 92.1%.
• BrowseComp: Skor Claude Mythos Preview lebih tinggi daripada Opus 4.6, sementara penggunaan token hanya 1/4.9 daripadanya.
• Ujian Terakhir Manusia: Mythos berprestasi baik dalam mod usaha rendah, mungkin terdapat tahap tertentu penghafalan.

Untuk maklumat lanjut mengenai kemampuan model, atribut keselamatan, dan ciri asasnya, sila rujuk Claude Mythos Preview System Card.

Kami tidak merancang untuk membuka Claude Mythos Preview kepada awam, tetapi matlamat akhir kami ialah membolehkan pengguna melaksanakan model tingkat Mythos secara selamat dalam skala besar—tidak hanya untuk keselamatan siber, tetapi juga untuk banyak nilai lain yang akan dibawa oleh model berkeupayaan tinggi ini. Untuk tujuan ini, kami perlu membuat kemajuan dalam membangunkan langkah-langkah keselamatan siber (dan lain-lain) yang mampu mengesan dan menghalang output paling berbahaya model. Kami merancang untuk menerbitkan langkah-langkah keselamatan baharu dalam model Claude Opus yang akan datang, yang akan membolehkan kami memperbaiki dan menyempurnakan langkah-langkah ini dengan menggunakan model yang tidak mempunyai tahap risiko yang sama seperti Mythos Preview.

Penerbitan hari ini adalah permulaan usaha jangka panjang. Kejayaan memerlukan penyertaan luas dari dalam dan luar industri teknologi.

Rakan Project Glasswing akan mendapat akses kepada Claude Mythos Preview untuk mengenal pasti dan memperbaiki kelemahan dan lubang keamanan dalam sistem asas mereka—sistem yang mewakili sebahagian besar permukaan serangan rangkaian global. Fokus kerja yang dijangkakan termasuk pengesanan kelemahan tempatan, ujian hitam kotak binari, penguatan endpoint, dan ujian penetrasi sistem.

Anthropic menjanjikan 100 juta dolar AS dalam kuota penggunaan model untuk Project Glasswing dan peserta lainnya, yang akan menampung penggunaan besar selama tempoh persembahan penyelidikan. Selepas itu, Claude Mythos Preview akan ditawarkan kepada peserta pada harga $25 / $125 setiap juta token masukan / keluaran (peserta boleh mengakses model ini melalui Claude API, Amazon Bedrock, Google Cloud Vertex AI, dan Microsoft Foundry).

Selain kuota penggunaan model, kami juga menyumbang USD 2,5 juta kepada Linux Foundation untuk Alpha-Omega dan OpenSSF, serta USD 1,5 juta kepada Apache Software Foundation untuk membantu pengekalan perisian sumber terbuka menghadapi perubahan dalam lanskap ini (pengekalan yang berminat boleh mengajukan permohonan untuk akses melalui rancangan Claude for Open Source).

Kami bercadang untuk terus memperluas kerja ini dalam lingkup yang berterusan selama berbulan-bulan, serta berkongsi pengalaman sebanyak mungkin agar organisasi lain boleh menerapkan pengalaman ini kepada keselamatan mereka sendiri. Pasangan akan berkongsi maklumat dan amalan terbaik antara satu sama lain dalam batas yang memungkinkan; dalam tempoh 90 hari, Anthropic akan mengeluarkan laporan awam mengenai penemuan kami, serta kelemahan dan penambahbaikan yang boleh didedahkan. Kami juga akan bekerjasama dengan organisasi keselamatan terkemuka untuk menghasilkan saranan praktikal mengenai perkembangan amalan keselamatan di era AI, yang mungkin merangkumi: proses dedah kelemahan, proses kemas kini perisian, keselamatan sumber terbuka dan rantai bekalan, siklus hidup pembangunan perisian dan amalan reka bentuk keselamatan, piawaian industri yang diatur, penskalaan dan automatik triase, serta automatik pampas.

Anthropic juga terus berbincang dengan pejabat kerajaan Amerika mengenai kemampuan keselamatan siber serangan dan pertahanan Claude Mythos Preview. Melindungi infrastruktur penting adalah keutamaan keselamatan nasional utama negara demokratik—munculnya kemampuan keselamatan siber ini semakin menunjukkan bahawa Amerika Syarikat dan sekutunya perlu mengekalkan keunggulan menentukan dalam teknologi AI. Kerajaan memainkan peranan yang tak tergantikan dalam membantu mengekalkan keunggulan ini, serta menilai dan mengurangkan risiko keselamatan nasional yang berkaitan dengan model AI. Kami bersedia bekerjasama dengan perwakilan kerajaan di semua peringkat untuk membantu menyelesaikan tugas-tugas ini.

Kami berharap Project Glasswing akan mendorong usaha yang lebih besar yang melibatkan industri dan sektor awam, bekerja sama untuk mengatasi isu-isu utama mengenai keselamatan yang ditimbulkan oleh model yang canggih. Kami mengajak ahli lain dalam industri AI untuk menyertai kami dalam menyusun piawaian industri. Dari segi sederhana, sebuah badan pihak ketiga yang bebas—yang mampu menghimpun organisasi sektor swasta dan awam—mungkin menjadi platform ideal untuk meneruskan kerja-kerja besar dalam keselamatan siber ini.

Catatan

1. Projek ini dinamakan berdasarkan kupu-kupu sayap kaca (Greta oto). Metafora ini mempunyai dua maksud: sayap transparan kupu-kupu membolehkannya menjadi tak kelihatan, seperti lubang keamanan yang tersembunyi dalam kod yang dibincangkan dalam artikel ini; sayap transparan juga membantunya mengelakkan kecederaan, sebagaimana kaedah transparan yang kami galakkan.
2. Mythos berasal dari bahasa Greek kuno, bermaksud "naratif" atau "cerita": sistem cerita yang digunakan oleh tamadun untuk memahami dunia.
3. Profesional keselamatan yang terkesan oleh langkah-langkah perlindungan keselamatan ini boleh mengajukan permohonan kepada rancangan pengesahan keselamatan siber yang akan datang (Cyber Verification Program).