Apabila model AI mampu secara autonom mencari kelemahan yang manusia lepasi selama 27 tahun, bank-bank cenderung memperhatikan. BNP Paribas, bank terbesar di Eropah berdasarkan aset, kini bekerja sama dengan syarikat AI Perancis, Mistral AI, untuk bersiap menghadapi ancaman keselamatan siber generasi baharu yang didorong oleh sistem AI yang semakin canggih.
Kerjasama ini merupakan tindakan langsung terhadap kemampuan mengkhawatirkan yang ditunjukkan oleh model Mythos Anthropic, yang mencapai kadar kejayaan eksploit 72% semasa pengujian dan berjaya mengenal pasti satu kelemahan dalam OpenBSD yang tidak terdeteksi selama lebih daripada 27 tahun.
Dari eksperimen kepada pertahanan perusahaan
Ini bukan kerjasama melalui panggilan sejuk. BNP Paribas dan Mistral AI telah bekerjasama sejak September 2023, apabila bank tersebut mula menguji model-model Mistral di bahagian Pasaran Global. Pengujian awal ini berkembang menjadi kerjasama menyeluruh di seluruh bank, yang berpuncak kepada perjanjian berbilang tahun yang ditandatangani pada Julai 2024, memberikan akses BNP Paribas kepada semua model Mistral.
Fasa terkini kerjasama itu, yang diumumkan pada 26 Mei, mengalihkan fokus secara tepat kepada keselamatan siber. CIO BNP Paribas, Marc Camus, menekankan semasa konferensi pers bahawa usaha ini tidak hanya terfokus pada pertahanan terhadap Mythos semata-mata. Tujuannya adalah untuk meramal dan mengimbangi ancaman daripada mana-mana model AI canggih yang boleh diwujudkan sebagai senjata terhadap infrastruktur kewangan.
Mistral AI sedang membangun model AI yang khusus berfokus pada keselamatan siber, direka khas untuk bank-bank Eropah. Syarikat ini telah berbincang dengan beberapa institusi kewangan selain BNP Paribas mengenai pelaksanaan teknologi ini.
Mengapa Eropah sedang membina parit AI sendiri
Bank Pusat Eropah telah mengadakan perbincangan dengan bank-bank di seluruh benua untuk mengatasi risiko siber yang digerakkan oleh AI, khususnya yang berkaitan dengan model seperti Mythos.
Pemilihan Mistral AI sebagai rakan kongsi mencerminkan kecenderungan yang semakin meningkat di kalangan institusi Eropah untuk bekerja dengan pembangun AI tempatan daripada bergantung sepenuhnya kepada raksasa teknologi Amerika, serta mengurangkan risiko pematuhan peraturan dan data dengan mengekalkan infrastruktur AI dalam yurisdiksi Eropah.
Apa yang bermaksud ini kepada pelabur
Vektor ancaman telah berubah. Perompakan tradisional bergantung pada kecerdikan dan kesabaran manusia. Pengeksploitasian berkuasa AI beroperasi pada kelajuan dan skala mesin. Kadar kejayaan eksploitasi 72% daripada model AI bermakna pertahanan yang dibina untuk serangan pada kelajuan manusia kemungkinan besar tidak mencukupi.
Mistral AI sedang membina ruang khusus sebagai alternatif Eropah bagi bank-bank yang menginginkan AI canggih tanpa komplikasi peraturan bekerjasama dengan penyedia berbasis AS. Jika beberapa bank Eropah mengambil model keselamatan siber Mistral, ia mencipta kesan rangkaian di mana inteligensiancaman bersama memperkuat pertahanan setiap peserta.