Ketika model AI dapat secara mandiri menemukan bug yang dilewati manusia selama 27 tahun, bank-bank cenderung memperhatikan. BNP Paribas, bank terbesar di Eropa berdasarkan aset, kini bekerja sama dengan perusahaan AI Prancis, Mistral AI, untuk mempersiapkan diri menghadapi ancaman keamanan siber generasi baru yang didorong oleh sistem AI yang semakin canggih.
Kemitraan ini merupakan respons langsung terhadap kemampuan mengkhawatirkan yang ditunjukkan oleh model Mythos dari Anthropic, yang mencapai tingkat keberhasilan eksploitasi 72% selama pengujian dan berhasil mengidentifikasi kelemahan di OpenBSD yang tidak terdeteksi selama lebih dari 27 tahun.
Dari eksperimen hingga pertahanan perusahaan
Ini bukan kemitraan yang dibuat secara mendadak. BNP Paribas dan Mistral AI telah bekerja sama sejak September 2023, ketika bank tersebut mulai menguji coba model-model Mistral di divisi Global Markets-nya. Uji coba awal ini berkembang menjadi keterlibatan di seluruh bank, yang berpuncak pada perjanjian multi-tahun yang ditandatangani pada Juli 2024, memberikan akses BNP Paribas terhadap seluruh model Mistral.
Fase terbaru dari kolaborasi ini, yang diumumkan pada 26 Mei, memfokuskan perhatian secara tegas pada keamanan siber. CIO BNP Paribas, Marc Camus, menekankan selama konferensi pers bahwa upaya ini tidak hanya terfokus pada pertahanan terhadap Mythos semata. Tujuannya adalah untuk memprediksi dan mengatasi ancaman dari model AI canggih mana pun yang dapat diwujudkan sebagai senjata terhadap infrastruktur keuangan.
Mistral AI sedang mengembangkan model AI khusus yang berfokus pada keamanan siber, dirancang khusus untuk bank-bank Eropa. Perusahaan ini telah berdiskusi dengan beberapa lembaga keuangan selain BNP Paribas mengenai penerapan teknologi ini.
Mengapa Eropa sedang membangun moat AI sendiri
Bank Sentral Eropa telah mengadakan diskusi dengan bank-bank di seluruh benua untuk mengatasi risiko siber yang didorong oleh AI, khususnya yang terkait dengan model seperti Mythos.
Pemilihan Mistral AI sebagai mitra mencerminkan semakin meningkatnya preferensi di kalangan institusi Eropa untuk bekerja sama dengan pengembang AI regional daripada mengandalkan secara eksklusif raksasa teknologi Amerika, sehingga mengurangi risiko regulasi dan kepatuhan data dengan menjaga infrastruktur AI tetap dalam yurisdiksi Eropa.
Apa artinya ini bagi para investor
Vektor ancaman telah berubah. Peretasan tradisional mengandalkan kecerdikan dan kesabaran manusia. Eksploitasi berbasis AI beroperasi dengan kecepatan dan skala mesin. Tingkat keberhasilan eksploitasi 72% dari model AI berarti bahwa pertahanan yang dibangun untuk serangan berkecepatan manusia kemungkinan tidak cukup.
Mistral AI sedang membangun ceruk sebagai alternatif Eropa bagi bank-bank yang menginginkan AI canggih tanpa kompleksitas regulasi bekerja dengan penyedia berbasis AS. Jika beberapa bank Eropa mengadopsi model keamanan siber Mistral, hal ini menciptakan efek jaringan di mana intelijen ancaman bersama memperkuat pertahanan setiap peserta.