Paus Leo dan ECB Memperingatkan Ancaman AI terhadap Sistem Keuangan

• Paus Leo telah memperingatkan tentang ancaman yang ditimbulkan oleh sistem AI yang berada di luar jangkauan manusia.
• ECB telah mengundang bank-bank untuk mengadakan pertemuan mengenai ancaman yang ditimbulkan oleh sistem AI.
• Mythos mengekspos kelemahan keamanan siber di peramban dan sistem operasi.

Penyebaran kecerdasan buatan (AI) di berbagai sektor siber semakin menjadi masalah yang sangat diperhatikan, terutama ketika dikaitkan dengan risiko. Pada hari Senin, Paus Leo, kepala saat ini dari Gereja Katolik dan penguasa Kota Vatikan, menyampaikan kekhawatiran atas tren yang sedang berlangsung.

Dalam komentarnya, Paus memperingatkan bahwa beberapa sistem otonom “secara praktis berada di luar jangkauan manusia” untuk dikendalikan. Ia mencatat bahwa Gereja Katolik berniat bekerja sama dengan pengembang AI untuk membahas cara terbaik menggunakan teknologi ini, dengan menyatakan bahwa manusia harus tetap mempertahankan kendali utama atas sistem AI.

Waktu peringatan Paus mengenai risiko yang mengelilingi sistem otonom sejalan dengan undangan dari Bank Sentral Eropa (ECB) kepada bank-bank di bawah yurisdiksinya, yang menyerukan pertemuan untuk membahas cara memperkuat sistem keamanan siber. Menurut laporan, pertemuan tersebut menjadi perlu menyusul kelemahan dalam infrastruktur perbankan yang diungkap oleh model AI baru.

Meskipun pertemuan telah dijadwalkan untuk Selasa, 26 Mei, ECB mendesak tindakan yang lebih cepat dalam meningkatkan keamanan TI organisasi peminjam. Menurut laporan, Frank Elderson, wakil ketua dewan pengawas ECB yang mengawasi bank, menggambarkan situasi saat ini sebagai perkembangan yang “mengubah permainan.” Elderson mencatat bahwa ECB ingin bank-bank mempertimbangkan situasi ini dengan serius, menyatakan bahwa “waktu terus berjalan.”

Perlu dicatat bahwa model Mythos AI diluncurkan pada bulan April dan dilaporkan memiliki kemampuan tingkat tinggi dalam menemukan dan memanfaatkan kelemahan keamanan siber di peramban dan sistem operasi. Munculnya Mythos memicu kekhawatiran luas mengenai ancaman yang ditimbulkannya, bersama dengan model serupa lainnya.

Terkait: ECB Menolak Usulan untuk Meningkatkan Stablecoin Euro, Mengatakan Terlalu Berisiko

Keamanan AI adalah prioritas

Meskipun ECB sudah sibuk dengan berbagai masalah keamanan siber lainnya, Elderson menyatakan bahwa perkembangan terkait model AI, terutama kecepatan kemajuanannya, perlu ditangani lebih cepat.

Sementara itu, beberapa bank besar di AS, termasuk JPMorgan Chase, Goldman Sachs, Citigroup, Bank of America, dan Morgan Stanley, telah diberikan akses preview terkendali ke Mythos. Tidak ada bank Eropa yang diberikan akses ke Mythos sejak waktu penulisan. Namun, ECB berharap terjadi kolaborasi antara pemberi pinjaman AS dan Eropa mengenai masalah ini. ECB juga berpendapat bahwa bank-bank di yurisdiksinya perlu bersiap menghadapi ancaman yang ditimbulkan oleh Mythos dan solusi serupa lainnya.

Terkait: ECB Menetapkan Syarat untuk Tokenisasi di Pasar Modal Eropa