TechCrunch melaporkan bahwa AI generatif sedang mendorong masalah keamanan perusahaan ke posisi yang lebih penting. Chief Operating Officer Google Cloud, Francis de Souza, menyatakan dalam sebuah acara bahwa saat perusahaan menerapkan AI, mereka tidak boleh menunda keamanan atau menyerahkannya kepada karyawan secara individu. Menurutnya, strategi AI harus dikembangkan secara bersamaan dengan strategi data dan strategi keamanan.
Artikel tersebut menunjukkan bahwa penilaian ini sendiri bukan hal baru, tetapi risikonya menjadi lebih cepat terungkap setelah alat AI masuk dengan cepat ke dalam proses perusahaan. de Souza secara khusus menyebut masalah "AI bayangan", yaitu karyawan menghindari tata kelola perusahaan dan langsung menggunakan alat AI yang ditujukan untuk individu. Tindakan ini membuat perusahaan sulit melakukan audit terpadu, pengendalian izin, dan manajemen data.
Permukaan serangan tidak lagi hanya di jaringan tradisional
de Souza percaya bahwa model pertahanan lama sudah tidak lagi sejalan dengan kecepatan saat ini. Artikel mengutip pernyataannya bahwa rata-rata jangka waktu antara sistem pertama kali diretas hingga serangan memasuki tahap berikutnya telah berkurang dari 8 jam menjadi 22 detik. Sementara itu, objek yang perlu dilindungi perusahaan tidak lagi hanya jaringan dan endpoint.
Titik risiko saat ini juga mencakup elemen-elemen baru seperti model, pipeline data pelatihan, agen, dan prompt. Terutama agen AI yang berjalan di dalam perusahaan, dapat secara otomatis menemukan gudang data yang tidak diperhatikan selama bertahun-tahun dan mengungkap kembali informasi sensitif yang sebelumnya tersembunyi.
Google menganut perlindungan berbasis platform
Cara tanggapan yang diberikan de Souza adalah membuat pertahanan juga beralih ke "mesin-ke-mesin". Ia menyatakan bahwa perusahaan perlu mengadopsi pendekatan berbasis platform untuk menjaga kebijakan keamanan yang konsisten di berbagai lingkungan cloud dan berbagai model, bukan hanya memperbaiki celah satu per satu setelah bisnis diluncurkan.
Dia juga menyatakan bahwa ini bukan lagi hanya tugas tim keamanan, tetapi menjadi isu yang memerlukan partisipasi langsung dari dewan direksi dan manajemen. Alasannya adalah bahwa AI sedang mengubah cara akses terhadap sistem internal perusahaan, sehingga proses keamanan tradisional yang bergantung pada respons manual semakin sulit menangani dengan tepat waktu.
Namun, artikel tersebut juga menyebutkan bahwa industri saat ini masih kekurangan cukup banyak tenaga yang mampu mengawasi sistem semacam ini. Lea Kissner, Chief Information Security Officer LinkedIn, minggu ini mengatakan kepada The New York Times bahwa kecepatan pertumbuhan kerentanan yang ditimbulkan oleh AI masih lebih cepat daripada kemampuan tim keamanan untuk menanganinya, dan industri mungkin memerlukan beberapa tahun lagi untuk membentuk pemahaman keamanan AI yang lebih stabil.
Peristiwa Gemini mengekspos kesenjangan eksekusi platform
Artikel tersebut berpendapat bahwa saran keamanan yang diajukan Google Cloud memang masuk akal, tetapi platform tersebut sendiri memiliki kelemahan jelas di tingkat pelaksanaan. The Register baru-baru ini melaporkan secara berurutan bahwa beberapa pengembang Google Cloud menerima tagihan senilai puluhan ribu dolar akibat panggilan API Gemini yang tidak sah, dan sebagian dari mereka sebelumnya tidak pernah secara aktif mengaktifkan layanan terkait.
Laporan tersebut menyebutkan bahwa sebagian besar kasus ini terkait dengan kunci API yang terpapar secara publik. Kunci terkait awalnya digunakan untuk Google Maps dan ditempatkan di lokasi publik sesuai panduan sebelumnya dari Google. Kemudian, Google memperluas cakupan pemanggilan kunci-kunci tersebut, tetapi pengembang tidak secara jelas diberi tahu tentang perubahan ini, sehingga penyerang dapat memanfaatkannya untuk mengakses layanan Gemini dan menimbulkan biaya tinggi.
- Prentus menyebutkan $10.138 dibuat dalam waktu 30 menit
- Seorang pengembang lain menerima tagihan sekitar 17.000 dolar Australia
- Kuota aktual setelah peningkatan otomatis dapat mencapai hingga $100.000
Setelah dilaporkan oleh media, Google telah mengembalikan dana kepada pengembang terkait, tetapi tidak berencana mengubah kebijakan peningkatan otomatis tingkat pembayaran. Alasan yang diberikan perusahaan adalah bahwa platform lebih mengutamakan pencegahan gangguan layanan daripada secara ketat mematuhi batas anggaran yang ditetapkan pengguna.
Setelah kunci dihapus, masih ada jendela yang tersedia
Artikel tersebut juga menyebutkan penelitian dari perusahaan keamanan Aikido. Penelitian tersebut menyatakan bahwa bahkan jika pengembang segera menghapus kunci setelah mengetahui kebocoran, penyerang masih dapat terus menggunakan kunci tersebut selama hingga 23 menit, karena operasi pencabutan Google menyebar secara bertahap di infrastruktur, bukan secara instan.
Peneliti Aikido Joseph Leon menyatakan bahwa selama periode ini, kestabilan keberhasilan permintaan untuk lolos otentikasi tidak konsisten, tetapi pada beberapa waktu, tingkat keberhasilan masih dapat melebihi 90%. Penyerang dapat memanfaatkan jendela ini untuk terus mengekspor file atau membaca data percakapan cache Gemini.
Leon juga menunjukkan bahwa sebagian format kredensial baru Google tidak mengalami masalah yang sama. Misalnya, kredensial API akun layanan dapat dicabut dalam sekitar 5 detik, dan kunci AQ prefiks baru Gemini menjadi tidak valid dalam sekitar 1 menit. Ini berarti, jendela 23 menit untuk kunci lama belum tentu tidak dapat diatasi secara teknis, melainkan lebih merupakan hasil pilihan prioritas platform.
Informasi tambahan: Artikel ini merupakan tulisan opini dari media asing, yang intinya bukan menolak saran keamanan Google, melainkan menunjukkan bahwa platform tersebut masih memiliki kesenjangan dalam kecepatan respons terkait produk, penagihan, dan manajemen kunci, meskipun mendorong pencegahan dini oleh perusahaan.