Kelompok Intelijen Ancaman Google (GTIG) mengatakan para penyerang menggunakan kerangka kerja large language model (LLM) untuk mengotomatiskan penemuan dan eksploitasi kelemahan perangkat lunak tanpa arahan manusia langkah demi langkah. GTIG menyatakan kuartal terakhir menandai pertama kalinya GTIG mengidentifikasi aktivitas semacam ini. Google memperingatkan bahwa proses otomatis ini mempersingkat waktu yang dimiliki organisasi untuk memasang patch keamanan sebelum penyerang mengembangkan eksploit.
Para peneliti merinci temuan tersebut dalam laporan yang dirilis pada hari Senin. GTIG menemukan kerangka kerja multi-agens untuk penelitian kerentanan dan senjata pada server staging yang terbuka. Kerangka kerja ini secara terus-menerus membandingkan versi kode sebelum dan setelah pengumuman patch untuk aplikasi web populer. Alat ini mengidentifikasi potensi kelemahan, lalu menghasilkan dan menjalankan kode eksploit secara otonom. GTIG telah menyatakan pada bulan September bahwa GTIG belum melihat penyerang yang menerapkan pipeline otonom sepenuhnya terhadap target dunia nyata.
Penyerang menggunakan kerangka kerja agen AI untuk melakukan reverse-engineering terhadap patch melalui analisis diferensial dan mengembangkan eksploitasi untuk kerentanan N-day, yaitu kelemahan keamanan yang diketahui publik. Laporan Google memperingatkan bahwa LLM memungkinkan penyerang memperluas eksploitasi otomatis terhadap server yang terhubung ke internet tanpa intervensi manusia. Google menyatakan bahwa pengungkapan kerentanan lebih dari berlipat ganda antara Januari dan Agustus. Google memperkirakan rata-rata bulanan kerentanan zero-day yang dieksploitasi sebanyak delapan pada tahun 2025. Google mengatakan rata-rata tersebut meningkat menjadi 11 per bulan dari Januari hingga Agustus 2026, dengan 22 kerentanan dieksploitasi pada bulan Agustus.
Proses otomatis juga memperpendek waktu yang dibutuhkan penyerang untuk maju dari akses awal hingga mendapatkan hak administrator domain. Laporan tersebut mengutip temuan GreyNoise bahwa penyerang memperoleh hak administrator domain dalam hitungan menit selama kampanye PaperCut pada Agustus 2026.
Cloudflare melaporkan upaya pada Oktober untuk mengeksploitasi kelemahan PHP terhadap pelanggan Cloudflare. GTIG mengatakan analisis LLM telah mengungkap dua kerentanan PHP yang terlibat dalam upaya tersebut. Laporan tersebut menyatakan bahwa rincian teknis yang dirilis sebelum patch 21 Oktober memungkinkan peneliti dan penyerang untuk memeriksa kerentanan tersebut dan mencoba eksploitasi.
Anthropic memperingatkan dalam laporan September bahwa serangan yang dibantu AI telah berkembang menjadi operasi multi-agens yang mengotomatisasi sebagian besar tahapan serangan siber, mulai dari penemuan hingga eksploitasi dan pencurian data. Anthropic mengatakan penyerang menggunakan AI agens untuk kampanye terhadap beberapa korban yang sebelumnya memerlukan tim operator.

