Penyelidik keselamatan dari Anthropic telah membebankan secara percuma panduan tentang bagaimana anda boleh menggunakan AI untuk mengurangkan permukaan serangan kepada program anda. Dan di tengah-tengah semua hack yang kita lihat sekarang, ini lebih penting daripada sebelumnya. Jika anda mengendalikan laman web, aplikasi, atau sistem dalam talian, inilah bahagian yang paling terdedah, kerana penyerang boleh mencapainya tanpa memerlukan kata laluan apa-apa. Alih-alih memburu kelemahan satu persatu, idea ini adalah untuk mengurangkan jumlah perkara yang terbuka kepada pihak luar. Dengan begitu, walaupun kesalahan yang belum ditemui pun menjadi lebih sukar untuk dicapai. Anthropic menguji ini pada OpenSSH, program yang digunakan oleh pentadbir untuk mengakses pelayan melalui internet, dan yang mereka sebut sebagai salah satu kod paling banyak ditinjau di dunia. Menurut pengiraan syarikat itu sendiri, usaha ini mengurangkan kira-kira satu perlima kod yang boleh dicapai oleh seseorang tanpa log masuk, dengan cara program tersebut dipasang secara asal. Anthropic meminta Claude untuk mencari dalam tiga arah dan memeriksa setiap penemuan, dan mereka menyatakan bahawa idea umum ini cenderung berkesan walaupun tanpa alat yang mereka bangunkan. Langkah-langkahnya adalah seperti berikut: 1 - Dengan program dalam keadaan asalnya, cari kod yang boleh dicapai oleh pihak luar tetapi tidak digunakan oleh sebarang fungsi biasa program tersebut. 2 - Cari kod yang kompleks dan sensitif yang berjalan sebelum perlindungan seperti log masuk. 3 - Uji kombinasi konfigurasi. Dua pilihan mungkin kelihatan munasabah secara berasingan, tetapi apabila digabungkan, boleh mematikan perlindungan tanpa pemberitahuan. 4 - Sahkan setiap penemuan dengan menjalankan program secara sebenar, bukan hanya membaca kodnya. 5 - Selepas setiap blok baru, jalankan ujian projek itu sendiri dan minta hasil yang sama seperti sebelumnya. Jika perubahan itu mengubah konfigurasi bukan lalai, biarkan seseorang membuat keputusan. Dalam ujian Anthropic, Claude menunjukkan 493 isu dalam 25 projek sumber terbuka, yang jumlahnya melebihi 5 juta baris. Dalam OpenSSH, terdapat kira-kira 4,500 baris kod dari ciri eksperimen yang boleh dicapai oleh sesiapa sahaja sebelum log masuk, dalam keadaan asal program tersebut. Anthropic memberitahu pihak bertanggungjawab atas OpenSSH dan menyesuaikan pembaikan bersama mereka. Sebahagian pertama telah dikeluarkan dalam versi 10.5 pada bulan Ogos, dan selebihnya dalam versi 10.6 pada 6 Oktober. Mulailah dengan program anda sendiri, dalam keadaan asalnya. Jika ini berlaku pada OpenSSH, bayangkan apa yang berlaku pada kod yang tidak pernah ditinjau.