F-Secure mengidentifikasi 26 cara AI dapat membahayakan konsumen, serta cara mencegah risiko-risiko ini
Klasifikasi kerusakan AI baru melacak bagaimana kerusakan menyebar dalam sistem AI, dari jawaban chatbot yang menyesatkan hingga agen otonom yang diretas, serta mengidentifikasi di mana langkah pertahanan dapat diterapkan
Los Angeles, 10 November (Reuters) / PRNewswire -- Kecerdasan buatan saat ini sedang memengaruhi cara kita mencari, berkomunikasi, mengambil keputusan, dan mengelola kehidupan digital. Tetapi ketika ia salah, bagaimana tepatnya hal itu dapat menyakiti orang? Taxonomi Kerusakan AI terbaru dari F-Secure memetakan 26 jenis kerusakan konsumen berbeda, melacak bagaimana setiap jenis kerusakan mencapai pengguna. Hasilnya adalah gambaran jelas tentang di mana langkah-langkah perlindungan dapat diintervensi dan siapa yang paling mampu memberikan bantuan.
Klasifikasi ini dikembangkan oleh Dr. Megan Squire, peneliti utama intelijen ancaman F-Secure, untuk mengatasi titik buta dalam diskusi tentang risiko AI. Sebagian besar kerangka kerja hanya mencantumkan kemungkinan kegagalan, tetapi tidak menghubungkan kerusakan tersebut dengan sistem dan perusahaan yang dapat mencegahnya. Penelitian F-Secure melangkah lebih jauh dengan menguraikan setiap lapisan ancaman yang didorong oleh AI dan dampaknya terhadap konsumen, serta menunjukkan di mana pertahanan harus diterapkan.
Dr. Squire menyatakan: "Seiring dengan meningkatnya kemampuan sistem AI, konsekuensi kesalahan mereka bisa jauh lebih besar daripada sekadar memberikan jawaban yang buruk. Pengembang sistem-sistem ini memiliki tanggung jawab untuk memahami bagaimana sistem tersebut bisa gagal, siapa yang akan terluka saat kegagalan terjadi, dan menetapkan langkah perlindungan sebelum kerusakan terjadi."
Klasifikasi ini mencerminkan bahwa risiko itu sendiri sedang berubah. Di masa lalu, penjahat mungkin secara langsung menargetkan seseorang, tetapi sekarang AI berada di tengah, yang menambahkan partisipan baru sekaligus cara-cara baru untuk terjadi kesalahan. Sebuah asisten yang bertindak atas nama orang lain mungkin dimanfaatkan untuk menyebabkan kerusakan, sementara chatbot juga bisa dengan percaya diri menyesatkan pengguna. Di tingkat yang lebih mendasar, masalah sering kali bermula dari bagaimana AI memproses instruksi dan memori, atau layanan apa saja yang terhubung dengannya.
Penelitian ini saat ini mengklasifikasikan 26 jenis kerusakan ke dalam lima jenis hubungan dan 19 lapisan perantara, serta merancang 24 langkah pertahanan untuk mengatasi risiko di berbagai tahap. Contoh-contohnya meliputi peniruan suara dan video yang dihasilkan AI, keputusan keuangan berbahaya yang diambil oleh agen, kebocoran informasi pribadi, atau tindakan yang diambil dalam konteks yang sudah usang. Penelitian ini juga mempelajari serangan semacam ini: instruksi jahat disembunyikan dalam konten yang diproses oleh sistem AI, yang selanjutnya dapat memengaruhi perilaku agen atau memengaruhi apa yang diberitahukan chatbot kepada pengguna.
Salah satu temuan utama kerangka ini adalah bahwa tanggung jawab untuk mencegah kerusakan yang disebabkan oleh AI tersebar di antara beberapa pihak yang terlibat. Beberapa risiko dapat ditangani oleh perangkat lunak keamanan di perangkat pribadi; yang lain harus diatasi di tahap yang lebih awal, oleh perusahaan yang mengembangkan produk AI dan sistem dasarnya, termasuk bagaimana AI mengingat informasi dan layanan apa saja yang terhubung dengannya. Memperjelas siapa yang bertanggung jawab atas setiap tahap membantu menentukan di mana pertahanan harus ditempatkan dan siapa yang harus membangunnya. Ini juga melemahkan pandangan bahwa orang dapat tetap aman sendirian hanya dengan mengenali konten mencurigakan atau terus-menerus memverifikasi informasi yang diberikan oleh AI.
Seiring AI beralih dari "menghasilkan informasi" menjadi "bertindak berdasarkan informasi", masalah tanggung jawab menjadi lebih mendesak. Jika chatbot memberikan jawaban yang salah, hal itu bisa menyesatkan pengguna, tetapi setidaknya pengguna masih terlibat dalam interaksi tersebut; sementara agen yang memiliki akses ke akun pengguna dan layanan terkaitnya dapat menyebabkan konsekuensi nyata tanpa konfirmasi timbal balik semacam itu. Langkah-langkah perlindungan perlu dibangun berdasarkan apa yang sebenarnya dilakukan sistem-sistem ini, yang dimulai dengan memahami perbedaan antara chatbot dan agen.
Bangun perlindungan untuk agen AI
Penelitian ini merupakan bagian dari upaya lebih luas F-Secure untuk membangun kepercayaan di era AI. F-Secure Trust, yang diumumkan bersama aliansi strategis dengan Quantum AI Lab QuTwo, adalah upaya perusahaan untuk melindungi pengguna di dunia di mana agen AI semakin sering bertindak atas nama manusia. TrustGuard dirancang untuk membantu melindungi keamanan pengguna selama interaksi AI, sementara TrustPath bertujuan untuk melindungi perjalanan digital mereka dari penemuan hingga pengiriman. AI Harms Taxonomy memberikan dasar penelitian untuk pekerjaan ini, mengidentifikasi risiko yang harus dihadapi oleh langkah-langkah perlindungan, serta secara jelas menunjukkan bahwa perlindungan yang efektif juga bergantung pada perusahaan yang membangun dan menjalankan sistem AI.
Penelitian Berbasis Manusia untuk Era AI
Ancaman digital saat ini sudah jauh melampaui penipuan. Tim Illuminate Research F-Secure mempelajari bagaimana manusia dan teknologi berinteraksi di dunia nyata, mengeksplorasi realitas kompleks kepercayaan, penipuan, dan ketahanan daring di era AI. AI Harms Taxonomy tersedia di Illuminate Research Hub.
Tentang F-Secure
F-Secure adalah perusahaan pengalaman keamanan siber konsumen yang berpusat pada manusia dan didorong oleh AI, dengan pengalaman 38 tahun dalam menghadapi ancaman digital. Perusahaan ini membantu penyedia layanan digital mengubah kepercayaan menjadi mesin pertumbuhan bernilai tinggi—melindungi pelanggan mereka dan membantu mereka menjalani kehidupan digital yang lebih baik di dunia yang penuh dengan penipuan yang didorong oleh AI. Setiap tahun, perusahaan ini melindungi miliaran interaksi digital, melindungi puluhan juta konsumen di seluruh dunia, dan menciptakan nilai lebih dari $10 miliar bagi mitranya, dengan dampak berskala besar yang telah terbukti.
Kontak pers:
- Meghan Sawyer, Manajer Hubungan Masyarakat Senior, [email protected]
- Joel Latto, konsultan ancaman dan manajer hubungan masyarakat EMEA, [email protected]
Informasi di atas disediakan oleh Cision: http://news.cision.com

