F-Secure mengenal 26 cara AI boleh membahayakan pengguna, serta cara mencegah risiko-risiko ini
Klasifikasi kerosakan AI baharu memantau bagaimana kerosakan menyebar dalam sistem AI, dari jawapan chatbot yang menyesatkan hingga agen autonom yang diretas, serta mengenal pasti di mana langkah pertahanan boleh diperkenalkan.
Los Angeles, 10 November (Reuters) / PRNewswire – Kecerdasan buatan kini mempengaruhi cara kita mencari, berkomunikasi, membuat keputusan, dan mengurus kehidupan digital. Tetapi apabila ia gagal, bagaimanakah ia boleh menyebabkan kecederaan kepada orang ramai? Klasifikasi Kecederaan AI terkini daripada F-Secure memetakan 26 jenis kecederaan pengguna, melacak bagaimana setiap kecederaan mencapai pengguna. Hasilnya ialah gambaran yang jelas tentang di mana langkah-langkah perlindungan boleh diperkenalkan, serta siapa yang paling mampu memberikan bantuan.
Klasifikasi ini dibangun oleh Dr. Megan Squire, penyelidik utama intelijen ancaman F-Secure, untuk mengatasi satu titik buta dalam perbincangan mengenai risiko AI. Kebanyakan kerangka kerja hanya menyenaraikan tempat-tempat yang mungkin gagal, tetapi tidak menghubungkan kesan-kesan ini dengan sistem dan syarikat yang boleh mencegahnya. Penyelidikan F-Secure melangkah lebih jauh, menguraikan setiap peringkat antara ancaman yang didorong AI dan kesannya terhadap pengguna, serta menunjukkan di mana pertahanan sepatutnya ditempatkan.
Dr. Squire berkata: "Seiring dengan peningkatan kemampuan sistem AI, konsekuensi kesilapan mereka mungkin jauh melebihi pemberian jawapan yang buruk. Pembangun sistem ini bertanggungjawab untuk memahami bagaimana ia mungkin gagal, siapa yang akan terjejas apabila ia gagal, dan menetapkan langkah perlindungan sebelum kecederaan berlaku."
Klasifikasi ini mencerminkan bahawa risiko itu sendiri sedang berubah. Dahulu, penjenayah mungkin menargetkan seseorang secara langsung, tetapi sekarang AI berada di tengah-tengah, yang menambahkan peserta baru dan cara-cara baru untuk berbuat kesilapan. Seorang pembantu yang bertindak atas nama orang lain mungkin dimanipulasi untuk menyebabkan kerosakan, sementara chatbot juga mungkin dengan yakin menyesatkan pengguna. Di peringkat yang lebih asas, masalah sering bermula daripada bagaimana AI mengendalikan arahan dan ingatan, atau perkhidmatan lain yang disambungkannya.
Kajian ini kini mengkelaskan 26 jenis kecederaan ke dalam lima jenis hubungan dan 19 peringkat perantara, serta merancang 24 langkah pertahanan untuk mengatasi risiko di berbagai peringkat. Contoh termasuk peniruan suara dan video yang dihasilkan AI, keputusan kewangan berbahaya yang dibuat oleh agen, kebocoran maklumat peribadi, atau tindakan yang diambil dalam konteks yang usang. Kajian ini juga mengkaji serangan di mana arahan jahat disembunyikan dalam kandungan yang diproses oleh sistem AI, yang boleh mempengaruhi tingkah laku agen atau mempengaruhi apa yang diberitahu oleh chatbot kepada pengguna.
Salah satu dapatan utama kerangka ini ialah tanggungjawab untuk mencegah kecederaan yang disebabkan oleh AI tersebar di antara pelbagai pihak yang terlibat. Sebahagian risiko boleh ditangani oleh perisian keselamatan di peranti peribadi; sebahagian lagi perlu diselesaikan lebih awal, oleh syarikat-syarikat yang membangunkan produk AI dan sistem asasnya, termasuk bagaimana AI mengingat maklumat dan perkhidmatan lain yang disambungkannya. Memperjelas siapa yang bertanggungjawab atas setiap peringkat membantu menentukan di mana pertahanan harus diletakkan dan siapa yang perlu membinaannya. Ini juga melemahkan pandangan yang berpendapat bahawa individu boleh menjaga keselamatan mereka sendiri hanya dengan mengenal pasti kandungan mencurigakan atau semak semula maklumat yang diberikan oleh AI.
Seiring AI berpindah dari “menghasilkan maklumat” kepada “mengambil tindakan berdasarkan maklumat”, soal siapa yang bertanggungjawab menjadi lebih mendesak. Jika chatbot memberikan jawapan yang salah, ia mungkin menyesatkan pengguna, tetapi pengguna masih terlibat dalam interaksi tersebut; manakala agen yang mempunyai akses kepada akaun pengguna dan perkhidmatan berkaitan boleh menyebabkan kesan nyata tanpa pengesahan berulang-ulang. Langkah-langkah perlindungan perlu dibina berdasarkan apa yang sebenarnya dilakukan oleh sistem-sistem ini, dan ini bermula dengan memahami perbezaan antara chatbot dan agen.
Membina perlindungan untuk agen AI
Penyelidikan ini merupakan sebahagian daripada usaha lebih luas F-Secure untuk membina kepercayaan di era AI. F-Secure Trust, yang diumumkan bersama aliansi strategik dengan Quantum AI Lab QuTwo, adalah usaha syarikat untuk melindungi pengguna dalam dunia di mana agen AI semakin banyak bertindak atas nama orang ramai. TrustGuard bertujuan untuk membantu melindungi keselamatan orang dalam proses interaksi AI, manakala TrustPath bertujuan untuk melindungi perjalanan digital mereka dari penemuan hingga penghantaran. AI Harms Taxonomy memberikan asas penyelidikan bagi usaha-usaha ini, mengenal pasti risiko yang perlu ditangani oleh langkah-langkah perlindungan, serta menunjukkan dengan jelas bahawa perlindungan yang berkesan juga bergantung kepada syarikat-syarikat yang membina dan mengendalikan sistem AI.
Penyelidikan berpusatkan manusia untuk era AI
Ancaman digital hari ini sudah jauh melampaui penipuan. Tim Illuminate Research F-Secure mengkaji bagaimana manusia dan teknologi berinteraksi dalam dunia nyata, serta mengeksplorasi realiti kompleks kepercayaan, penipuan, dan ketahanan maya di era AI. AI Harms Taxonomy boleh didapati di Illuminate Research Hub.
Tentang F-Secure
F-Secure ialah syarikat pengalaman keselamatan siber pengguna yang berpusat pada manusia dan didorong oleh AI, dengan pengalaman 38 tahun dalam menghadapi ancaman digital. Syarikat ini membantu penyedia perkhidmatan digital mengubah kepercayaan menjadi enjin pertumbuhan bernilai tinggi—melindungi pelanggan mereka dan membantu mereka menjalani kehidupan digital yang lebih baik di dunia yang dipenuhi penipuan yang didorong oleh AI. Syarikat ini melindungi berbilion-bilion interaksi digital setiap tahun, melindungi puluhan juta pengguna di seluruh dunia, dan mencipta nilai lebih daripada US$10 bilion untuk rakan kongsi, membawa kesan berskala besar yang telah terbukti.
Penghubung media:
- Meghan Sawyer, pengurus hubungan awam senior, [email protected]
- Joel Latto, penasihat ancaman dan pengurus urusan awam EMEA, [email protected]
Maklumat di atas disediakan oleh Cision: http://news.cision.com