Ang F-Secure ay nakakita ng 26 paraan kung paano maaaring masaktan ng AI ang mga consumer, at kung paano pigilan ang mga panganib na ito
Ang bagong klasipikasyon ng pinsalang AI ay sinusubaybayan kung paano nagkakalat ang pinsala sa mga sistema ng AI, mula sa mga nagkakamaling sagot ng chatbot hanggang sa mga napapagod na awtonomong agente, at tinutukoy kung saan mga punto maaaring magsagawa ng mga pagsasakripisyo.
Los Angeles, 10 ng Nobyembre (Reuters)/PRNewswire — Ang artificial intelligence ay kasalukuyang nakakaapekto sa paano natin hinahanap, nakikipag-ugnayan, nagpapasya, at pinapamahalaan ang ating digital na buhay. Pero ano ang mangyayari kung ito ay mali? Ang pinakabagong AI Harms Taxonomy ng F-Secure ay nagmamapa sa 26 iba’t ibang uri ng pagkasira sa mga konsyumer, at sinusuri kung paano natutupad ang bawat uri ng pagkasira sa mga user. Bilang resulta, malinaw na ipinapakita kung saan maaaring mag-intervenyo ang mga pagsisikap para sa proteksyon, at sino ang may pinakamalakas na kakayahan na magbigay ng tulong.
Ipinagawa ng Dr. Megan Squire, pangunahing siyentipiko sa pag-aaral ng banta ng F-Secure, ang klasipikasyong ito upang harapin ang isang kawalan sa pag-uusap tungkol sa mga panganib ng AI. Ang karamihan sa mga framework ay naglalista lamang ng mga posibleng mali, ngunit hindi nagpapalawak upang iugnay ang mga pinsalang ito sa mga sistema at kumpanya na makakapagpigil sa kanila. Mas lumalim ang pag-aaral ng F-Secure sa bawat antas ng ugnayan sa pagitan ng mga banta na dinudulot ng AI at ang kanilang epekto sa mga konsyumer, at batay dito, tinutukoy kung saan dapat ilapat ang mga depensa.
Sinabi ni Dr. Squire: "Habang lumalakas ang kakayahan ng mga AI system, ang mga epekto ng kanilang pagkakamali ay maaaring maging mas malaki kaysa sa pagbibigay ng isang masamang sagot. May pananagutan ang mga nagtatayo ng mga system na maunawaan kung paano sila maaaring magkamali, sino ang maaaring masaktan kapag nagkamali, at magtakda ng mga proteksyon bago maganap ang pinsala."
Ang klasipikasyong ito ay nagpapakita na ang panganib ay nagbabago mismo. Noon, maaaring direktang inatake ng mga kriminal ang isang tao, ngunit ngayon, ang AI ay nasa gitna, na nagdaragdag ng mga bagong tagapag-ugnay at mga bagong paraan ng pagkakamali. Maaaring manipulahin ang isang tagapag-ugnay na kumikilos para sa isang tao upang magdulot ng pinsala, at maaaring puno ng tiwala ang mga chatbot upang maliitin ang mga gumagamit. Sa mas malalim na antas, karaniwang nagsisimula ang problema sa kung paano trato ng AI ang mga utos at memorya, o saan mga iba pang serbisyo ito konektado.
Ang pag-aaral na ito ay kasalukuyang naglalagay ng 26 uri ng pinsala sa limang kategorya ng ugnayan at 19 antas ng intermediate, at nagdisenyo ng 24 paraan ng pagtutol upang harapin ang mga panganib sa iba’t ibang yugto. Ang mga halimbawa ay kasama ang pagkakataong ginawa ng AI na boses at video, ang paggawa ng mga desisyon sa pananalapi na nakakasama, ang paglalabas ng personal na impormasyon, o ang pagkilos sa nakaraang konteksto. Sinuri rin ng pag-aaral ang isang uri ng pag-atake kung saan ang masamang utos ay nakatago sa nilalaman na sinusuri ng AI system, na maaaring makaapekto sa pag-uugali ng agent, o sa mga bagay na sasabihin ng chatbot sa mga gumagamit.
Isa sa pangunahing natuklasan ng framework na ito ay ang pagkakahati-hati ng responsibilidad sa pag-iwas sa pinsalang dulot ng AI sa pagitan ng iba’t ibang mga partido. Maaaring lubos na masolusyunan ng mga security software sa personal na device ang ilang panganib; samantala, kailangang malutas ang iba sa mas mataas na antas ng proseso, sa pamamagitan ng mga kumpanya na nagtatayo ng AI products at kanilang mga piling sistema, kabilang ang paano natututuhan ng AI ang impormasyon at kung anong iba pang serbisyo ito ay konektado. Ang pagkakaayos ng kung sino ang responsable sa bawat yugto ay tumutulong upang malinaw kung saan dapat itayo ang depensa at sino ang dapat bumuo nito. Ito ay nagpapabagsak din sa paniniwala na ang mga tao ay maaaring magpanatili ng kaligtasan lamang sa pamamagitan ng pagkilala sa mga sospeksong nilalaman o pag-uulit-ulit na pag-verify sa impormasyon na ibinibigay ng AI.
Habang umiiwas ang AI mula sa “pagbuo ng impormasyon” patungo sa “pagkilos batay sa impormasyon”, mas nagiging urgente ang tanong kung sino ang responsable. Kung mali ang sagot ng chatbot, maaari itong magdulot ng maling impormasyon sa mga user, ngunit kahit paano ay nakikilahok pa ang user sa interaksyon; samantalang ang isang agent na may access sa account ng user at ang mga kaugnay na serbisyo ay maaaring magdulot ng totoong epekto nang walang ganitong pagtutugon. Kailangan ng mga pagsasagabal na binubuo batay sa ano talaga ang ginagawa ng mga sistemang ito, at una sa lahat ay kailangan ang pag-unawa sa pagkakaiba ng chatbot at agent.
Gumawa ng pagprotekta para sa AI agent
Ang pag-aaral na ito ay bahagi ng mas malawak na pagsisikap ng F-Secure upang itayo ang tiwala sa panahon ng AI. Kasama ng pagsisigla ng F-Secure Trust sa isang estratehikong aliansya sa Quantum AI Lab QuTwo, ito ay bahagi ng pagtatanggol ng kumpanya sa mga user sa isang mundo kung saan ang AI agents ay lalong madalas na kumikilos para sa mga tao. Ang TrustGuard ay naglalayong tulungan ang pagprotekta sa kaligtasan ng mga tao sa proseso ng AI interaction, habang ang TrustPath ay naglalayong protektahan ang kanilang digital na paglalakbay mula sa pagkakakilanlan hanggang sa pagpapadala. Ang AI Harms Taxonomy ay nagbibigay ng pundasyong pananaliksik para sa mga gawaing ito, na naglilinaw sa mga panganib na kailangang harapin ng mga pagsisikap na protektahan, at malinaw na ipinapakita na ang epektibong pagprotekta ay nakasalalay din sa mga kumpanya na bumubuo at nagpapatakbo ng mga sistema ng AI.
Human-Centered Research for the AI Era
Hindi na lamang scam ang mga digital na banta ngayon. Ang Illuminate Research team ng F-Secure ay nag-aaral kung paano tumutugon ang tao at teknolohiya sa totoong buhay, at pinag-aaralan ang kumplikadong realidad ng tiwala, pagkakamali, at online na katatagan sa panahon ng AI. Ang AI Harms Taxonomy ay maaaring makakuha sa Illuminate Research Hub.
Tungkol sa F-Secure
Ang F-Secure ay isang kumpanya ng consumer cybersecurity experience na tao-centered at AI-driven, na may 38 taon ng karanasan sa pagharap sa mga digital na banta. Tumutulong ang kumpanya sa mga digital service provider na isalin ang tiwala bilang isang makapangyarihang motor ng paglago—sa isang mundo na puno ng AI-driven na scam, upang protektahan ang kanilang mga customer habang tutulungan sila na mabuhay ng mas mabuting digital na buhay. Taun-taon, pinoprotektahan ng kumpanya ang milyon-milyon na digital na interaksyon, nagpaprotekta sa milyon-milyon na consumer sa buong mundo, at nagdadala ng halos $10 bilyon na halaga para sa kanilang mga partner, na nagdudulot ng nasusuri at malawakang epekto.
Kontak sa balita:
- Meghan Sawyer, senior public relations manager, [email protected]
- Joel Latto, tagapayo sa panganib at tagapamahala ng pagsasahayag sa EMEA, [email protected]
Ang mga impormasyon sa itaas ay ibinigay ng Cision: http://news.cision.com

