Si Security Expert ay Nagkritika sa Modelong Pagkakasunod-sunod ng AI ni Anthropic

iconKuCoinFlash
I-share
AI summary iconSummary
ME AI mensahe, ayon sa pagmamasid ng Beating, ang seguridad na eksperto sa sandbox at pangunahing arkitekto ng Cloudflare, si Kenton Varda, ay nagkritika sa modelo ng pagkilala ng agent ni Anthropic, at sinabi na ang pagbibigay ng eksklusibong account sa AI ay hindi lamang hindi makakatugon sa malaking saklaw ng mga gawain, kundi masasira rin ang mekanismo ng pagkakasala ng tao. Naniniwala si Kenton Varda na bagaman ang bagong arkitektura sa seguridad ay nagsusumikap na lutasin ang mga isyu sa pagpapalawig ng mga kredensyal sa pagtatrabaho ng marami, mayroon itong patay na kakulangan sa pondo. Ang mga agent ay hindi maaaring maging legal o administratibong may-akda ng responsibilidad; lahat ng mga pagsasagawa ng pahintulot ay dapat at maaaring lumabas lamang mula sa mga tao na buhay. Kung diretso ang paglikha ng sariling account para sa AI, kapag ginawa nito ang pag-delete ng database o iba pang mapaminsalang aksyon, ang mga log ng sistema ay magrerekord lamang na ang AI ang gumawa nito, at hindi maaaring iugnay ang responsibilidad sa tunay na empleyado na nagbigay ng utos, na nagdudulot ng ganap na pagkabigo sa mekanismo ng pagkakasala ng tao. Para sa pagkakaroon ng pagkakaroon ng sariling paksang pahintulot na nagdudulot ng pagkapagod, inaanyayahan ni Kenton Varda ang paggamit ng modelo ng seguridad batay sa kakayahan. Dapat hindi bigyan ng global o default na pahintulot ang AI; kundi dapat ilipat ang pahintulot bilang “kakayahan” nang dinamiko. Halimbawa, kapag nagpadala ang isang empleyado sa AI ng link sa isang partikular na dokumento sa isang usapan, awtomatikong gagawa ang sistema ng pansamantalang, basahin lamang na sanggunian na nakabatay sa sariling kredensyal ng empleyado at ipapadala ito sa AI. Ang modelo ng kakayahan ay hindi lamang nagpapatunay na ang anumang aksyon ng AI ay maaaring ma-track patungo sa tiyak na tagapagsimula, kundi nagpapahintulot din na ang mga empleyado na may mababang pahintulot ay hindi makapagpadala ng kanilang sariling kredensyal sa database sa AI kung wala silang ganito, kaya nakakapigil ito sa mga posibleng paglabag sa pondo sa pinakamababang antas. (Pinagmulan: BlockBeats)
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.