Ang Tal Feldman at Ibrahim Dagher ay nagpapahiwatig na ang mahinang cybersecurity sa mga pangunahing kumpanya ng artificial intelligence sa US ay nagbubulag-bulagan sa kahusayan ng bansa laban sa China. Ang Feldman at Dagher ay nagpapahiwatig na ang Washington ay maaaring hilingin ang mas malakas na seguridad nang walang pagpasa ng ibang batas. Ang mga may-akda ay nagpapahiwatig na ang pampublikong talakayan ay tama na pinag-aralan ang pag-atake ng AI agents sa iba pang kumpanya ngunit iniwan ang tanong kung ang mga kumpanya ng AI ay makakapagpigil sa mga pagsabog.
Kamakalauan ng OpenAI noong recent na natutunan na isang Saudi employee ay alegedly naglagay ng isang audio recording device sa isang meeting room ng executive. Madalas na pinag-uusapan ng mga senior employee ang mga konsideradong materyales, kabilang ang proprietary research, sa silid na iyon sa OpenAI's San Francisco headquarters. Noong Hulyo, tatlong researcher na nag-aaral ng security flaws ay nakapasok sa mga sistema ng OpenAI at nakamit ang isang internal code repository na naglalaman ng algorithmic secrets. Binayaran ng OpenAI ang mga researcher ng $6,500 bounty para sa pagrereport ng mga vulnerabilities. Nakumpleto ng mga researcher ang intrusyon sa loob ng higit sa 72 oras nang walang partikular na advanced hacking tools. Sabi ng isang researcher sa The Wall Street Journal, "Tatlo lang kami na lalaki na may Claude at Codex subscriptions," na tumutukoy sa publicly available coding agents mula sa Anthropic at OpenAI. Isang hacker din ay nakapasok sa internal messaging system ng OpenAI noong 2023 at nakakuha ng impormasyon tungkol sa research ng OpenAI. Hindi binigyan ng abiso ng OpenAI ang FBI o ang publiko tungkol sa intrusyon na iyon.
Ayon kay Feldman at Dagher, ang mga bansa tulad ng China ay may mga advanced na kasangkapan, oras, at insentibo upang maimpluwensyahan ang mga US AI company. Ang mga may-akda ay nagsasabi na ang pagkuha ng mga pinakamalalaking US model ay magpapahintulot sa mga kalaban na makasama nang hindi nagbabayad ng gastos sa pag-unlad. Binedi ng mga may-akda na ang mga pagtigil sa pagbebenta ng mga advanced na chip at ang mga bilyon na inilalaan sa AI infrastructure ay hindi magdudulot ng anumang epekto kung hindi seryosuhin ng mga laboratorio ang cybersecurity. Ayon sa mga may-akda, ang tatlong insidente ay malamang ay nagpapakita ng mas malawak na problema sa seguridad.
Ang mga kumpanya sa AI ay bukas na tinanggap ang kakulangan ng kanilang mga depensa laban sa mga sophistikadong espionaje. Sinabi ni Dario Amodei, pangulo at CEO ng Anthropic, noong 2023 na magkakaroon ng tagumpay ang isang gobyerno na gawing unang prioridad ang pagkukunwari ng mga timbang ng modelo laban sa Anthropic. Ang mga timbang ng modelo ay trilyon-trilyon na numerikal na halaga na ginawa sa pamamagitan ng maraming buwan ng mahal na pagtuturo na bumubuo sa isang AI model. Gayunpaman, ang ulat sa panganib ng Anthropic noong Agosto ay nagpahayag pa rin na hindi kayang harapin ng Anthropic ang mga attacker mula sa estado at "hindi naniniwala na mayroon man kahit isang frontier AI developer sa kasalukuyan na nakakasagot sa antas na ito." Si Jacob Coxon, dating researcher ng Anthropic at OpenAI, ay nag-argumen na hindi magtatagal ang anumang kalamangan ng US dahil kay Beijing ay maaaring manakaw ang progreso ng US kahit kailan nila gustong gawin. Sabi ni Miles Brundage, na nagtrabaho sa paghahanda ng OpenAI para sa advanced AI, ang mga kumpanya sa AI ay hindi patotohanan ang kanilang kakayahang pigilan ang mga aktor mula sa estado na manakaw o magbago sa mga timbang ng modelo.
Nakatuklas ang mga siyentipiko sa Rand ng 38 paraan para makuha ang mga model weight, kabilang ang pagtatanim ng portableng device, pagbabago ng hardware bago ang pag-install, at pagbili o pagsisilbi sa mga empleyado. Ang mga sentro ng data ng cloud company ay nagbibigay ng isa pang entry point dahil madalas gamitin ng mga laboratoryo ng AI ang mga pasilidad na iyon para sa pag-train at pagpapatakbo ng mga model. Kulang din sa sapat na proteksyon ang mga algoritmikong lihim ng industriya. Sinabi ni Amodei sa Council on Foreign Relations noong nakaraang taon na ang ilang lihim ng industriya ng AI na may halagang "$100 milyon" ay tumutukoy lamang sa ilang mga linya ng code. Sinabi ni Amodei na siguradong nagtatangkang makuha ang mga lihim na iyon at maaari nang nakakamit.
Ang mga kumpanya ng AI ay nagtatagpo nang malakas upang magdevelop ng superintelligence. Ang pera at oras ng mga empleyado na ginugugol sa cybersecurity ay hindi maaaring gamitin din para sa pagtuturo sa susunod na model. Ang Anthropic ay nag-argue na ang pagtutol sa mga state attacker na may malaking pondo ay dapat maging priyoridad sa cybersecurity ng industriya. Gayunpaman, sinabi ng Anthropic na ang kumpanya "hindi makakapag-commit na sundin" ang priyoridad na ito nang hiwalay.
Noong nakaraang taon, utos ng Kongreso sa Pentagon na itatag ang mga kinakailangang pangkaligtasan para sa mga binibili na AI at ipa-apply ang mga ito sa mga kaugnay na contractor at cloud provider. Hanggang ngayon, hindi pa nagsimula ang Pentagon sa proseso ng pagbabago ng pampublikong patakaran 10 buwan pagkatapos. Ang Kagawaran ng Kalakalan ay maaaring gawing subject sa lisensya ang mga modelo ng pag-export at limitahan ang mga lisensya sa mga laboratorio na sumasapat sa mga kinakailangang pangkaligtasan. Gamit ang kapangyarihang ito, ginamit ng administrasyon ni Trump upang pilitin ang Anthropic na mag-withdraw sa Mythos at Fable mula sa merkado noong Hunyo. Maaari rin ng pederal na pamahalaan na i-attach ang mga kondisyong pangkaligtasan sa mga loan at lease ng lupa na sumusuporta sa pagtatayo ng data center. Sa ilalim ng pamamaraang ito, tanging mga kumpanya ng AI na sumasapat sa mahigpit na mga kinakailangang pangkaligtasan ang maaaring makakuha ng pederal na pagsuporta o magamit ang pampublikong lupa. Wakas ni Feldman at Dagher na ang isang dayuhang pamahalaan na may malaking pondo at walang hanggang oras ay tiyak na makakapag-infiltrate sa OpenAI kung ang tatlong researcher na gumagamit ng mga subscription sa Claude ay nakagawa nito sa loob ng tatlong araw.
Ang mga kumpanya sa AI ay nakakaranas ng mga panganib sa cybersecurity dahil sa mga alalahanin tungkol sa espionaje
FLASH AII-share
Summary
Ang fear and greed index ay nagpapakita ng pagtaas ng pagkabalisa habang ang mga US na AI na kumpanya ay nakakaranas ng pagdami ng mga banta ng espionah. Nasira ang OpenAI, kabilang ang isang alegadong pagsasabwatan ng isang Saudi na empleyado at isang 72-oras na pagsasabwatan ng code ng mga mananaliksik. Binaril ni Feldman at Dagher na maaaring pagsamantalan ng China at iba pang mga bansa ang mga puwang na ito. Admit ng Anthropic na hindi ito makapagpaprotekta nang buo laban sa mga pagsalakay ng mga estado. Ipinagpaliban ng Pentagon ang pagbabago sa mga patakaran para sa seguridad ng AI. Inirerekomenda sa mga trader na subaybayan ang mga altcoin bilang pagmamasid sa gitna ng kakaibang kalagayan ng merkado.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.