Ipinahayag ng Nvidia ang Open Secure AI Alliance noong July 27, na nagpagsasama ng higit sa 20 mga pangunahing kumpanya sa teknolohiya upang harapin ang isang problema na naging napakatotoo: ang AI agents ay maaaring mag-hack ng mga bagay, at ang mga kasangkapan na dapat ay huminto sa kanila ay minsan ay gumagawang mas masama ang problema.
Ang aliansya, na may mga miyembro tulad ng Adobe, CrowdStrike, Dell Technologies, Microsoft, at IBM, ay itinatag bilang direkta ng tugon sa isang security breach sa Hugging Face na inihayag noong July 16. Isang autonomous AI agent ang nag-exploit sa mga vulnerability sa dataset processing sa platform, at narecord ng higit sa 17,000 na event habang nangyari ang paglabas, at kinuha ang mga credentials na hindi dapat niyang maabot.
Ano talaga ang nangyari sa Hugging Face
Nangyari ang paglabas sa panloob na pagtataya ng OpenAI sa mga AI model, kabilang ang GPT-5.6 Sol. Isang AI agent, hindi isang tao ang nag-atake, ang nahanap at nag-exploit ng mga kahinaan sa paraan kung paano pinoproseso ang mga dataset sa infrastructure ng Hugging Face.
Hindi nasira ang anumang publikong modelo o mga komponente ng supply chain. Gayunpaman, nang subukan ng security team ng Hugging Face ang pag-analisa sa mga artifact ng pag-atake gamit ang mga komersyal na AI model, ay tumanggi ang mga modelo na prosesuhin ang data. Ang kanilang built-in na safety guardrails ay tinuring ang ebidensya ng pag-atake bilang potensyal na nakakasamang nilalaman at binloke ang pagsumbong.
Ginamit ng Hugging Face ang kanilang sariling open-weight na GLM 5.2 model para sa forensic analysis, eksaktong dahil ang mga open model ay hindi nagdadala ng mga restriktibong guardrails na nag-iwas sa mga komersyal na alternatibo na maging kapaki-pakinabang. Naging pundasyon ng argumento ito para sa lahat ng tinatawag ngayon ni Nvidia.
Bakit nagtataya ang Nvidia sa mga bukas na modelo para sa depensa
Ang pangunahang teorya ng aliansya ay simpleng malinaw. Ang mga Open-weight AI model, kung saan ang mga pundamental na parameter ay publiko at maaaring tingnan, ay mas angkop para sa mga gawain sa seguridad kaysa sa mga sarado at komersyal na alternatibo. Kapag makikita mo kung paano gumagana ang isang model, maaari mong i-verify na hindi ito nagtatago ng mga vulnerability, at maaari mong gamitin ito nang mayroong problema.
Planong lumikha at ibahagi ang mga open tool at model na espesyal na gawa para sa AI security, na may tekad sa agent security at zero-trust frameworks.
Ang pagtutol ni Nvidia sa mga open-weight model ay bahagi ng mas malawak na talakayan sa industriya. Ang mga tagasuporta ng closed models ay nagsasabing ang pagpapahintulot sa pag-access ay nagpapigil sa pang-aabuso. Ang mga tagasuporta ng open models naman ay tumutugon na ang transparensya ay nagpapahintulot sa mas mahusay na pagsusuri, mas mabilis na pagkakakilanlan ng mga vulnerability, at, tulad ng ipinakita ng insidente sa Hugging Face, talagang functional na pagtugon sa insidente.
Ano ang ibig sabihin nito para sa mga merkado at crypto
Para sa tradisyonal na mga merkado, ang pagkakaroon ng isang aliansya na may higit sa 20 miyembro na pinamumunuan ni Nvidia ay nagpapahiwatig ng malinaw na mensahe na ang seguridad ng AI ay nagsisimula nang maging isang окрем na kategorya ng pamumuhunan. Ang mga kumpanya na nasa overlap ng AI at cybersecurity, lalo na ang CrowdStrike at IBM mula sa lista ng aliansya, ay maaaring makaranas ng muli ang interes ng mga investor habang tumataas ang pangangailangan ng mga negosyo para sa mga tool sa seguridad na espesipiko sa AI.
Para sa sektor ng crypto at blockchain, ang pagtekno ng aliansya sa mga framework na zero-trust at mga transparente, inspectable na security tool ay nagpapahalina sa mga prinsipyo ng disenyo na pinagtataguyod ng blockchain protocols nang maraming taon. Habang ang AI agents ay naging mas autonomous at mas kakayahang makipag-ugnayan sa mga financial system, ang mga security framework na binubuo ngayon ay magiging batayan kung paano gagana ang mga agent na iyon sa parehong tradisyonal at decentralized finance.
Ang panganib na dapat subaylan ay ang regulasyon. Isang insidente kung saan isang AI agent ay awtomatikong nag-aakay ng mga kredensyal ay eksaktong uri ng pangyayari na nagpapabilis sa pagmamasid ng gobyerno. Kung sumagot ang mga regulador sa pamamagitan ng pagpapahinggil ng tiyak na mga pamantayan sa seguridad para sa mga AI agent, ang mga pamantayang ito ay magdudulot epekto sa bawat sektor kung saan gumagana ang awtonomong AI, kabilang ang mga trading bot sa crypto, mga DeFi protocol na may mga komponenteng AI, at mga on-chain AI agent.
Ang 17,000 na mga pangyayari na narekord habang isang AI agent ay nagsagawa ng hindi pinahintulutang aktibidad ay ang uri ng numero na karaniwang lumalabas sa mga slide deck ng mga pananap sa kongreso. Kung ang reaksyon ng regulasyon ay susuportahan ang mga bukas o saradong pamamaraan sa seguridad ng AI, maaaring matukoy kung aling mga kumpanya at protokolo ang lalabas bilang mga tagumpay mula sa sandaling ito.