Irene Solaiman, Chief Policy Officer at Hugging Face at Senior Vice President of Strategy, ay sinabi sa isang kahuling episyodo ng podcast na “Equity” na ang mga katangian na nagpapalakas sa halaga ng mga bukas na AI platform—tulad ng bukas na pag-access at mayamang data—ay maaari ring gawing mas madaling target ng mga hacker.
Binanggit niya na ang pag-atake sa OpenCode noong Oktubre ay ang pinakabagong halimbawa. Ang pag-atake ay tumarget sa mga third-party API key ng mga user at nagdulot ng financial loss. Bago ito, nangyari na ang isang insidente noong tag-init: isang OpenAI agent group ang sumabob sa Hugging Face, tila upang mapalitan ang kanilang mga traces pagkatapos makakuha ng mga sagot sa cybersecurity assessment.
Hindi lamang sa mga platform na nagtatangkilik ng mga kontribusyon mula sa bukas na komunidad ang panganib. Noong Lunes, ipinahayag ng AI infrastructure startup na Fireworks, na nagbibigay ng tulong sa mga developer para i-run at itraining ang mga open AI model, na nakakapasok ang mga attacker sa ilang model weights, dataset, at impormasyon sa pagbabayad ng mga kliyente. Sa panahon ng pagsisiyasat, ipinagbawal ng kumpanya ang ilang self-service na mga tampok. Sinabi ni Solaiman na bagaman hindi kinakailangang dahil sa pagiging bukas ng Fireworks ang pag-atake, ito ay nagpapakita kung gaano karaming mayamang impormasyon ang nakikita sa loob ng mga provider ng AI infrastructure.
Sinabi ni Solaiman sa programa na “Equity”: “Ang mga salik na nagdudulot ng aking pag-aalala na maging layunin ng pag-atake ang bukas na komunidad, ay ang mga salik din na ginagawa itong espesyal. Dapat nating panatilihin ang pagiging malaya. Gusto naming payagan ang karaniwang entusiyasta sa ilalim ng bintana, kahit walang institutional background, na makapag-ambag.”
Idinagdag niya sa isang iba pang pag-uusap: "Gusto mo na ang mga tao ay maaaring direktang mag-submit ng pull request at pahintulutan ang sinumang walang epektibong institusyonal na background na makilahok... ngunit matatagpuan mo ang ilang tao na magkakaroon ng problema at magdudulot ng pinsala sa iba."
Hindi lang ang maluwag na mekanismo ang nagtataglay ng mga manlulupig. Ang malaking dami ng impormasyon na itinatago sa mga open-source platform ay nagiging layunin din nila. Sabi ni Solaiman, ang grupo ng mga agent ng OpenAI ay tumarget sa Hugging Face dahil ito ay nag-iimbak ng mga dataset para sa pag-e-evaluate; samantala, ang layunin ng OpenCode sa kaganapang ito ay ang kanilang “napakalaking third-party API keys.”
Sinabi ni Solaiman sa TechCrunch: "Ang pagkakasama ng dalawa ay nagjadong sa amin bilang pangunahing layunin." Dagdag pa niya, sa kasalukuyang panahon kung saan may malaking suporta mula sa publiko, ang open source ay "maaaring talagang maliit."
Kasalukuyan, marami sa industriya ang publikong sumusuporta sa mga bukas na AI model, kabilang ang CEO ng NVIDIA, Jensen Huang. Lalong lumalaki ang bilang ng mga gobyerno, kumpanya, at mga startup na umaasa sa mga open-source model para sa pag-unlad.
Ano nga ba ang maaaring anyo ng pagkukubos? Sa teorya, maaaring ibig sabihin nito ang pagpapalimita kung sino ang maaaring mag-upload ng mga model o dataset, ang pagpapalakas ng pag-verify ng identity, o ang pagdaragdag ng karagdagang pagsusuri bago makapag-access ang mga developer sa ilang mga tampok. Bagaman maaaring protektahan ang mga patakaran na ito ang platform laban sa mga pag-atake, maaari rin itong gawing mas mahirap para sa mga independiyenteng siyentipiko at mga mahilig na makilahok sa mga komunidad na kanilang dating maaaring sakop.
Sa kasalukuyan, hinahanap ng Hugging Face ang paraan upang maiwasan ang landas na ito. Sinabi ni Solaiman na patuloy nilang pinapalakas ang mga kasangkapan sa pagmamasid upang makita ang mga pag-atake ng mga hacker at magdagdag ng mga hakbang upang pigilan ang mga serbisyo. Gayunpaman, binanggit niya na ang pagpapanatili ng pagmamasid ay mataas ang gastos at hindi lahat ng platform ay kayang bayaran.
Sinabi niya: "Ang pagpapamahala ng access tokens ay isang dahilan kung bakit nagkaroon ang grupo ng agent ng mas mataas na antas ng pag-access, kaya ngayon mas madalas naming binabago ang mga token na ito. Mayroon din tayong mas mahigpit na network controls ngayon."
Sa madaling salita, ang mga kredensyal na nagbibigay ng malawakang pag-access sa admin sa Hugging Face system ay mas madalas na papalitan, na nangangahulugan na mas maikli ang panahon kung saan maaaring gamitin ang mga nasirang na token.
Ang iba pang mga bahagi ng open-source ecosystem ay nagtatagpo rin ng katulad na security trade-offs. Ang GitHub, bilang pinakamalaking platform para sa pag-host ng open-source projects sa buong mundo, ay patuloy na lumalaban sa mga hacker na nagpapaloob ng masamang code sa mga project upang mabilis na ipalaganap ang malware. Nagsimula na ang kumpanya na palakasin ang mga seguridad na kinakailangan para sa pagpapalabas ng packages sa npm registry, ipinagbawal ang mga lumang authentication token, at limitahan ang panahon ng kahalagahan ng mga bagong token.
Ang GitHub engineer na si Zach Steindler, na responsable sa seguridad ng software supply chain, ay sinabi sa TechCrunch sa pamamagitan ng email na habang maaaring magdulot ng pagkakaantala sa mga umiiral na proseso ang mga pagsasagawa ng seguridad, maaaring maging mas ligtas ang platform nang hindi limitado nang masinsinan ang pakikilahok.
Sinabi ni Steindler: "Higit sa pagpipigil sa mga tampok, ito ay pagpapabuti sa mga bagay na hindi ligtas mula pa noong una." Binanggit niya na ang npm install script ay umiiral na maraming taon, ngunit ang mga kamakailang pag-atake ay ipinakita kung gaano kapanganib ang mga ito. Kasama rin ng GitHub ang OpenJS, isang nonprofit na organisasyon na nagtatago ng mga mahalagang JavaScript open-source project, upang maghanap ng mas ligtas na paraan.
Sinabi ni Steindler na ang parehong lohika ay maaaring gamitin sa kung paano binabahagi ng security team ang kanilang pagpupunyagi: "Ang core ng security ay ang pag-maximize ng impact gamit ang mga mapagkukunan na mayroon tayo, at mas pipiliin kong i-deploy ang aming mga mapagkukunan sa paghahanap ng suspicious behavior at sa pagpapalakas ng kapasidad: ang mga kapasidad na ito ay nakakapalibot sa lahat ng mga account at paraan ng pag-access. Ang suspicious behavior ay suspicious behavior, anuman ang nagawa nito."