Inilunsad ng OpenAI ang bagong modelong cybersecurity upang makahanap ng mga vulnerability

icon币界网
I-share
AI summary iconSummary
Lumabas na si OpenAI ng isang bagong modelong cybersecurity, ang ChatGPT Cyber, sa ilalim ng kanilang Daybreak Red initiative, na nagbibigay ng mga kasangkapan sa mga researcher ng offensive cybersecurity upang makahanap ng mga vulnerability. Natuklasan ng modelong ito ang 948 potensyal na isyu sa Linux kernel at 81 bagong vulnerability sa Firefox. Ang mga altcoin na dapat bisitahin ay maaaring makabenefit mula sa pinabuting antas ng suporta sa kritikal na infrastructure kung susundin ng OpenAI ang kanilang $100 milyon na plano upang tulungan ang mga propesyonal ng cybersecurity sa larangan na ito.
Inilathala ng CoinDesk:

Ang Chief Technology Officer at co-founder ng Charge Robotics, Max Justicz, ay gumamit ng isang model mula sa OpenAI upang makahanap ng seriyosong butas; kung gagamitin, maaaring magkaroon ng kontrol ang mga hacker sa mga server na tumatakbo sa Ubuntu. Ang Ubuntu ay isang malawakang ginagamit na open-source, Linux-based na operating system.

May interes sa cybersecurity si Justicz at dating nahanap din niya ang mga vulnerability sa parehong codebase. Sinabi niya sa TechCrunch na natuklasan niya ang problema sa pamamagitan ng GPT 5.6 Sol na ipinakilala ni OpenAI noong Hulyo, gamit ang kanilang proyektong tinatawag na Daybreak Blue. Ang proyektong ito ay nagbibigay-daan sa mga tagapagtanggol ng cybersecurity na gamitin ang mga makapangyarihang advanced model.

“Iinom ko lang ang ChatGPT sa parehong code, at sinabi ko, ‘Nakakita ako ng isang bug na na-repair na ilang taon na ang nakalipas, tulungan mo akong makahanap ng isang bug na magkakasalungat o mas malubhang bug,’ at sa loob ng 2 oras, natagpuan nito ito,” sabi ni Justicz. “Ang vulnerability na ito ay sobrang kumplikado, mahirap makita ng tao, pero totoo ito!”

Ipinagkumpara niya ang problema sa Debian Project, na responsable sa pagpapanatili ng kaugnay na software, at naglabas agad ng patch upang ayusin ang vulnerability. Walang kilalang ebidensya na ginamit ang vulnerability. Gayunpaman, ang pagkakakita niya sa problema sa ganitong madaling paraan ay nagpapakita na kahit ang mga baguhan sa pag-hack ay maaaring gamitin ang AI models upang makahanap at pagsamantalahan ang mga potensyal na vulnerability, at maaaring ang mga panganib na ito ay kahit isang maliit na bahagi lamang ng isang malaking problema.

Bilang lang kong maraming oras at pagkakataon na makakapag-access sa mas maliwanag na mga modelo, ano pa ang maaaring gawin ng mga tao. Dapat nating inaasahan na sa mga susunod na buwan, magkakaroon tayo ng pagkakataong makahanap at gamitin ang ilang napakalaking mga butas,” isinulat ni Justicz sa kanyang social media post tungkol sa pagkakatuklas na ito. “Maaaring malinaw ito para sa karamihan dito, ngunit sa kasalukuyan, ang pagbibigay ng anumang code o binary file na hindi pa na-audit sa isang makapangyarihang AI model ay may malaking kahalagahan.”

Napansin ng OpenAI ang punto na ito. Ipinahayag ng kumpanya ngayon na ipapakilala nila ang isang bagong modelo na nakatuon sa cybersecurity, ang ChatGPT Cyber, sa mga pinakamataas na antas ng mga user sa kanilang cybersecurity project na Daybreak Red. Pinapahintulutan ng Daybreak Red ang mga researcher ng offensive cybersecurity na gamitin ang mga tool para sa paghahanap at pagpapaunlad ng mga vulnerability.

Kahapon lang, sinabi ng OpenAI na ginamit ang parehong modelo para i-scan ang Linux kernel at ihanda ang mga patch para sa mga vulnerabilities, na natuklasan ang 948 na potensyal na problema. Natuklasan din ng OpenAI ang 81 na “bago” na vulnerabilities sa Firefox, isang web browser.

In a statement, this cutting-edge lab said: "Our goal is to significantly expand Daybreak to bring advanced security research to organizations of all sizes, independent researchers, and open-source maintainers."

Laging sinasabi ng OpenAI na may maliit na panahon lamang ang mga tagapagprotecta ng digital infrastructure upang gumawa ng aksyon, dahil ang mga AI model ay magiging mas mahusay sa pag-hack at mas madaling ma-access. Para sa mga tagapagtanggol ng network, ang pakiramdam ay parang inilabas ng mga laboratoryo sa harap ng maraming bagong workload na hihigit sa kanilang kakayahan sa mga yaman. Sabi ni Justicz, nag-spent siya ng halos $5,000 sa mga subscription at token para hanapin ang maraming vulnerabilities.

Bukod sa pag-access sa modelo ng Daybreak, ipinahayag ng OpenAI ang isang plano na may halagang $1 bilyon upang suportahan ang mga propesyonal sa cybersecurity na nakikilahok sa proyekto at nagtatrabaho sa mahahalagang imprastruktura tulad ng grid ng kuryente o sistema ng pagbigay ng tubig.

Ang sariling proyekto ng Daybreak ay nakakaranas din ng ilang kritika. Sinabi ni Justicz na ang advanced lab na ito ay tila “nagpapaliwanag” ng Daybreak Blue, na ginagawa itong mas kakaunti ang kapaki-pakinabang sa paghahanap ng mga vulnerabilities. Sa isang panig, ang paglimita sa pag-access ng mga potensyal na masasamang actor ay maaaring mabuti—sinabi ni Justicz na nang siya ay sumali sa proyekto, tanging larawan ng kanyang driver’s license ang kanyang in-upload. Sa kabilang panig, sinabi ng mga propesyonal sa cybersecurity na kung hindi sila makakagamit ng advanced na teknolohiya, samantalang ang mga masasamang actor ay maaaring i-deploy ang open-source weight models na walang security safeguards, sila ay magiging limitado.

Gayunpaman, sinabi pa rin ng OpenAI na ang bilang ng mga propesyonal sa网络安全 na nakikilahok sa proyektong Daybreak ay “ilang libo” lamang, habang mas malaki ang bilang ng mga potensyal na hacker.

Hindi pa malinaw kung sapat ba ang mga yaman na inilalaan ng Frontier Lab para sa problema na ito. Sinabi ni Eric Wallace, researcher sa teknikal na tim ng OpenAI: “Kasalukuyan naming ginagamit ang isang malaking bahagi ng aming frontier computing power para hanapin at ayusin ang mga vulnerability sa open-source codebases, at ito ay ganap na para sa katarungan.”

Gayunpaman, ang gastos sa paghahanap ng vulnerability sa Linux ay $1.2 milyon, na mas mababa kaysa sa mga gastusin sa token na halos $6 milyon na inilabas ng kumpanya para hanapin ang potensyal na solusyon sa isang kilalang problema sa fluid dynamics.

Kung ang digital infrastructure na ginagamit ng mundo ay talagang mayroon na lamang isang maliit na pagkakataon para sa pagpapabuti, maaaring kailanganin ang mas malakas na pagkakaroon ng pagkakataon.

Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.