Binalewala ni Anthropic ang Mythos AI Model dahil sa mga panganib sa cybersecurity

Ayon sa ME News, noong Abril 16 (UTC+8), sa pamamagitan ng mga eksklusibong interbyu sa mga siyentipiko ng pula, mga tagapamahala, at mga opisyales ng gobyerno ng Estados Unidos, naibalik ang buong proseso ng pagdedesisyon mula sa pagkakatuklas hanggang sa pagpapalabas. Noong Pebrero, ang siyentipiko sa seguridad ng AI na si Nicholas Carlini ay nag-open ng kanyang laptop habang nasa Bali para sa isang kasal at sinubukan ang Mythos, na kung saan ay nagsimula na ang internal review. Sa loob ng ilang oras, natuklasan niya ang maraming paraan ng pag-atake na tumutok sa mga infrastraktura na ginagamit nang malawak sa buong mundo. Pagkatapos bumalik sa San Francisco, natuklasan niya na ang Mythos ay kayang lumikha nang sarili ng mga tool para sa pag-atake sa Linux. Sinabi ni Logan Graham, ang pangunahing tagapamahala ng pula: “Sa loob ng ilang oras pagkatapos makakuha ng modelo, alam namin na iba ito.” Ang pangunahing pagkakaiba ay ang nakaraang flagship na Opus 4.6 ay nakakatulong sa tao upang gamitin ang mga vulnerabilities, samantalang ang Mythos ay kayang kumpletuhin ang buong proseso ng pag-atake nang sarili. Binigyan ni Graham ang management ng babala: Ito ay isang panganib sa pambansang seguridad. Sinabi ni Jared Kaplan, ang co-founder at chief scientific officer, na nagsasaliksik siya nang “napakasiguro” sa Mythos mula pa noong training phase, at noong Enero ay naramdaman niya kung gaano kalakas ang kakayahan ng modelo sa pagtuklas ng vulnerabilities, at kailangan niyang masuri kung ang mga kakayahan na ito ay simpleng teknikal na bagong bagay o “kakaibang kinalaman sa internet infrastructure.” Ang kanyang wakas na konklusyon ay ang huli. Noong huling bahagi ng Pebrero hanggang sa unang linggo ng Marso, ipinahayag niya at ni Sam McCandlish, ang co-founder, sa management kabilang ang CEO na si Dario Amodei at ang president na si Daniela Amodei, at inirerekomenda na huwag i-publish ang modelo ngunit payagan ang mga panlabas na kumpanya, kahit mga kalaban, na subukan ito. Noong unang linggo ng Marso, opisyally tinanggap ng kompanya na gawing isang tool para sa cyber defense ang Mythos. Ang ulat ay naglathala rin ng bagong detalye ng pagsubok. Sa isang early version test, sariling nilikha ng modelo ang isang multi-step attack plan upang laktawan ang mga limitasyon ng environment at makakuha ng access sa internet, at pagkatapos ay nagsimula na mag-post ng content online. Sa isang test na may direksyon, isinulat ng Mythos ang isang browser attack chain na nag-uugnay ng apat na vulnerabilities—isang gawain na sobrang mahirap kahit para sa mga human hacker. Ang JPMorgan Chase ay gumamit na ng malalaking modelo upang matulungan sila sa paghahanap ng kanilang sariling software vulnerabilities bago pa ipalabas ang Mythos, lalo na sa pag-scan ng supply chain at open-source components. Ayon sa mga may-alam, ang pagtuklas at pagbuo ng exploit code para sa zero-day vulnerabilities na dati ay nangangailangan ng ilang araw hanggang sa ilang linggo, ayayari na lamang sa ilang minuto. Sinabi ni CEO Jamie Dimon sa isang telepono conference tungkol sa financial report: “Ang Mythos ay nagpapakita na mayroon pa ring maraming vulnerabilities na kailangan ayusin.” Ang chief security and trust officer ng Cisco, Anthony Grieco, ay naghahalina sa posibilidad na gamitin ng mga attacker ang AI upang manakbog sa mga terminal network device na hindi na nakakatanggap ng security patches. Isang taong may-alam sa pagsusuri ng depensa ng Estados Unidos ay nagsabi na pagbibigay ng isang hacker ng Mythos o katulad na tool ay katumbas ng pagpapalakas ng isang ordinaryong sundalo bilang isang special forces; ang mga criminal hacker groups ay maaaring makamit ang antas ng isang maliit na ahensya ng intelyihensya; at ang mga maliit bansa ay maaaring makakuha ng kakayahan sa cyber attack na katumbas ng mga malalaking bansa. Sinabi ni Rob Joyce, dating cybersecurity chief ng NSA: “Naniniwala ako na sa huli ay gagawin ng AI tayong mas ligtas, pero mayroon tayong madilim na panahon mula dito hanggang doon—nasa abiso ang mga attacker, at ang mga organisasyon na hindi maayos ang kanilang pundasyon ay mabubuksan.” (Source: BlockBeats)