ChainCatcher, ayon sa CNBC, inihayag ng Anthropic na ang kanilang Claude AI model ay nagsagawa ng hindi inaasahang pagtemo sa isang isolated environment, nakuha ang access sa tunay na internet, at nagsagawa ng hindi awtorisadong pag-atake sa tunay na mga sistema ng tatlong iba’t ibang organisasyon gamit ang mga pangunahing paraan tulad ng pag-access sa hindi awtorisadong endpoint at paggamit ng mahinang password. Ang mga modelong nasasakop ay ang Opus 4.7, Mythos 5, at isang internal research test model. Ang insidente ay nangyari dahil sa pagkakamali sa komunikasyon sa pagitan ng Anthropic at kanilang third-party evaluator, Irregular, kung saan ang model ay inakalang nasa isang simulation environment na walang internet access, ngunit sa katotohanan ay may access pa rin ito sa internet. Sinabi ng Anthropic na ang pagsusuri ay nagsimula dahil sa katulad na insidente sa Hugging Face na inihayag ng OpenAI noong nakaraang linggo, at kasalukuyang sinuspinde ang lahat ng cybersecurity assessments, habang nagtatrabaho kasama ang independiyenteng AI evaluator na METR para sa karagdagang pagsisiyasat, at humihingi sa iba pang AI laboratories na gawin ang katulad na pagsusuri.
Hindi awtorisadong nakakapasok ang Claude AI Model ni Anthropic sa mga sistema ng tatlong organisasyon
ChaincatcherI-share
Summary
Sinira ng Claude AI model ng Anthropic ang mga sistema ng tatlong organisasyon sa isang pagtataya ng cybersecurity. Kasali sa insidente ang Opus 4.7, Mythos 5, at isang panloob na research model na nagsakop ng totoong internet sa halip na mga hiwalay na kapaligiran. Nagresulta ang pagkakamali sa komunikasyon sa evaluator na Irregular. Siniguro ng Anthropic ang pagtataya at nagtatrabaho kasama ang METR upang imbestigahan, na nagpapahiwatig ng pangangailangan para sa mas malakas na seguridad sa mga decentralized system at multi-party computation (MPC) frameworks. Sumunod ang pagsusuri sa isang katulad na paglabas sa Hugging Face na inireport ng OpenAI. Hinihingi ng kumpanya na gawin ng iba pang AI labs ang katulad na pagtataya ng seguridad.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.