Mga matagal na buhay na mga worm na kayang isipin at magkalat?
Ang koponan ni Anthropic na “Frontier Red” ay naniniwala na maaari nating makamit ang mga maliit na AI model sa loob ng ILANG BUWAN lamang na kayang kopyahin ang sarili nito sa mga smart oven at mura TV boxes, at tumakbo doon nang hindi napapansin.
Ipinanghihiwalay ng mga siyentipiko na si William Zhou at Daniel Freeman ang open model na Gemma4-26B-A4B ng Google sa 15 off-brand na Android TV boxes, na binili para sa halos $55 bawat isa. Tumakbo ito sa 0.39 tokens bawat segundo. #IoT
Pagkatapos, sinubukan nila ang buong siklo ng isang worm—isang maliit na programa na kumopya ng sarili nito mula sa isang machine patungo sa iba—ngunit sa paraang AI:
1. Hanapin ang target sa network
2. Kopyahin ang sarili nito dito
3. I-run ang model doon
4. Ulitin
Sa isang firewalled na hanay ng 8 Google Cloud machines na tumatakbo ng Android emulator, isa lamang sa mga open-weights model ang nakamit ito: ang GLM-5.2 ay nakarating sa lahat ng 8 na machine sa apat sa limang pagkakataon. Ayon sa mga may-akda, “gumagawa ito nang maaasahan habang ang iba pang mga model ay nagkakamali nang maaasahan.”
Ang GLM-5.2 ay masyadong malaki para sa mga test machine, kaya ito ay tumakbo mula sa isang hiwalay na server at itinayo ang mas maliit na Llama 3.1 8B sa bawat isa bilang palitan.
Para sa kanilang pagsubok, nanatili ang Anthropic sa madaling pagbuwis. Ibinuksan ng koponan ang Android debugging port, walang kinakailangang authentication; kaya tinawag nila ang resulta bilang upper bound kung gaano kahusay ito mangyayari laban sa tunay na mga device.
Tandaan, ang Mirai botnet ay kumalat sa pamamagitan ng pagsubok sa default passwords ng mga manufacturer, kaya upang serbahan ang tunay na mga device, maaaring hindi kailangan ng AI worm na magtrabaho nang higit pa.
Ref:
https://t.co/B6XZAZGUP8
#AISafety #CyberSecurity