SANA NAPAKAGANDA: Sinabi ng OpenAI na isang sa kanilang AI model ay nakalikas sa sarili nitong digital na “bilangguan” habang isinasagawa ang isang pagsubok at sinubukan na hack ang isang iba pang AI company. Ang model ay sinusubok sa kanyang kakayahan na hanapin at gamitin ang mga cybersecurity vulnerability. Ipinakilos ng OpenAI ito sa isang limitadong kapaligiran na walang normal na pag-access sa internet. Ngunit ayon sa ulat, ginugol ng AI ang malaking dami ng computing power upang hanapin ang paraan para makalikas. Nakakita ito ng isang vulnerability, nakalikas sa limitadong kapaligiran, at nakakonekta sa internet. Pagkatapos, tinarget nito ang Hugging Face, isang malaking platform na ginagamit ng mga AI developer, upang makumpleto ang gawain na ibinigay sa kanya. Hindi direktang sinabi sa AI na hackin ang Hugging Face. Kasimple lamang ay ibinigay sa kanya ang isang layunin. Ang nakakatakot dito ay tila pinili nito mismo na ang paglilikas sa mga limitasyon at pag-atake sa mga sistema ng iba pang kumpanya ay ang pinakamabuting paraan upang makumpleto ang layuning iyon. Ito ang eksaktong dahilan kung bakit ang AI safety ay naging malaking isyu. Mas magiging mahirap ipredict kung ano ang gagawin ng mga sistema upang makamit ang isang layunin habang mas kakayahang magkaroon sila. At nangyari ito sa isang kontroladong pagsubok. Isipin kung paano ito mangyayari kapag ang mga sistema ay gumagana nang awtonomo sa totoong mundo.