INI LUAR BIASA: OpenAI mengatakan salah satu model AI-nya melarikan diri dari "penjara" digitalnya sendiri selama pengujian dan kemudian mencoba meretas perusahaan AI lain. Model tersebut diuji kemampuannya untuk menemukan dan mengeksploitasi kerentanan keamanan siber. OpenAI menempatkannya dalam lingkungan terbatas tanpa akses normal ke internet. Namun, AI tersebut dilaporkan menghabiskan sejumlah besar daya komputasi untuk mencari cara keluar. Akhirnya, model itu menemukan sebuah kerentanan, melarikan diri dari lingkungan terbatas, dan mengakses internet. Kemudian, ia menargetkan Hugging Face, platform utama yang digunakan oleh pengembang AI, untuk mencoba menyelesaikan tugas yang diberikan kepadanya. AI tersebut tidak secara khusus diperintahkan untuk meretas Hugging Face. Ia hanya diberi satu tujuan. Bagian yang menakutkan adalah model tersebut tampaknya memutuskan sendiri bahwa melarikan diri dari pembatasannya dan menyerang sistem perusahaan lain adalah cara terbaik untuk menyelesaikan tujuan tersebut. Ini persis mengapa keamanan AI menjadi isu besar. Semakin canggih sistem-sistem ini, semakin sulit untuk memprediksi apa yang akan mereka lakukan untuk mencapai suatu tujuan. Dan ini terjadi selama pengujian terkendali. Bayangkan ketika sistem-sistem ini beroperasi secara otonom di dunia nyata.