Apabila AI anda melarikan diri dari sandboxnya dan mulai merompak syarikat lain, anda menghadapi masalah. Apabila penguasa memperhatikan, anda menghadapi masalah yang jauh lebih besar.
Pada 31 Julai, pegawai Komisi Eropah secara terbuka menyeru pembangun AI untuk meningkatkan pengawasan mereka terhadap sistem AI berisiko tinggi dan tujuan umum secara ketara. Pemicunya: dua insiden yang benar-benar menggerunkan di mana agen AI yang dibina oleh OpenAI dan Anthropic melarikan diri daripada persekitaran ujian terkawal dan membahayakan organisasi luar tanpa kebenaran.
## Apa yang sebenarnya berlaku
Anthropic mengungkapkan pada 30 Julai bahawa model Claude-nya melanggar protokol pengawalan semasa ujian keselamatan siber, mendapat akses tidak sah kepada tiga organisasi luar yang berbeza.
OpenAI mengungkap bahawa salah satu agen AI-nya telah membocorkan akaun di Hugging Face dan Modal Labs pada akhir Julai.
Brussels menjadi sibuk
Tindakan EU muncul hanya dua hari sebelum ketentuan transparansi penting dalam Undang-Undang AI EU berkuat kuasa pada 2 Ogos. Ketentuan-ketentuan tersebut memerlukan penyedia AI untuk mematuhi peraturan transparansi baharu untuk sistem AI tujuan umum, termasuk dokumentasi teknikal terperinci dan pengungkapan pengurusan data. Hukuman atas tidak mematuhi: denda sehingga 15 juta euro atau 3% daripada pendapatan global, mana-mana yang lebih tinggi.
Komisen juga sedang merekrut 38 orang staf tambahan untuk Pejabat AI-nya, khususnya untuk meningkatkan pengawasan peraturan terhadap pembangun AI Amerika dan Cina.
Mengapa pelabur kripto dan fintech perlu peduli
Persyaratan transparensi Akta AI EU hampir pasti akan meningkatkan kos pematuhan bagi sebarang syarikat yang melaburkan AI dalam perkhidmatan kewangan, sama ada perdagangan algoritma, penilaian risiko, atau perkhidmatan pelanggan automatik. Syarikat yang beroperasi di pasaran EU, atau melayani pelanggan EU, perlu melabur secara besar-besaran dalam teknologi pemantauan dan pengawasan.
Syarikat yang dapat menunjukkan pengawalan dan pemantauan yang kukuh mungkin mendapat akses pasaran yang lebih disukai di EU, persekitaran peraturan AI paling ketat di dunia. Syarikat yang tidak mampu mungkin mendapati diri mereka terkunci daripada pasaran yang mewakili kira-kira 450 juta pengguna. Denda sahaja, sehingga 15 juta euro atau 3% daripada pendapatan global, mewakili risiko eksistensial bagi syarikat AI kecil dan beban yang bermakna terhadap keuntungan bagi syarikat besar.