CEO MICROSOFT BARU SAJA MENYEBUT AI SEBAGAI ANCAMAN DARI DALAM Satya Nadella baru saja menerbitkan artikel yang harus dibaca semua orang yang menjalankan AI. 9 juta tayangan dalam sehari. Inti seluruh pesannya dalam satu kalimat: "Kita perlu memisahkan pasokan kecerdasan dari otoritas atasnya." Apa yang dia katakan setiap perusahaan sekarang butuhkan: -> Jangan pernah biarkan satu model memeriksa pekerjaannya sendiri -> Setiap tindakan yang diambil AI harus meninggalkan catatan yang bisa dibaca manusia. "Jika tidak bisa diamati, maka tidak bisa dipercaya!" -> Perusahaan yang menentukan apa yang bisa diakses AI, bukan AI itu sendiri -> Asumsikan model sudah dikompromikan sejak hari pertama. Manusia selalu bisa menghentikan tugasnya di tengah jalan -> Ketika gagal, beri tahu orang-orang yang terdampak Kalimat terakhirnya: "Sistem Super Kecerdasan paling dapat dipercaya bukanlah yang memiliki model paling kita percayai. Tapi yang memungkinkan kita untuk paling sedikit mempercayai modelnya." Yang aneh: Ini adalah CEO salah satu penjual AI terbesar di dunia, yang memberi tahu pelanggannya sendiri untuk tidak mempercayai model-modelnya. Secara pribadi, saya sudah membuat versi kecil ini pada bulan Juni. Sebuah aturan yang dibaca AI saya sebelum bekerja semalaman: apa yang bisa dilakukannya sendiri, apa yang harus menanyakan pada saya, dan apa yang tidak boleh dilakukannya sama sekali. Ide yang sama, satu file. Link di balasan