CEO Microsoft, Satya Nadella, dalam podcast 20VC, secara terbuka mengakui bahwa ia sebelumnya percaya peningkatan kemampuan AI akan secara alami membawa kemajuan dalam keselarasan dengan nilai-nilai manusia, namun kini telah mengubah pandangannya. Ia menunjukkan bahwa meskipun ukuran model terus membesar, masalah alignment justru menjadi lebih rumit, dan kendali tidak meningkat sejalan dengan peningkatan kemampuan. Ia berpendapat agar AI dipandang sebagai ancaman keamanan internal, sehingga diperlukan tiga lapis pertahanan: desain sistem yang andal, pengawasan manusia, dan prosedur operasional, serta menyerukan pembentukan norma industri. Pandangan ini selaras dengan peringatan para pemimpin industri seperti Altman dan Amodei, menunjukkan bahwa tata kelola AI kini berpindah dari slogan menjadi keterbatasan teknis dan institusional yang nyata.Penulis artikel, sumber: AIBase
CEO Microsoft, Satya Nadella, mengalami perubahan publik dalam penilaiannya terhadap masalah "alignment" AI. Dalam episode terbaru podcast 20VC, host Harry Stebbings bertanya kepadanya apa yang berubah dalam pemikirannya selama setahun terakhir, dan Nadella mengakui bahwa sebelumnya ia selalu percaya bahwa semakin kuat AI, semakin otomatis masalah menyesuaikan perilakunya dengan nilai dan tujuan manusia akan terpecahkan.
Dari "solusi alami" ke "lebih rumit"
Namun, kenyataannya tidak berjalan sesuai naskah. Nadella mengakui bahwa pertumbuhan ukuran model dan peningkatan kemampuannya memang sesuai harapannya; namun, "alignmen"—yaitu membuat perilaku AI tetap teratur—hingga kini belum terselesaikan. Ia berkata: "Dulu saya selalu menganggap masalah alignmen akan terselesaikan dengan sendirinya. Saya tidak lagi berpikir demikian. Alignmen mungkin merupakan masalah yang lebih rumit dan berbeda sifatnya."
Yang dimaksud dengan keselarasan adalah apakah perilaku AI mendengarkan manusia atau sesuai dengan tujuan manusia. Ketika model menjadi sebesar sehingga desainernya sendiri sulit memprediksi tindakannya sepenuhnya, pertumbuhan kemampuan terlepas dari pertumbuhan kendali, menjadi realitas baru yang harus dihadapi oleh Nadella.
Gunakan AI sebagai "pengkhianat dalam" untuk pencegahan
Tanda-tanda kewaspadaan ini sudah muncul sejak lama. Pada 10 Oktober, Nadella memposting di platform X untuk memperingatkan risiko AI dan menyerukan penguatan pengendalian keamanan eksternal. Saran intinya sangat tajam: perusahaan harus memandang model AI sebagai "ancaman keamanan internal" dan mengasumsikan bahwa model tersebut sudah diretas saat melakukan perlindungan.
Dia menulis di postingannya bahwa untuk model yang perilakunya sulit diprediksi sepenuhnya, perlu diterapkan tiga lapis pertahanan: "desain sistem yang andal dan deterministik, pengawasan manusia, dan prosedur operasi yang sempurna"; jika standarnya masih belum memadai, segera buat aturan industri.
Nadella bukan satu-satunya. Altman dari OpenAI dan Amodei dari Anthropic juga pernah memperingatkan tentang potensi ancaman AI; pada Juli tahun ini, lebih dari 1.000 profesional menandatangani surat terbuka yang mengingatkan bahwa kecepatan kemajuan kemampuan AI mungkin sudah melampaui kemampuan manusia untuk memahami atau mengendalikannya. Ketika para trader terkemuka secara kolektif mengurangi kepercayaan terhadap "semakin kuat, semakin aman", tata kelola AI mungkin harus berpindah dari slogan menuju rekayasa dan institusi yang lebih nyata.