CEO Microsoft, Satya Nadella, dalam podcast 20VC, mengakui bahawa dahulu beliau percaya peningkatan kemampuan AI akan secara semula jadi membawa kemajuan dalam keselarasan dengan nilai manusia, tetapi kini pandangannya telah berubah. Beliau menunjukkan bahawa walaupun saiz model terus membesar, masalah keselarasan justru menjadi lebih rumit, dan kawalan tidak meningkat seiring dengan peningkatan kemampuan. Beliau berpendapat agar AI dianggap sebagai ancaman keselamatan dalaman, dan perlu membina tiga lapisan pertahanan: reka bentuk sistem yang boleh dipercayai, pengawasan manusia, dan prosedur operasi. Beliau juga menyeru pembentukan piawaian industri. Pandangan ini selari dengan peringatan pemimpin industri seperti Altman dan Amodei, menunjukkan bahawa tata kelola AI kini berpindah dari slogan kepada keperluan kejuruteraan dan pembatasan institusi yang ketat.Penulis artikel, sumber: AIBase
Pengarah eksekutif Microsoft, Satya Nadella, telah mengalami perubahan terbuka dalam penilaian beliau terhadap isu "penyesuaian" AI. Dalam episod terbaru podcast 20VC, pembawa acara Harry Stebbings bertanya kepadanya tentang perubahan pemikiran dalam setahun terakhir, dan Nadella mengaku: dahulu beliau selalu berpendapat bahawa semakin kuat AI, semakin mudah ia akan menyesuaikan tingkah laku dengan nilai dan matlamat manusia.
Dari "penyelesaian semula jadi" ke "lebih rumit"
Namun, kenyataan tidak berjalan mengikut skrip. Nadella mengakui bahawa pertumbuhan saiz model dan peningkatan kemampuan berterusan memang sebagaimana yang dijangkakannya; tetapi "penyesuaian" — iaitu memastikan tingkah laku AI patuh — masih belum diselesaikan. Beliau berkata: "Saya dahulu selalu fikir masalah penyesuaian akan selesai dengan sendirinya. Saya tidak lagi berfikir begitu. Penyesuaian mungkin merupakan masalah yang lebih rumit dan berbeza sifatnya."
Yang dimaksud dengan penyelarasan adalah tentang sama ada perilaku AI akan mematuhi arahan manusia atau selaras dengan matlamat manusia. Apabila model menjadi sebesar yang mana pereka pun sukar meramalkan tindakannya sepenuhnya, pertumbuhan kemampuan dan pertumbuhan kawalan menjadi tidak sejajar, menjadi realiti baru yang harus dihadapi oleh Nadella.
Gunakan AI sebagai "pengkhianat dalaman" untuk mencegah
Tanda-tanda kecemasan ini sudah ada sejak awal. Pada 10 Oktober, Nadella memposting di platform X untuk memperingatkan tentang risiko AI dan menyerukan agar pengawasan keselamatan luar diperketat. Cadangan utamanya sangat tajam: syarikat seharusnya memandang model AI sebagai "ancaman keselamatan dalaman" dan mengambil langkah perlindungan dengan mengandaikan bahawa model tersebut telah diserang.
Dalam postingannya, beliau menulis bahawa model yang tingkah lakunya sukar diramal sepenuhnya perlu dilindungi oleh tiga lapisan pertahanan: "reka bentuk sistem yang boleh dipercayai dan pasti, pengawasan manusia, dan prosedur operasi yang sempurna"; di mana standard belum mencukupi, peraturan industri perlu segera ditubuhkan.
Nadella bukan satu-satunya. Altman dari OpenAI dan Amodei dari Anthropic pernah memperingatkan tentang ancaman berpotensi dari AI; pada Julai tahun ini, lebih daripada 1,000 profesional menandatangani surat terbuka untuk memperingatkan bahawa kelajuan kemajuan kemampuan AI mungkin sudah melampaui kemampuan manusia untuk memahami atau mengawalnya. Apabila para peniaga terkemuka secara kolektif mengurangkan kepercayaan mereka terhadap "semakin kuat, semakin selamat", pengurusan AI mungkin perlu bergerak dari slogan kepada kejuruteraan dan institusi yang lebih ketat.