Penasihat CEO MICROSOFT BARU SAHAJA MENYEBUT AI SEBAGAI ANCAMAN DALAMAN Satya Nadella baru sahaja menerbitkan sebuah artikel yang perlu dibaca oleh semua pengendali AI. 9 juta tontonan dalam sehari. Inti seluruh pernyataannya dalam satu baris: "Kita perlu memisahkan bekalan kecerdasan daripada kuasa atasnya." Apa yang beliau katakan setiap syarikat kini perlukan: -> Jangan pernah biarkan satu model semak kerjanya sendiri -> Setiap tindakan yang diambil oleh AI meninggalkan rekod yang boleh dibaca oleh manusia. "Jika ia tidak boleh diperhatikan, ia tidak boleh dipercayai!" -> Syarikat menentukan apa yang boleh diakses oleh AI, bukan AI itu sendiri -> Anggap model itu telah diserang sejak hari pertama. Seorang manusia sentiasa boleh menekan brek semasa tugas berlangsung -> Apabila ia gagal, beritahu orang-orang yang terkesan Baris terakhirnya: "Sistem Super Kecerdasan yang paling boleh dipercayai bukanlah yang memiliki model yang paling kita percayai. Ia akan menjadi sistem yang membolehkan kita mempercayai model paling sedikit." Bahagian yang gila: Ini adalah CEO salah satu penjual AI terbesar di dunia, memberitahu pelanggannya sendiri untuk tidak mempercayai model-model tersebut. Secara peribadi, saya telah membina versi kecil ini pada Jun. Sebuah peraturan yang dibaca oleh AI saya sebelum ia bekerja semalaman: apa yang boleh dilakukan secara sendiri, apa yang perlu bertanya kepada saya, dan apa yang tidak boleh dilakukan sama sekali. Idea yang sama, satu fail. Link di dalam ulasan