Semasa perdebatan keselamatan AI meningkat, media asing melaporkan bahawa Jeffrey Hinton, Li Fei-Fei, dan Andrew Ng baru-baru ini membincangkan isu model terbuka di perjumpaan Ai4 di Las Vegas. Ketiga-tiga orang tersebut tidak sepenuhnya sependapat, tetapi semuanya menentang pengawasan ritma perkembangan AI oleh sedikit syarikat teknologi besar.
Menentang penguasaan pintu masuk oleh beberapa syarikat sahaja
Artikel tersebut menyatakan bahawa satu kebimbangan bersama ketiga-tiga penyelidik ialah bahawa inovasi mungkin terbatas jika AI dikendalikan oleh sedikit syarikat sahaja. Wu Enda secara terus menyatakan bahawa beliau tidak ingin melihat "penjaga pintu" muncul dalam bidang AI, kerana ia akan membatasi cara pengembang, perusahaan, dan awam mengakses AI.
Beliau percaya bahawa syarikat besar secara semula jadi akan melindungi kelebihan mereka sendiri, dan mungkin juga mempengaruhi pembentukan peraturan industri. Akibatnya, mungkin hanya syarikat dengan dana paling banyak dan kuasa pengiraan terkuat yang mampu terus membangunkan sistem paling canggih. Arah yang diberikan oleh Wu En-da ialah untuk mengekalkan kehadiran pelbagai penyedia model, membiarkan model dan syarikat bersaing di pasaran, bukan membiarkan beberapa platform sahaja menguasai.
Hinton membezakan kod sumber terbuka dengan berat terbuka
Namun, Hinton tidak menganggap “perisian sumber terbuka” dan “model dengan bobot terbuka” sebagai perkara yang sama. Menurutnya, perisian sumber terbuka memaparkan kod, membolehkan pihak luar memeriksa kelemahan dan mencadangkan pengubahsuaian; manakala bobot terbuka secara langsung memberikan parameter model besar yang telah dilatih kepada pihak luar, yang secara signifikan mengurangkan rintangan untuk pembangunan semula.
Beliau menyatakan bahawa pada masa lalu beliau menentang pembukaan bobot kerana ia akan membolehkan sesetengah orang mengubah model asas menjadi alat untuk tujuan serangan siber dengan kos yang lebih rendah. Namun, beliau mengakui bahawa perdebatan ini sekarang sukar dibalikkan dalam realiti. Dengan munculnya model bobot terbuka secara berterusan, had yang dahulunya ditimbulkan oleh kos latihan telah jelas dilemahkan.
Namun demikian, Hinton tidak menyokong penghentian perkembangan AI. Artikel tersebut menyatakan bahawa beliau masih percaya bahawa AI akan meningkatkan produktiviti serta memperbaiki bidang-bidang seperti pendidikan dan kesihatan, tetapi risiko berpotensi tidak boleh diabaikan. Beliau juga menyatakan bahawa menggolongkan semua orang yang prihatin terhadap risiko AI sebagai “pencipta kepanikan” adalah tidak adil.
Li Fei-Fei menyokong pembukaan bertingkat
Berbeza dengan Andrew Ng yang menekankan persaingan terbuka dan Hinton yang menekankan risiko keselamatan, Li Fei-Fei menentang penyederhanaan perbincangan kepada hanya dua pilihan: “terbuka sepenuhnya” atau “tertutup sepenuhnya”. Beliau berpendapat bahawa sistem perisian dan penyelidikan yang kompleks sudah lama mempunyai pelbagai peringkat, dan tahap keterbukaan yang berbeza boleh diterapkan pada pelbagai peringkat.
Dia menggunakan fizik nuklear sebagai contoh, di mana kertas akademik boleh diterbitkan secara terbuka, tetapi bahan uranium dikawal ketat, sementara peringkat eksperimen berada di antara keduanya. Berdasarkan ini, dia berpendapat bahawa AI juga boleh mengambil pendekatan serupa: mengekalkan keterbukaan tertentu dalam penemuan penyelidikan, pendidikan, dan kerjasama antarabangsa, sambil membenarkan syarikat mengekalkan sistem dan model perniagaan tertutup.
Artikel tersebut juga menyebutkan bahwa Li Fei-Fei merujuk kepada Projek Genom Manusia untuk menjelaskan bahawa platform pengetahuan asas yang dibentuk melalui kerjasama antara institusi awam dan sektor swasta boleh menyokong kemajuan penyelidikan, keuntungan perniagaan, dan aplikasi sosial secara serentak. Beliau berpendapat bahawa infrastruktur AI juga harus berkembang ke arah ini, bukannya terperangkap dalam perdebatan yang bersifat hitam-putih.
Ketiga-tiga orang mengakui perlunya pengawasan
Walaupun ketiga-tiga orang mempunyai pandangan berbeza mengenai sempadan model terbuka, sikap mereka terhadap isu pengawasan adalah serupa. Artikel tersebut menyatakan bahawa mereka semua percaya bahawa AI masih memerlukan beberapa peraturan untuk memastikan perkembangannya berjalan ke arah yang lebih menguntungkan masyarakat.
Hinton menyatakan bahawa perkembangan AI tidak boleh sepenuhnya diserahkan kepada pengusaha untuk menentukan sendiri. Perdebatan mengenai model terbuka kini bukan sekadar perbezaan jalan teknikal, tetapi juga berkaitan dengan pembahagian kuasa industri, persaingan antarabangsa, dan arah tatacara keselamatan AI.