Saat kontroversi keamanan AI memanas, media asing melaporkan bahwa Jeffrey Hinton, Li Fei-Fei, dan Andrew Ng baru-baru ini membahas masalah model terbuka di konferensi Ai4 di Las Vegas. Ketiganya tidak sepenuhnya sependapat, tetapi semuanya menentang dominasi ritme perkembangan AI oleh beberapa perusahaan teknologi besar.
Menentang sedikit perusahaan yang menguasai akses
Artikel tersebut menyatakan bahwa salah satu kekhawatiran bersama ketiga peneliti adalah bahwa inovasi mungkin terbatas jika AI dikendalikan oleh sejumlah perusahaan kecil. Wu Enda secara terbuka mengatakan bahwa ia tidak ingin ada "penjaga gerbang" di bidang AI, karena hal ini akan membatasi cara pengembang, perusahaan, dan publik mengakses AI.
Ia percaya bahwa perusahaan besar secara alami akan melindungi keunggulan mereka, dan juga dapat memengaruhi pembentukan aturan industri. Akibatnya, mungkin hanya perusahaan dengan dana paling besar dan daya komputasi terkuat yang dapat terus membangun sistem paling canggih. Arah yang diberikan oleh Wu En达 adalah menjaga agar banyak penyedia model tetap ada, membiarkan model dan perusahaan bersaing di pasar, bukan membiarkan beberapa platform saja mendominasi.
Hinton membedakan kode sumber terbuka dengan bobot terbuka
Namun, Hinton tidak menganggap "perangkat lunak sumber terbuka" dan "model dengan bobot terbuka" sebagai hal yang sama. Menurutnya, perangkat lunak sumber terbuka mempublikasikan kode, sehingga pihak luar dapat memeriksa kerentanan dan mengusulkan perbaikan; sedangkan bobot terbuka secara langsung memberikan parameter model besar yang telah dilatih kepada pihak luar, yang secara signifikan menurunkan hambatan untuk pengembangan ulang.
Dia menyatakan bahwa sebelumnya ia menentang pembukaan bobot karena hal ini memungkinkan sejumlah pihak mengubah model dasar menjadi alat untuk tujuan seperti serangan siber dengan biaya lebih rendah. Namun, ia juga mengakui bahwa perdebatan ini sekarang sulit dibalikkan dalam kenyataan. Seiring munculnya terus-menerus model dengan bobot terbuka, hambatan yang dulunya ditimbulkan oleh biaya pelatihan telah jelas berkurang.
Meskipun demikian, Hinton tidak menganjurkan penghentian perkembangan AI. Artikel tersebut menyatakan bahwa ia masih percaya AI akan meningkatkan produktivitas serta memperbaiki bidang-bidang seperti pendidikan dan perawatan kesehatan, namun tidak boleh mengabaikan risiko potensialnya. Ia juga menyatakan bahwa mengklasifikasikan semua orang yang khawatir tentang risiko AI sebagai "pencipta kepanikan" tidak adil.
Li Fei-Fei mendukung pembukaan bertingkat
Berbeda dengan Wu Enda yang menekankan persaingan terbuka dan Hinton yang menekankan risiko keamanan, Li Feifei menolak menyederhanakan diskusi menjadi dua pilihan: "terbuka sepenuhnya" atau "tertutup sepenuhnya". Ia berpendapat bahwa sistem perangkat lunak dan ilmiah yang kompleks secara alami memiliki berbagai tingkatan, dan berbagai tahap dapat menerapkan tingkat keterbukaan yang berbeda.
Dia menggunakan fisika nuklir sebagai contoh, menyatakan bahwa makalah akademik dapat dipublikasikan secara terbuka, tetapi bahan uranium diatur ketat, sementara tahap eksperimen berada di antara keduanya. Berdasarkan hal ini, dia berpendapat bahwa AI juga dapat mengikuti pendekatan serupa: mempertahankan tingkat keterbukaan dalam penemuan ilmiah, pendidikan, dan kerja sama internasional, sekaligus memungkinkan perusahaan untuk mempertahankan sistem dan model bisnis tertutup.
Artikel tersebut juga menyebutkan bahwa Li Fei-Fei mengutip Proyek Genom Manusia untuk menjelaskan bahwa platform pengetahuan dasar yang dibentuk melalui kolaborasi antara lembaga publik dan sektor swasta dapat secara bersamaan mendukung kemajuan penelitian ilmiah, keuntungan perusahaan, dan aplikasi sosial. Ia berpendapat bahwa infrastruktur AI juga harus berkembang ke arah ini, bukan terjebak dalam perdebatan hitam-putih.
Ketiganya setuju bahwa regulasi diperlukan
Meskipun ketiganya memiliki pandangan berbeda mengenai batasan model terbuka, sikap mereka dalam masalah regulasi cenderung serupa. Artikel tersebut menyatakan bahwa mereka semua percaya bahwa AI masih memerlukan sejumlah aturan untuk berkembang ke arah yang lebih bermanfaat bagi masyarakat.
Hinton menyatakan bahwa tidak bisa menyerahkan sepenuhnya kepada pengusaha untuk menentukan bagaimana AI harus berkembang. Perdebatan seputar model terbuka kini bukan hanya soal pilihan teknis, tetapi juga menyangkut distribusi kekuasaan industri, persaingan internasional, serta arah tata kelola keamanan AI.