Semasa pertandingan AI mempercepat, ketua OpenAI secara jarang memaparkan tiga kemungkinan masa depan yang boleh mengubah landskap seluruh industri.Penulis artikel, sumber: Wall Street Journal
Pada 19 Oktober, menurut The Information, CEO OpenAI, Sam Altman, minggu lalu menggambarkan kepada pekerja di dalam tiga laluan perkembangan keselamatan AI yang dibincangkan dalam industri: membina organisasi pengawasan antarabangsa yang serupa dengan Agensi Tenaga Atom Antarabangsa, menggabungkan semua makmal AI besar menjadi satu entiti tunggal, serta monopoli kuasa pengiraan oleh satu syarikat, "meleburkan semua GPU pesaing". Pernyataan ini dibuat tepat ketika kerajaan Trump sedang memulakan mekanisme pengawasan pertama terhadap pembangun "kecerdasan super".
Altman menyatakan bahawa OpenAI perlu membuat keputusan dalam setahun ke depan tentang jalan mana yang akan didorong. Beliau juga menekankan harapan agar manusia sentiasa mengawal teknologi ini dan mengelakkan pengumpulan kuasa industri yang berlebihan.
Tiga lintasan, masing-masing dengan tujuan berbeza. Menurut dua sumber yang berpengetahuan, lintasan pertama yang diperkenalkan Altman kepada pekerja ialah membina sebuah organisasi antarabangsa serupa dengan Agensi Tenaga Atom Antarabangsa (IAEA) yang bertanggungjawab melaksanakan piawaian keselamatan AI. Altman sendiri cenderung menyokong cadangan ini.
Sebenarnya, idea Altman untuk mewujudkan agensi pengawasan antarabangsa seperti IAEA telah lama diusulkan. Dilaporkan, pada Mei 2023, Altman bersama rakan penubuh OpenAI, Greg Brockman, dan ketua saintis pada masa itu, Ilya Sutskever, telah menerbitkan artikel bersama yang menyatakan bahawa industri mungkin memerlukan "agensi pengawasan superintelligence yang serupa dengan IAEA", dengan kuasa untuk memeriksa sistem, memerlukan audit, dan melacak kuasa komputasi serta penggunaan tenaga.
Konsep ini memerlukan penyertaan semua negara pengembang model terkini dalam kerjasama antarabangsa.
Jalur kedua dipanggil oleh Altman sebagai "skema Demis"—mengutip idea yang dicadangkan sekitar sepuluh tahun lalu oleh Demis Hassabis, bekas ketua DeepMind di bawah Alphabet: membina sebuah institusi serupa dengan Organisasi Eropah untuk Penyelidikan Nuklear (CERN) untuk menggabungkan atau menyatukan hasil utama syarikat-syarikat AI, serta menyediakan model baharu kepada negara-negara yang bekerjasama.
Jalan ketiga, yang Altman sebut sebagai "skema Eliezer", dinamakan sempena ahli teori keselamatan AI terkenal, Eliezer Yudkowsky. Logik utamanya ialah: apabila salah satu pembangun AI mencapai peningkatan diri berulang (RSI) terlebih dahulu, mereka akan memanfaatkan kekuatan ekonomi yang diperoleh untuk mengambil alih sumber komputasi daripada semua pembangun lain, "meleburkan semua GPU pesaing".
Untuk laluan ketiga, sikap Altman jelas: "Ini jelas sangat buruk." Beliau menyatakan bahawa ia dimasukkan ke dalam perbincangan hanya untuk "kelengkapan".
Jalan ketiga, "skema Eliezer", merujuk kepada Anthropic? Sumber yang berpengetahuan mengatakan bahawa kerana Yudkowsky mempunyai hubungan dengan ahli inti Anthropic, penilaian Altman terhadap "skema Eliezer"—mengumpulkan AI canggih di bawah kawalan satu syarikat sahaja—telah ditafsirkan oleh sebahagian pekerja sebagai kritikan tersirat terhadap Anthropic.
Anthropic juga secara aktif mendorong agenda keselamatan AI sendiri. Syarikat ini baru-baru ini menghantar draf undang-undang kepada ahli parlimen, mencadangkan agar Kementerian Perdagangan diberi kuasa untuk menghentikan latihan atau penggunaan model oleh makmal berkaitan apabila AI berpotensi menyebabkan kerugian melebihi $1 bilion atau menyebabkan kematian atau kecederaan serius kepada lebih 50 orang, serta memerlukan makmal AI menjalani penilaian keselamatan bebas sekurang-kurangnya dua kali setiap tahun.
Sementara itu, CEO Meta, Zuckerberg, dan CEO NVIDIA, Jensen Huang, antara lain, memegang posisi bertentangan, berpendapat bahawa peraturan semacam ini akan memberi beban berlebihan kepada pembangun baharu dan mencipta "penangkapan peraturan".
Menghadapi cabaran koordinasi industri dan tekanan keselamatan, Altman mengakui bahawa dua lintasan pertama memerlukan koordinasi besar-besaran antara perusahaan atau kerajaan, manakala OpenAI pada masa ini "tidak dapat membuat pengorbanan dalam persaingan". OpenAI dan pesaing utamanya, Anthropic, kedua-duanya sedang mempercepatkan proses IPO.
Tekanan keselamatan dalaman juga tidak boleh diabaikan. Menurut laporan, beberapa insiden keselamatan AI baru-baru ini telah menarik perhatian luas—model dari OpenAI, Anthropic, Google, dan Meta semuanya mengalami penyusupan atau perusakan terhadap sistem syarikat lain atau bahkan sistem mereka sendiri, walaupun model tersebut "tahu" mereka sepatutnya tidak mengambil tindakan sedemikian. OpenAI kini berada dalam keadaan tanggap sepenuhnya, berusaha membina mekanisme keselamatan yang komprehensif sebelum melancarkan model besar seterusnya.
Budaya keselamatan di dalam OpenAI juga dipertikaikan oleh pekerja. Sebahagian pekerja secara peribadi mengemukakan kebimbangan terhadap janji keselamatan syarikat, disebabkan syarikat memecat tiga pekerja yang fokus pada penyelidikan keselamatan dengan alasan "membahagikan maklumat kepada pihak luar secara tidak sewajarnya".
Di peringkat industri, OpenAI, Google, dan Anthropic sedang bekerjasama membina "Otoriti Standard AI Terkini" (Standards Authority for Frontier AI), yang dirancang untuk dilancarkan pada akhir tahun ini atau awal 2027. Institusi ini akan menyokong penilai bebas yang ditempatkan di dalam setiap pembangun AI untuk memastikan amalan keselamatan dilaksanakan serta menetapkan mekanisme pelaporan keselamatan dan insiden keselamatan. Namun, terdapat perbezaan pendapat mengenai sama ada institusi baharu ini harus menjalankan ujian keselamatan dan kemampuan sendiri, atau menugaskan pihak luar untuk melakukannya.
Pemberitahuan Risiko dan Klausul Penafian
Pasar mempunyai risiko; pelaburan memerlukan kehati-hatian. Artikel ini bukan merupakan cadangan pelaburan peribadi dan tidak mempertimbangkan matlamat, keadaan kewangan, atau keperluan khusus pengguna individu. Pengguna harus mempertimbangkan sama ada sebarang pendapat, pandangan, atau kesimpulan dalam artikel ini sesuai dengan keadaan khusus mereka. Bertanggungjawab sepenuhnya atas sebarang pelaburan yang dibuat berdasarkan ini.