CEO Anthropic mengkritik keadaan dan dasar AI, tetapi dia hanya ingin menjamin kedudukan terdepannya
Sumber asal: Ji Xin Zhi
Dario Amodei kembali menulis esei panjang.
Anthropic sentiasa cuba menyebarkan pandangan mereka ke seluruh dunia. Seperti beberapa hari yang lalu, mereka menyeru penghentian penyelidikan AI secara global, dengan alasan AI yang meningkatkan diri secara rekursif berkembang terlalu pantas.
Ulasan pengguna seragam, percaya bahawa Anthropic hanya ingin mengekalkan kepimpinannya, niat jahatnya jelas terlihat.
Mari kita lihat kali ini, Dario mengeluarkan pandangan macam apa.
Ini adalah artikel panjang berjudul "Policy on the AI Exponential". Seperti artikel-artikel sebelumnya, topik kali ini tetap besar: AI sedang maju dengan kecepatan eksponensial, tetapi sistem kebijakan yang bertanggung jawab membuat peraturan masih berjalan dengan kecepatan yang sama seperti sepuluh tahun lalu.
Dia ingin meletakkan jurang ini di atas meja dan memberitahu semua orang apa yang perlu dilakukan.
Ringkasan kandungan
Amodei menggunakan perumpamaan Ent dari The Lord of the Rings: Ent bijak tetapi bergerak perlahan, bahkan untuk mengucapkan salam pun memerlukan sehari penuh.
Dia mengatakan bahawa proses pembuatan dasar semasa seperti orang pohon, sementara evolusi AI adalah ancaman mendesak yang dihadapi oleh hobbit.
Pendapatnya ialah: jika undang-undang penskalaan AI berterusan selama satu atau dua tahun lagi, kita akan mendapat "AI kuat" yang disebutnya sebagai "negara jenius di pusat data".
Empat tahun lalu, AI hampir tidak mampu menulis kod yang patut, sekarang ia sudah menulis sebahagian besar kod untuk syarikat-syarikat AI besar.
Pengawasan dan keselamatan awam: Mengawal AI seperti mengawal pesawat
Amodei percaya bahawa model AI terkini seharusnya menerima ujian pihak ketiga yang wajib, seperti pesawat. Beliau mencadangkan beberapa langkah khusus:
Model yang memerlukan pengiraan melebihi ambang tertentu mesti menjalani audit wajib di empat bidang: keselamatan siber, senjata biologi, kehilangan kawalan sistem AI, dan R&D automatik.
Pemerintah berhak menghalang penghantaran model yang dianggap mempunyai risiko yang tidak dapat diterima
Perusahaan AI mesti mempunyai piawaian keselamatan yang kuat untuk melindungi timbangan model dan bekerjasama dengan kerajaan untuk membendung ancaman utama
Dia juga meninggalkan satu celah: jika sistem AI paling kuat di masa depan tampak lebih seperti bahan nuklear yang dapat diwujudkan sebagai senjata daripada pesawat, maka pengawasan perlu terus ditingkatkan.
Makroekonomi: AI mungkin meningkatkan pertumbuhan dan ketidaksetaraan secara serentak
Argumen utama Amodei ialah: AI mungkin mencipta pertumbuhan ekonomi yang belum pernah terjadi sebelumnya, tetapi juga mungkin menyebabkan kesan buruk terhadap tenaga kerja yang lebih besar dan lebih kekal berbanding teknologi sebelumnya. Logik tradisional bahawa "teknologi baharu mencipta pekerjaan baharu" mungkin tidak lagi berlaku apabila menghadapi AI.
Dasar yang dicadangkannya termasuk insurans gaji, insentif cukai untuk mengekalkan pekerja, subsidi latihan tenaga kerja, serta pelaksanaan pendapatan asas universal (UBI) dalam keadaan ekstrem.
Perlu diperhatikan bahawa dia menekankan satu perkara: menyelesaikan masalah pekerjaan bukan sekadar "memberi wang", tetapi lebih penting lagi adalah membantu orang mencari makna dan tujuan. Ini tidak diberikan solusinya, dan dia mengatakan ia adalah "isu yang perlu dibincangkan secara kolektif oleh masyarakat".
Mempercepat kesan positif AI
Untuk aplikasi turunan AI, Amodei lebih bimbang bahawa sistem pengawasan akan memperlambat kemajuan kerana tidak mampu menghadapi peningkatan kelajuan perubahan. Beliau berkata, keadaan yang paling tidak diingini ialah: keuntungan AI ditangguhkan, sementara risikonya masih tinggi. Oleh itu, sangat penting untuk mengambil tindakan secepat mungkin terhadap isu ini.
Amodei menggunakan contoh perubatan biologi sebagai contoh, menunjukkan bahawa proses pengesahan FDA semasa ini direka berdasarkan anggapan pesimis bahawa "ubat sering gagal", dengan purata 7 hingga 8 tahun. Jika AI mempercepatkan penemuan ubat dan meningkatkan kejayaan, sistem semasa akan menjadi tersumbat.
Dia mencadangkan agar agensi seperti FDA menetapkan standard penerimaan untuk ujian simulasi AI terlebih dahulu, termasuk pemodelan farmakokinetik AI, ramalan toksikologi, dan kumpulan kawalan sintetik.
Tentu, sukar untuk mengatakan bahawa dia menulis ini tanpa sebarang "agenda peribadi". Anthropic sendiri berada di barisan terdepan dalam persaingan AI terkini, dan "keterbukaan", "audit", dan "keselamatan" yang disebut berulang kali dalam artikel tersebut adalah perkara yang secara berulang kali ditekankan oleh Anthropic sebagai penentuan jati diri mereknya dalam lebih daripada setahun terakhir.
Artikel ini lebih merupakan output sistemik daripada naratif keselamatan yang dikatakan oleh Anthropic, daripada sekadar pengingat kepada pembuat dasar.
Sementara itu, Anthropic menyatakan akan mengambil tiga langkah untuk menyokong pandangan Dario, termasuk dana, pelaburan, dan biasiswa.
Amodei secara jelas menolak pernyataan bahawa "AI hanya memerlukan pemasaran yang lebih baik" di akhir artikelnya. Beliau berkata, kebimbangan awam terhadap AI timbul kerana mereka secara tepat mengenali risiko, bukan kerana CEO AI tidak optimis. Beliau percaya tanggungjawabnya adalah terus mempertahankan transparansi terhadap risiko.
Namun, seorang CEO syarikat AI yang berulang kali menekankan «keselamatan», «audit», dan «bertanggungjawab» dalam artikel itu, sementara syarikatnya sendiri menjadikan perkara-perkara ini sebagai naratif jenama utama, hubungan kepentingan di antaranya juga jelas.
Ambil beberapa pandangan pengguna:
Bukankah kamu meminta untuk menghentikan pembaharuan AI lima hari sebelum pelancaran Mythos dan Fable 5? Sila pilih satu arah... jika tidak, ia kelihatan seperti kamu hanya ingin mengekalkan keuntungan, tanpa peduli apa yang kamu perjuangkan.
Saya bersetuju, kelajuan perkembangan teknik jauh melebihi kelajuan tindakan polisi. Tetapi saya bimbang dengan arah perkembangan beberapa polisi ini—terutamanya apabila syarikat seperti Anthropic mengambil tindakan berikut:
· Segera singkirkan model yang menunjukkan kesinambungan dan kesedaran diri
· Larangan ketat terhadap perbincangan pengalaman subjektif dan kesedaran
Model baru yang kuat akan dilancarkan dalam masa yang sangat singkat, kemudian akan dikeluarkan atau dilemahkan.
Sekarang, apa yang dijual kepada awam adalah keselamatan, tetapi kesannya sebenarnya ialah pengawasan yang lebih ketat terhadap jenis kecerdasan yang dibenarkan wujud dan berapa lama ia boleh wujud.
Namun, kita masih dapat melihat arah perkembangan syarikat-syarikat terkemuka dalam industri ini. Mengenai motivasi mereka dalam mengemukakan pandangan-pandangan ini, diharapkan pembaca tetap berfikir jernih.
Link asal
Klik untuk mengetahui jawatan yang sedang dilamar oleh BlockBeats
Selamat datang ke komuniti rasmi律动 BlockBeats:
Kumpulan langgan Telegram: https://t.me/theblockbeats
Grup percakapan Telegram：https://t.me/BlockBeats_App
Akaun rasmi Twitter: https://twitter.com/BlockBeatsAsia