CEO Anthropic, Dario Amodei, menyatakan bahawa kerajaan tidak lagi boleh memperlakukan pengawasan AI sebagai isu kajian jangka panjang. Dengan kemampuan model terkini yang meningkat dengan cepat, Amerika Syarikat perlu segera membina keperluan keselamatan yang mengikat, bukan hanya bergantung pada pengungkapan sukarela oleh syarikat.
Cadangan merujuk kepada model pengawasan penerbangan
Amodei dalam artikel terbaru menyatakan bahawa pendekatan pengawasan yang sebelumnya berfokus pada transparansi sudah tidak mencukupi. Beliau mencadangkan agar mengikuti pendekatan Federal Aviation Administration Amerika Syarikat, dengan menetapkan keperluan ujian sebelum pelancaran, audit teknikal, dan laporan berterusan untuk model AI terkuat.
Menurut rancangannya, model canggih harus menjalani ujian pihak ketiga yang wajib. Jika tidak memenuhi piawaian keselamatan, kerajaan harus berkuasa untuk menghalang pelaksanaan, atau bahkan memerlukan penarikan. Syarikat juga harus melindungi timbangan model, menjalani penilaian keselamatan sistematik, dan melaporkan insiden serius.
Empat kategori risiko disenaraikan sebagai fokus
Artikel tersebut menekankan empat arah utama pengawasan: keselamatan siber, risiko senjata biologi, kehilangan kawalan AI, dan kemampuan pembangunan automatik. Amodei berpendapat bahawa sekiranya kemampuan-kemampuan ini terus meningkat, proses dasar semasa mungkin tidak mampu mengikuti kemajuan teknologi.
Beliau juga mencadangkan kerajaan perlu bersiap awal menghadapi penggantian pekerjaan yang mungkin dibawa oleh AI, serta memperhatikan isu tatacara selepas pemecatan pengembangan ubat. Beliau juga menyeru untuk membatasi penggunaan AI dalam pengawasan penegakan undang-undang domestik dan senjata autonomi, serta memperkuat kerjasama antara negara-negara demokratik dalam teknologi AI penting.
Pembebasan model baru dan kemajuan pelancaran berjalan serentak
Sebelum dan selepas artikel ini diterbitkan, Anthropic baru sahaja memperluaskan lingkungan penggunaan model mutakhirnya. Syarikat itu melancarkan Mythos 5 pada hari Selasa, membukanya kepada institusi keselamatan siber dan rakan kongsi kerajaan. Penyelidik seperti Institut Keselamatan AI British telah menemui bahawa model ini boleh melaksanakan serangan siber kompleks secara autonomi.
Pada minggu yang sama, Anthropic juga melancarkan Claude Fable 5 kepada awam. Untuk permintaan yang melibatkan keselamatan siber, biologi, kimia, dan pembangunan AI, sistem akan menghantar kepada Claude Opus 4.8 yang lebih lemah kapasitinya untuk mengurangkan risiko penyalahgunaan.
Namun, pengaturan produk ini telah menimbulkan kritikan daripada pembangun dan penyelidik, dengan perdebatan berpusat pada penggunaan token yang lebih tinggi, penyimpanan data wajib 30 hari, serta beberapa sekatan keselamatan yang akan melemahkan kemampuan model tanpa pemberitahuan yang jelas kepada pengguna.
Maklumat tambahan: Semasa Amodei mendorong perbincangan mengenai peraturan, Anthropic juga sedang mempercepatkan pelancaran awam. Syarikat tersebut telah menghantar dokumen penawaran awal saham kepada Securities and Exchange Commission (SEC) Amerika Syarikat pada awal bulan ini. Laporan itu juga menyebut bahawa Sam Altman, CEO OpenAI, sebelum ini mengkritik Anthropic kerana memanfaatkan kebimbangan keselamatan untuk mendorong peraturan yang lebih ketat, dan perbezaan di antara kedua-dua pihak mengenai lintasan peraturan masih berterusan.