Dario Amodei memiliki pesan untuk rekan-rekan eksekutif AI yang berpikir publik hanya perlu PR yang lebih baik: masalahnya bukan pada pesan, tetapi pada produk.
CEO Anthropic menerbitkan esai panjang berjudul “Kebijakan tentang Eksponensial AI” yang secara langsung menghadapi meningkatnya penolakan terhadap kecerdasan buatan. Alih-alih menyalahkan liputan media negatif atau kerangka pesimistis oleh para pemimpin industri, Amodei berargumen bahwa kecemasan publik terhadap AI didasarkan pada risiko-risiko yang sah dan terdokumentasi dengan baik. Diagnosanya: industri AI sedang menghadapi krisis kepercayaan, bukan krisis komunikasi.
Risiko nyata, ketakutan nyata
Esai Amodei mengidentifikasi empat kategori risiko spesifik yang menurutnya layak mendapat perhatian serius: ancaman siber, pengembangan senjata biologis, kehilangan kendali manusia atas sistem AI, dan prospek penelitian dan pengembangan yang sepenuhnya otomatis.
Amodei pada dasarnya menyebut penalaran ini terbalik. Orang-orang tidak khawatir karena para pemimpin AI mengeluarkan peringatan. Mereka khawatir karena peringatan itu memang beralasan.
Untuk mendukung posisi itu, ia mengusulkan evaluasi pihak ketiga wajib untuk model yang dilatih dengan sumber daya komputasi signifikan. Pengujian akan mencakup keempat kategori risiko tersebut, menciptakan lapisan verifikasi independen antara laboratorium AI dan publik.
$200 juta dan blueprint kebijakan
Anthropic mengalokasikan dana untuk mendukung pernyataan Amodei. Perusahaan telah berkomitmen menyediakan $200 juta untuk penelitian yang berfokus pada memahami dampak sosial luas dari AI.
Investasi tersebut akan membiayai pekerjaan pada pertanyaan yang melampaui keselamatan teknis. Amodei secara eksplisit menyerukan program asuransi upah dan langkah-langkah perpajakan terfokus yang dirancang untuk meredam gangguan pasar tenaga kerja yang diharapkan disebabkan oleh otomasi AI.
Dalam wawancara eksklusif dengan ABC News yang diselaraskan dengan peluncuran esai tersebut, Amodei menguraikan usulan kebijakan tambahan. Di antara yang paling penting: memberikan otoritas kepada lembaga pemerintah untuk menghentikan penyebaran AI yang dianggap tidak aman.
Kerangka kerja favoritnya mengambil dari model regulasi yang sudah ada. Analogi FAA disengaja. Regulasi keselamatan penerbangan tidak menghancurkan industri penerbangan. Ia menjadikan penerbangan sebagai bentuk transportasi massal paling aman di Bumi.