Dario Amodei mempunyai pesan untuk eksekutif AI lain yang berfikir bahawa awam hanya memerlukan PR yang lebih baik: masalahnya bukan pada penyampaian, tetapi pada produk.
CEO Anthropic menerbitkan esei panjang berjudul “Dasar terhadap Eksponensial AI” yang secara langsung menghadapi peningkatan protes terhadap kecerdasan buatan. Alih-alih menyalahkan liputan media negatif atau kerangka pesimis oleh pemimpin industri, Amodei berhujah bahawa kebimbangan awam terhadap AI berasaskan risiko yang sah dan didokumenkan dengan baik. Diagnosanya: industri AI sedang menghadapi krisis kepercayaan, bukan krisis komunikasi.
Risiko sebenar, ketakutan sebenar
Esai Amodei mengenal pasti empat kategori risiko khusus yang menurutnya patut mendapat perhatian serius: ancaman keselamatan siber, pembangunan senjata biologi, kehilangan kawalan manusia atas sistem AI, dan prospek penyelidikan dan pembangunan sepenuhnya automatik.
Amodei pada dasarnya menganggap pemikiran ini terbalik. Orang tidak bimbang kerana pemimpin AI memberikan amaran. Mereka bimbang kerana amaran itu munasabah.
Untuk menyokong kedudukan itu, beliau mencadangkan penilaian pihak ketiga yang wajib bagi model yang dilatih dengan sumber pengiraan yang signifikan. Ujian akan merangkumi keempat-empat kategori risiko yang sama, mencipta lapisan pengesahan bebas antara makmal AI dan awam.
$200 juta dan cetak biru dasar polisi
Anthropic sedang menanamkan dana di belakang perkataan Amodei. Syarikat ini telah berkomitmen untuk menyediakan $200 juta bagi penyelidikan yang berfokus pada memahami kesan sosial yang lebih luas terhadap AI.
Pelaburan ini akan membiayai kerja-kerja yang merangkumi soal-soal yang melampaui keselamatan teknikal. Amodei secara eksplisit telah menyeru kepada program semula jadi gaji dan langkah-langkah cukai yang ditargetkan untuk meredakan gangguan pasaran buruh yang dijangka disebabkan oleh automasi AI.
Dalam temu bual eksklusif dengan ABC News yang diselaraskan dengan pelancaran esei tersebut, Amodei merumuskan cadangan dasar tambahan. Di antara yang paling ketara: memberikan kuasa kepada agensi kerajaan untuk menghentikan pelaksanaan AI yang dianggap tidak selamat.
Rangka kerja kegemarannya mengambil daripada model peraturan yang sedia ada. Analogi FAA adalah sengaja. Peraturan keselamatan penerbangan tidak menghancurkan industri penerbangan. Ia menjadikan penerbangan sebagai bentuk pengangkutan beramai-ramai yang paling selamat di Bumi.