Anthropic Menerangkan Risiko AI dalam Dokumen IPO, Menyebut Bahaya Eksistensial

iconFLASH AI
Kongsi
AI summary iconRingkasan
Anthropic menggariskan risiko AI dalam dokumen IPO-nya, termasuk ancaman eksistensial daripada sistem canggih. Bahagian risiko sebanyak 93 muka surat menekankan kebimbangan CFT, penyalahgunaan dalam serangan siber, dan pengawasan. CEO Dario Amodei memperingatkan bahawa AI boleh menguasai internet dalam 6–12 bulan. Dokumen itu juga membincangkan cabaran pematuhan MiCA, permintaan sumber, dan ketergantungan pelanggan. Risiko termasuk tindakan regulasi, kerosakan reputasi, dan pembangunan senjata biologi.

Anthropic mengungkapkan potensi bahaya terhadap kemanusiaan daripada AI canggih dalam fail tawaran awal kepada awam yang ditolak pada hari Isnin kepada Securities and Exchange Commission. Syarikat berpusat di San Francisco itu mengalokasikan 93 daripada 335 muka surat fail tersebut kepada faktor risiko yang boleh merosakkan pelaburan pemegang saham. Sebagai perbandingan, SpaceX hanya mengalokasikan 38 muka surat kepada risiko dalam fail yang melebihi 250 muka surat. Syarikat yang ingin menjual saham di Wall Street mesti mengungkapkan risiko pelaburan yang berpotensi.

Anthropic memperingatkan bahawa model boleh berkembang lebih pantas daripada syarikat boleh memperkenalkan langkah keselamatan yang mencukupi. Anthropic menyatakan bahawa jurang ini boleh meningkatkan insiden keselamatan, campur tangan peraturan, atau kerosakan reputasi dan merugikan perniagaan. CEO Anthropic, Dario Amodei, memperingatkan pada bulan September bahawa AI boleh menjadi mampu dalam tempoh enam hingga dua belas bulan untuk mengarahkan agen yang boleh menguasai seluruh internet. Sistem yang semakin berkuasa telah menimbulkan kebimbangan di dalam dan luar industri mengenai tindakan berbahaya autonomi bersama dengan kemampuan yang melebihi kemampuan penyelesaian masalah manusia.

Pengisytiharan itu memperingatkan bahawa autonomi yang lebih besar dan pengawasan manusia yang berkurang boleh membenarkan sistem AI menyebabkan kecederaan secara berasingan pada skala besar. Anthropic mengatakan insiden keselamatan serius yang melibatkan sistem AI hadapan lain juga boleh merosakkan Anthropic melalui kerosakan reputasi sepanjang industri, tentangan awam, dan peraturan yang meluas. Model-model Anthropic kini menyumbang kepada penyelidikan dan pembangunan syarikat. Pengisytiharan itu memperingatkan bahawa AI seterusnya boleh maju melampaui kapasiti Anthropic untuk menilai dan melindungi model-model baharu, merosakkan perniagaan.

Pengajuan tersebut mengenal pasti kemungkinan bahaya kiamat atau eksistensial jika sistem AI canggih tidak mempunyai pengawasan dan perlindungan yang mencukupi, terutama melalui penyalahgunaan, replikasi, senjata atau autonomi yang meluas. Anthropic menyatakan bahawa penggunaan jahat yang menyebabkan kerosakan, atau kegagalan langkah keselamatan untuk mencegah penyalahgunaan, boleh merosakkan syarikat. Anthropic menggambarkan kemungkinan penggunaan AI untuk membangunkan senjata kimia atau membantu pemimpin autoritarian menindas rakyat. Anthropic mengungkapkan pada September bahawa syarikat tersebut telah menghalang cubaan untuk menggunakan model Anthropic bagi serangan siber, pengawasan dan penyelidikan yang berpotensi membawa kepada senjata biologi. Risiko lain yang diungkapkan termasuk maklumat salah yang berbahaya, kesukaran mengekalkan pekerja penting dan halangan peraturan.

Sumber komputasi yang diperlukan untuk membangun, menguji, dan meningkatkan model AI adalah mahal dan sangat dicari. Anthropic memperingatkan bahawa sumber komputasi yang tidak mencukupi atau pengagihan yang tidak berkesan boleh menghalang syarikat daripada melatih model yang kompetitif atau memberi perkhidmatan yang mencukupi kepada pelanggan. Anthropic juga mengenal pasti tentangan komuniti terhadap pusat data sebagai risiko perniagaan. Dokumen tersebut mencatat kontroversi dan pemeriksaan peraturan mengenai kesan persekitaran, penggunaan tanah dan air, serta persaingan untuk sumber elektrik yang terhad. Dokumen tersebut memperingatkan bahawa keperluan atau caj peraturan yang timbul boleh merosakkan perniagaan Anthropic.

Anthropic bergantung kepada sebilangan kecil pelanggan, termasuk SpaceX dan Microsoft, serta saluran pengedaran untuk sebahagian besar pendapatan. Anthropic memperingatkan bahawa kehilangan seorang pelanggan utama, atau pengurangan perniagaan oleh pelanggan tersebut, boleh merosakkan keuangan dan prospek syarikat.

Anthropic menggambarkan IPO sebagai langkah untuk mengurangkan risiko AI. Pendiri Anthropic menulis kepada pemegang saham calon bahawa syarikat itu ditubuhkan terutamanya untuk membantu memastikan manfaat AI sambil mengelakkan bahaya AI. Anthropic telah berusaha membezakan syarikatnya sebagai pembangun AI yang bertanggungjawab dan menarik pelanggan perniagaan melalui penekanan keselamatan. Dokumen pendaftaran berhujah bahawa syarikat-syarikat AI hadapan mesti melabur dalam keselamatan dan keselarasan untuk menyokong pengambilan teknologi yang bertanggungjawab.

Brian Mulberry, strategis pasaran utama di Zacks Investment Research, berkata tawaran IPO mesti menjelaskan dengan jelas risiko yang dihadapi pelabur apabila membeli saham baru yang disenaraikan. Mulberry memuji transparansi yang diperlukan untuk senarai di bursa AS, dengan mengatakan pengesahan yang jelas membantu orang membuat keputusan sama ada untuk mengalokasikan dana.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.