Pengawas Bandaraya New York, Mark Levine, memperkasakan kritikannya terhadap IPO yang dirancang oleh Anthropic, berhujah bahawa struktur tadbir urusnya memberikan kawalan tidak seimbang kepada pendiri dan satu amanah bebas, sambil membatasi pengaruh pemegang saham terhadap syarikat yang membangunkan teknologi AI yang berpotensi berbahaya.
“Kami melihat tren yang sangat mengkhawatirkan mengenai pengurangan kuasa terhadap pemegang saham dan semua keseimbangan kuasa berpindah ke pihak pengurusan,” kata Levine, yang antara tugasnya mengawasi lima dana pensiun awam bandar itu, dalam satu temu bual dengan Bloomberg.
Model tatacara pentadbiran Anthropic memberikan kuasa undian yang signifikan kepada tujuh pencipta bersama melalui Founder LLC, sementara Long-Term Benefit Trust yang bebas memegang kuasa untuk memilih dan memecat majoriti jawatankuasa syarikat. Perkara ini bertujuan untuk melindungi keupayaan pembangun AI untuk mengutamakan pertimbangan keselamatan berbanding pulangan kewangan jangka pendek.
Di bawah struktur yang dijelaskan dalam fail IPO-nya, pihak lembaga Anthropic akan menentukan bagaimana untuk mengukur kemajuan syarikat tersebut menuju misi kebajikan awam. Syarikat tersebut juga memperingatkan bahawa ia tidak dapat menjamin ia akan memenuhi tujuan tersebut atau memberikan faedah yang dijangkakan daripada operasi sebagai syarikat kebajikan awam.
Komen-komen tersebut muncul selepas Levine menyeru Anthropic untuk menangguhkan IPO-nya, berhujah bahawa syarikat tersebut harus mengutamakan langkah-langkah keselamatan dan transparansi yang lebih besar sebelum memperjuangkan IPO yang boleh menilainya pada kira-kira $2 bilion.
Dalam esei pada 12 September, CEO Anthropic, Dario Amodei, memperingatkan bahawa kemampuan AI boleh melampaui kemampuan masyarakat untuk mengawalnya dan meminta perlambatan kadar pembangunan. Kekhawatiran tersebut juga tercermin dalam permohonan IPO draf Anthropic, yang dilaporkan memperingatkan bahawa AI canggih boleh menimbulkan “risiko bencana atau eksistensial terhadap kemanusiaan.”
S-1 Anthropic menghabiskan hampir 100 halaman untuk faktor-faktor risiko, jauh lebih banyak daripada sekitar 64 halaman yang menggambarkan perniagaannya.
Selepas surat itu, pengawas kewangan mengatakan beliau sedang berbincang dengan Amodei, tetapi tidak mengungkapkan maklumat lanjut mengenai perbincangan tersebut.
IPO SpaceX Memberi Peringatan Kepada Anthropic
Pemulaan IPO SpaceX menimbulkan kebimbangan serupa terhadap struktur tadbir urusnya. Sebelum tawaran itu, Levine dan pelabur institusi lain mempersoalkan ketentuan yang dijangka akan meninggalkan Elon Musk dengan kira-kira 79% kuasa undi, walaupun hanya memegang sekitar 42% ekuiti. Musk juga berperanan sebagai CEO, ketua pegawai teknologi, dan ketua jawatankuasa pihak berkuasa.
Walaupun memberikan kawalan yang signifikan kepada pendiri telah lama biasa berlaku di kalangan permulaan teknologi, Levine mengatakan bahawa peraturan tadbir urus di SpaceX dan Anthropic mewakili perubahan yang lebih ketara.
"Tetapi apa yang kami lihat di SpaceX, dan sekarang apa yang kami lihat di Anthropic, benar-benar pada tahap yang sama sekali baru," kata Levine kepada Bloomberg.
Walaupun ada kebimbangannya, Levine mengatakan dana pensiun Bandaraya New York kemungkinan akan mendapat paparan terhadap Anthropic melalui pelaburan indeks mereka, sama seperti yang mereka lakukan dengan SpaceX.