Kepala Keuangan Kota New York, Mark Levine, memperdalam kritiknya terhadap rencana IPO Anthropic, berargumen bahwa struktur tata kelolanya memberikan kendali tidak seimbang kepada pendiri dan sebuah kepercayaan independen, sambil membatasi pengaruh pemegang saham atas perusahaan yang mengembangkan teknologi AI berpotensi berbahaya.
“Kami melihat tren yang sangat mengkhawatirkan tentang pelemahan terhadap pemegang saham dan seluruh keseimbangan kekuasaan berpindah ke manajemen,” kata Levine, yang di antara tugasnya mengawasi lima dana pensiun publik kota, dalam wawancara dengan Bloomberg.
Model tata kelola Anthropic memberikan kekuatan voting signifikan kepada tujuh pendiri melalui Founder LLC, sementara Long-Term Benefit Trust yang independen memegang wewenang untuk memilih dan memberhentikan sebagian besar dewan perusahaan. Arrangement ini dimaksudkan untuk melindungi kemampuan pengembang AI untuk mengutamakan pertimbangan keamanan di atas pengembalian finansial jangka pendek.
Di bawah struktur yang diuraikan dalam pengajuan IPO-nya, dewan Anthropic akan menentukan cara mengukur kemajuan perusahaan menuju misi manfaat publik. Perusahaan juga memperingatkan bahwa tidak dapat menjamin akan memenuhi tujuan tersebut atau memberikan manfaat yang diharapkan dari operasi sebagai perusahaan manfaat publik.
Komentar-komentar tersebut muncul setelah Levine menyerukan agar Anthropic menunda IPO-nya, berargumen bahwa perusahaan harus memprioritaskan langkah-langkah keamanan dan transparansi yang lebih besar sebelum mengejar IPO yang bisa menilai nilainya sekitar $2 triliun.
Dalam esai tanggal 12 September, CEO Anthropic Dario Amodei memperingatkan bahwa kemampuan AI bisa melampaui kemampuan masyarakat untuk mengendalikannya dan menyerukan perlambatan kecepatan pengembangan. Kekhawatiran tersebut juga tercermin dalam dokumen draft IPO Anthropic, yang dilaporkan memperingatkan bahwa AI canggih dapat menimbulkan “risiko kiamat atau eksistensial bagi umat manusia.”
S-1 Anthropic menghabiskan hampir 100 halaman untuk faktor-faktor risiko, jauh lebih banyak daripada sekitar 64 halaman yang menggambarkan bisnisnya.
Setelah surat tersebut, si auditor mengatakan ia sedang berbicara dengan Amodei, tetapi tidak mengungkapkan informasi lebih lanjut mengenai percakapan tersebut.
IPO SpaceX Memberikan Peringatan untuk Anthropic
IPO SpaceX menimbulkan kekhawatiran serupa terkait struktur tata kelolanya. Sebelum penawaran, Levine dan investor institusional lainnya memprotes ketentuan yang diharapkan akan memberikan Elon Musk sekitar 79% kekuatan suara, meskipun hanya memegang sekitar 42% ekuitas. Musk juga menjabat sebagai CEO, chief technology officer, dan ketua dewan.
Meskipun memberikan kendali signifikan kepada pendiri telah lama menjadi hal umum di kalangan startup teknologi, Levine mengatakan bahwa struktur tata kelola di SpaceX dan Anthropic mewakili pergeseran yang lebih nyata.
"Tapi apa yang kita lihat di SpaceX, dan sekarang apa yang kita lihat di Anthropic, benar-benar pada tingkat yang sama sekali baru," kata Levine kepada Bloomberg.
Meskipun memiliki keberatan, Levine mengatakan dana pensiun Kota New York kemungkinan akan mendapatkan paparan terhadap Anthropic melalui investasi indeks mereka, sebagaimana yang mereka lakukan dengan SpaceX.