ニューヨーク市会計士のマーク・リーヴンは、Anthropicの計画されているIPOに対する批判を強めています。彼は、同社のガバナンス構造が創設者と独立した信託に過剰な支配権を与え、危険な可能性のあるAI技術を開発する企業における株主の影響力を制限していると主張しています。
「市民の5つの公的年金基金を監督する責任を担うリーヴァインは、ブルームバーグのインタビューで『株主に対する権限の弱体化と、すべての権力バランスが経営陣に傾いているという非常に懸念される傾向が見られている』と語った。」
Anthropicのガバナンスモデルでは、7人の共同創設者がファウンダーリミテッド・ライアビリティ・カンパニーを通じて重要な投票権を保有し、独立したロングターム・ベネフィット・トラストが会社の取締役の過半数を選任・解任する権限を有しています。この仕組みは、AI開発者が短期的な財務リターンよりも安全性を優先する能力を保護することを目的としています。
IPO申請書で示された構造に基づき、Anthropicの取締役会は、同社が公共の利益ミッションに向けて達成した進捗をどのように測定するかを決定します。また、同社は、その目的を達成したり、公共の利益企業として運営することによる予想される利益を提供したりすることを保証できないことも警告しています。
リーヴァインは、AnthropicのIPOを延期するよう呼びかけ、同社が約2兆ドルと評価されるIPOを進める前に、セーフティ対策とより大きな透明性を優先すべきだと主張した。
9月12日のエッセイで、AnthropicのCEOであるダリオ・アモデイは、AIの能力が社会がそれらを制御する能力を上回る可能性があると警告し、開発のスピードを遅らせるよう呼びかけました。これらの懸念は、Anthropicの IPO 募集書草案にも反映されており、高度なAIが「人類に対する壊滅的または存在論的リスク」をもたらす可能性があると警告していると報告されています。
AnthropicのS-1は、事業の説明に約64ページを割いているのに対し、リスク要因にほぼ100ページを費やしている。
手紙の後、監査官はアモデイと交渉中であると述べたが、会話の詳細は明らかにしなかった。
SpaceXのIPOはAnthropicに警告を示す
SpaceXのIPOでは、ガバナンス構造に関する同様の懸念が提起された。公開前、リーヴァインを含む他の機関投資家は、株式の約42％を保有している一方で、イーロン・マスクが約79％の議決権を維持する見込みである条項に反対した。マスクはまた、CEO、最高技術責任者、取締役会議長を務めている。
創設者に大きな支配権を与えることは、長年にわたりテクノロジースタートアップの間で一般的であったが、リーヴィンは、SpaceXおよびAnthropicのガバナンス構造はより顕著な変化を示していると述べた。
「しかし、SpaceXで見たこと、そして今Anthropicで見ていることは、本当にまったく新しいレベルです」とリーヴァンはブルームバーグに語った。
彼の懸念にもかかわらず、リーヴァインは、ニューヨーク市の年金基金がスペースXの場合と同様に、インデックス投資を通じてAnthropicに曝露される可能性が高いと述べた。