OpenAIとAnthropic、AI倫理を巡ってペンタゴンと協力

iconOdaily
共有
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary icon概要

expand icon
OpenAIとAnthropicは、AIの倫理を巡って米国国防総省に対立しており、Anthropicは軍事用途への無制限な展開を要求を受け入れませんでした。フィアーアンドグリーディインデックスのデータは、この対立の中でトレーダーたちの注意深さが高まっていることを示しています。OpenAIは最終的に修正された取引を受け入れましたが、Anthropicはサプライチェーンリスクに直面しています。アルトコインの中には、AI規制や企業倫理に関する感情の変化に反応する可能性があります。

原文作者:カリ、シェンチャオ TechFlow

数日前、ネットで話題になった写真がありました。

インドでAIサミットが開催され、モディ首相がステージに立ち、両側にはシリコンバレーの重鎮たちが並んだ。記念撮影の際、モディ首相は隣の人々の手を引き上げ、他の人々も手を繋いで、一体感あふれる光景となった。

しかし、二人だけが手を繋いでいません。

画像

OpenAIのCEOとAnthropicのCEO、つまりChatGPTとClaudeの背後にある両社の経営者が、隣り合ってそれぞれ拳を掲げている。

手を繋がらず、目を合わせず、先生に同じ席に座らされた仲の悪い二人のようだ。

この2社はここ数年、激しく競争してきました。ClaudeはOpenAIから離脱したチームが開発したもので、両社はユーザー、企業顧客、資金調達を巡って競い合っています。今年のスーパーボウル期間中、AnthropicはChatGPTの広告を風刺するため、広告費を特意に支出しました。

だから手を繋がないのは普通です。

しかし、今日は彼らが手を繋いだ。五角大楼のためだ。

このような状況です。

Anthropic、つまりClaudeの背後にある企業は、昨年、米国国防省と最高2億ドルの契約を結んだ。Claudeは、米軍の機密ネットワークに導入された最初のAIモデルであり、情報分析や任務計画などの作業を支援している。

しかしAnthropicは契約に二本の赤線を引いた:

Claudeは、米国市民の大規模な監視や、人間の関与なしの自律的武器に使用することはできません。(参照:Anthropic 身分危機の72時間

しかし、ペンタゴンは受け入れません。

彼らの要求は四文字だ:制限なし。ツールを買ったら自由に使えばいい。なぜあなたたちのようなテクノロジー企業が、米国軍に何をしていいのか、何をしてはいけないのかを決める資格があるというのか。

先週の火曜日、国防長官のHegsethはAnthropicのCEOに直接最後通牒を突きつけた:金曜日の午後5時01分までに合意しないと、責任を取ってもらう。

Anthropicは応じませんでした。

彼らのCEOは公開声明を発表し、その内容は次の通りです:私たちはAIが米国の防衛に重要であることを深く理解していますが、一部の状況ではAIが民主主義の価値を守るのではなく損なう可能性があります。私たちはこの要請を良心的に受け入れることはできません。

画像

その後、五角庁の交渉代表で国防副長官のEmil Michaelがソーシャルメディア上で彼を詐欺師と罵り、彼は神の気分で国家安全保障を軽視していると述べた。

短い手のひらの触れ合い

そして、予想外の出来事が起こりました。

OpenAIおよびGoogleの従業員、合計400人以上が、「私たちは分断されない」と題された共同公開書簡に署名しました。

手紙には、五角大樓がAI企業一つずつに交渉を持ちかけ、Anthropicが拒否した条件を承諾させようとしており、恐怖を用いて各企業を分断しようとしているとある。

OpenAIのCEOは、全社員に内部メールを送り、OpenAIはAnthropicと同じレッドラインを持っていると述べました。

大規模な監視を行わず、自律型殺傷兵器を導入しない。

画像

数日前まで手を結ばなかった二つの企業が、突如として五角省の立場によって同じ側に立った。

しかし、このような団結は、数時間しか続かないかもしれません。

金曜日午後5時01分、ペンタゴンの最終通牒が期限切れとなった。Anthropicは署名しなかった。

3800億ドルの評価額を持つ米国テクノロジー企業が、2億ドルの契約破棄のリスクを冒して米国国防総省を拒否した。過去なら、この種の出来事は契約解除して別のサプライヤーに変える程度で済んでいた。しかし、今回はワシントンの反応が商業レベルではまったくなかった。

トランプは約1時間後にTruth Socialに投稿し、Anthropicを「左翼の狂人」と呼び、彼らが憲法を超えて行動し、米国兵士の命を軽視していると述べた。

彼はすべての連邦機関にAnthropicの技術の使用を直ちに停止するよう要求した。

その後、アメリカ国防長官のHegsethは、Anthropicを「サプライチェーンセキュリティリスク」として指定した。このラベルは通常、華為(ファーウェイ)のような企業に適用されるものであり、意味は明確である:米軍と取引するすべての下請け業者は、Anthropicの製品を扱ってはならない。

画像

Anthropicは訴訟を起こすつもりだと述べています。

同じ夜、以前同じ立場を取っていたOpenAIが、ペンタゴンと契約を結んだ。

イデオロギー問題

OpenAIは何かを手にしたのか?

クラウドが追放された後に空いた席:米軍機密ネットワークのAIサプライヤー。ただし、OpenAIは五角閣に三つの条件を提示した:大規模監視を行わない、自律兵器を構築しない、高リスクの意思決定には必ず人間が関与する。

五角庁は、OKと言った。

間違いない。Anthropic に数週間交渉しても受け入れてくれなかった条件を、別の会社が提案したら、数日で合意に至った?

もちろん、両方の方案は完全には同じではありません。

Anthropicは、現在の法律がAIの能力に追いついていないと主張している。たとえば、AIはあなたの位置情報、閲覧履歴、ソーシャルメディア情報などをすべて合法的に購入・統合でき、その結果は監視と同等になるが、各ステップはいずれも違法ではない。

Anthropicは、「監視しない」の四文字だけでは意味がなく、この脆弱性を修正しなければならないと述べています。OpenAIはこの点を堅持せず、五角省の主張を受け入れ、現在の法律で十分だと考えています。

しかし、これが単なる条項の違いだと思えば、それはあまりに甘い考えだ。この交渉は最初から条項だけをめぐるものではなかった。

ホワイトハウスのAI最高責任者であるデイビッド・サックスは、以前からAnthropicが「ウェークAI」(イデオロギー優先、政治的正しさを重視するやり方)を推進していると公に批判していた;ペンタゴンの高官はメディアに対し、ダリオの問題はイデオロギーに駆られていると語り、「私たちは誰と取り引きしているかを理解している」と述べた。

エロン・マスクのxAIは、Anthropicの直接の競合相手であり、彼は今週X上でAnthropicを繰り返し攻撃し、この会社を「西洋文明を憎んでいる」と述べた。

一方、AnthropicのCEOは昨年、トランプの就任式に出席しなかった。OpenAIのCEOは出席した。

画像

鶏を殺して猿を脅す

では、何が起こったかを整理しましょう。

同じ原則、同じレッドラインで、Anthropicは追加の安全保障を求めて、誤った側に立って、誤った姿勢を取ったため、华为と同レベルのいわゆる米国国家安全保障上の脅威とマークされた。

OpenAIは一つ層を省略した。人間関係をうまく築き、契約を獲得した。これは原則の勝利なのか、それとも原則の価格設定なのか?

五角大楼の契約がボイコットされたのは、今回が初めてではない。

2018年、Googleには4000人以上の従業員が請願書に署名し、十数人が、同社が五角大廈のプロジェクト「Maven」に参加していることに抗議して辞職しました。このプロジェクトは、ドローンが撮影した映像をAIで分析し、軍が目標をより迅速に識別できるようにするものでした。

Googleは最後に退出しました。契約を更新せず去りました。従業員が勝ちました。

8年が経過し、同じ議論が再び巻き起こった。しかし今回はルールが完全に変わった。ある米国企業が、私は軍隊との取引ができると述べたが、2つのことはしてはならないとされた。米国政府の対応は、それを連邦システム全体から排除することだった。

そして、「サプライチェーンのセキュリティリスク」というラベルの影響力は、2億ドルの契約を失う以上のものです。

Anthropicの今年の収益は約140億ドルであり、2億ドルの契約はごく一部に過ぎない。しかし、このラベルの意味は、米軍と取引のある企業はClaudeを使用できないということである。

これらの企業は、ペンタゴンの立場に賛同する必要はなく、単にリスク評価を行うだけでよい:Claudeを使い続けると、政府との契約を失う可能性がある;他のモデルに切り替えると、何の問題もない。

選択は簡単です。これがこの出来事の本当のシグナルです。

Anthropicが耐えられるかどうかは重要ではなく、次にその責任を引き受ける企業がまだ勇気があるかどうかが重要だ。彼らはこの結果を見て、原則を守るためのコストを評価し、非常に理性的な判断を下すだろう。

改めてそのインドの写真を見ると、全員が手をつなぎ頭上に掲げている中、彼ら二人だけがそれぞれ拳を握っていた。

これがおそらく通常の状態だ。

AI企業の原則は同じでも、手を繋げないかもしれません。

免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。