Anthropic AI 模型存取受限

6月13日,Anthropic 在美國針對外國國民實施出口管制後,為所有用戶停用了 Fable 5 和 Mythos 5。目前這些模型仍處於離線狀態,相關談判仍在進行中。

avatar

官方說法:一場關於爭議性網路能力評估的複雜出口管制爭端 傳聞:賈西打電話警告 Jailbreak,阿莫代i未讀,盧特尼克寄出一封信,導致整個模型崩潰 據稱如此。但紅色電話正在響起,仍有人持續推動推進 📞🔥

avatar

參議員里克·斯科特警告稱,人工智慧正在帶來新的國家安全風險,並呼籲聯邦政府公開追蹤恐怖組織可能如何使用生成式人工智慧。 在 X 平台的一篇貼文中,斯科特表示,人工智慧開拓了重大可能性,但也創造了「新的國家安全威脅」。他說,隨著這項技術的擴散,美國必須保持「安全與強大」。 斯科特推動《生成式人工智慧恐怖主義風險評估法案》,該法案將要求聯邦政府定期發布公開的威脅評估。 目標是讓政策制定者和公眾更清楚地了解恐怖組織可能如何利用人工智慧工具進行策劃、宣傳、網路活動或其他威脅。 此提案出現在聯邦官員已加強對安全風險警告之際。 聯邦調查局局長卡什·帕特爾最近下令反恐團隊保持高度戒備,表示聯合恐怖主義工作小組正全天候運作,以破壞潛在威脅。 國土安全部部長克里斯蒂·諾姆也表示,她正與聯邦夥伴協調,監控家園面臨的風險。 人工智慧濫用的擔憂也擴展至恐怖主義之外。 加州州長加文·紐森簽署了一項行政命令,要求申請州政府合約的公司採用防範人工智慧濫用的保障措施,並為人工智慧生成的圖像和影片加上水印。 五角大樓也將 Anthropic 列為供應鏈風險,限制其在軍事相關合約中的使用。 斯科特更廣泛的訊息是,人工智慧的風險正從理論轉向政策。

avatar

🚨摩根大通禁止所有香港員工使用 Claude AI! 該銀行已將 Anthropic 的 Claude 模型從批准的內部工具中移除,理由是許可與合規問題。 此舉跟隨高盛今年早些時候的類似決定。

avatar

🚨 華爾街加強對人工智慧的管控 據報導,@jpmorgan 已將 Anthropic 的 @claudeai 人工智慧從香港員工的批准工具清單中移除。 🏦 JPMorgan 采取行動 🤖 Claude 存取權已被撤銷 📍 @GoldmanSachs 據報今年早些時候也做出了類似決定 隨著人工智慧的採用加速,全球銀行對資料安全、合規性和監管風險的警惕性日益提高。 #JPMorgan #Claude #Anthropic #AI

avatar

🇺🇸 最新消息:據報導,川普政府正施壓 Anthropic,在重新發布 Claude Fable 5 模型前消除 AI 越獄行為,而安全研究人員則認為,完全防止越獄在技術上不可行。

avatar

特朗普政府要求 Anthropic 在重新推出 Claude Fable 5 之前阻止所有 AI 沙盒逃逸行為,但安全專家指出這項要求無法實現。

avatar

在合作中,雙方共同合作,因為各自都有可提供的益處。 美國能提供: OpenAI Anthropic XAI 歐盟能提供什麼? 什麼都沒有。 這就像我對埃隆說:我們應該聯合起來,沒人能阻止我們! 我有許多好處可得,但他呢?

avatar

🚨 緊急 🚨 白宮要求 Anthropic 停止所有針對其 AI Claude Fable 5 的越獄行為。 專家警告,這在技術上可能無法實現。 美國國安局已發現可繞過安全防護的漏洞。 這場爭議凸顯了對 AI 公司日益增加的壓力,以及確保完全安全的挑戰。 預計在創新速度超越監管的領域,將出現監管緊張局勢。

avatar

Anthropic 希望有一名 AI 監管者,結果卻得到了一個斷路器。 這是市場的解讀,而非法律戲碼。 Anthropic 多年來一直將自己定位為「安全優先」的前沿實驗室,願意向華盛頓請求具有約束力的 AI 規則,而競爭對手則更傾向於自願合規。 隨後,華盛頓率先行動,事後才做出說明,並選擇了單一公司。 監管 vs. 干預 在 Dario Amodei 論證前沿模型應接受技術測試、不安全的發布應被阻止或撤回後數日,美國政府對 Claude Fable 5 和 Mythos 5 發出了出口管制指令。 根據 Anthropic 的說法,該命令禁止任何外國國民(包括 Anthropic 自身的外國籍員工)使用這些模型,但信件並未提供具體的國家安全細節。 這不是一個政策框架。 這是一個斷路器。 Anthropic 並不反對阻止不安全部署的概念。 它反對的是這種版本:沒有明確的法定程序、沒有公開的技術標準、沒有透明的評估依據、也沒有明顯的業界通用基準。 為何市場應當關注 Anthropic 已不再是實驗室的奇觀;它剛剛以 9,650 億美元的投後估值籌集了 650 億美元資金,這意味著治理風險已成為估值風險。 Fable 5 是為廣泛可用性而建,而 Mythos 5 則是透過與美國政府合作的 Project Glasswing 部署的受限網路版本。 這使得此次關閉不僅僅是公關危機。 它表明,產品路線圖可能因國家安全判斷而中斷,而這種判斷無法由客戶、員工和投資者全面審計。 第二層解讀 AI 監管正變得越來越不像軟體合規,而更像受出口管制的戰略技術。 這首先影響了 Anthropic,但此先例不會止於 Anthropic。 如果前沿模型被視為雙用途資產,每一家公開上市的 AI 公司都必須承擔政策風險折價。 Anthropic 呼籲有原則的監管:測試、標準、正當程序,以及阻止實際失敗模型的權力。 華盛頓則提供了反應式干預:快速、隱蔽、政治化且商業上具破壞性。 結論:市場原本將 AI 定價為擴張故事;但這起事件表明,下一階段也將是主權故事。