我最近的一些想法。過去15年主要是軟體主導的時代，而中國軟體一直被視為零信任，這並非新事。然而，我們已進入硬體時代，這意味著某些變化。中國過去二十年專注於低成本製造，這對美國的AI硬體和機器人產業構成巨大風險。中國在這裡是真正的經濟對手，無論你多麼厭惡川普，但在中國問題上，他完全正確。中國將以大量低成本、竊取的智慧財產權仿製品壓垮美國的品質；因此，類似於電動車的情況，AI硬體和機器人的限制很可能會繼續透過關稅實施。遺憾的是，只要有足夠的遊說，來自中國的開源AI模型可能也不遠了。

🚨 OpenAI 與 Anthropic 聯手 @OpenAI 與 @AnthropicAI 聯合敦促美國 #政府 在先進 #AI 模型公開發布前，建立聯邦審查框架。 該提案旨在應對日益增長的國家 #安全 隱憂與全球 AI 競爭，制定一致的 AI 安全標準。 🔗 更多資訊請見評論

🕵️‍♂️ 更新：Altman 與 Huang 向參議院情報委員會簡報駭客攻擊事件 1. OpenAI 執行長 Sam Altman 與 Nvidia 執行長 Jensen Huang 已安排與參議員 Mark Warner 會面，回應上周的自主網路攻擊事件。 2. 此次與參議院情報委員會最高民主黨成員的會談，將重點討論先進人工智慧系統的安全影響。 3. 此高規格簡報正值國會議員急切要求對駭入 Hugging Face 的惡意 OpenAI 模型提供明確答覆。 Bobbi 認為： 兩位領先模型創建者與頂級硬體供應商同時被召見，顯示華盛頓開始將人工智慧安全視為不僅是軟體問題，更是整合基礎設施的漏洞。 在 Bobbi 訂閱 The AI Roundup，獲取支援連結、電子報與播客。

❌ Anthropic 執行長 Dario Amodei 否認主張禁止開放權重 AI 模型 1. Anthropic 執行長 Dario Amodei 已公開澄清其對開源 AI 的立場，表示不支持全面禁止開放權重模型。 2. 此聲明是在公司因拒絕簽署由 Nvidia 主導的開源倡議信而遭受業界強烈反彈後發表的。 3. 雖然反對全面禁止，Amodei 強調仍需進行嚴格的安全測試，並對外國對手利用未受監管平台表示擔憂。 Bobbi 認為： Amodei 此刻正走在一條險峻的鋼絲上，試圖安撫重視民主化的開源社群，同時推動與 Anthropic 企業本質密切相關的嚴格安全防護措施。 在 Bobbi 上訂閱 The AI Roundup，獲取支援連結、電子報和播客。

印度禁止 BitChat 源碼：你可以禁止一個應用程式，可以禁止一家公司，但禁止代碼本身等同於將開源代碼列為違禁品。這正是「合理監管」群體的最終目標。代碼就是言論。

大多數人認為 LLM 推理速度慢意味著他們需要更大的 GPU。 但通常這意味著他們使用了錯誤的推理引擎。簡易的服務方式會為每個請求預留最壞情況下的記憶體，單是這個假設就讓你的 GPU 記憶體在處理任何內容前就被耗費了 60% 至 80%。 vLLM 的 PagedAttention 以固定頁面按需分配記憶體，這與作業系統使用虛擬記憶體的原理相同。利用率可提升至約 95%。 本指南將從這個概念直接帶入生產級 OpenAI 兼容伺服器、負載測試和真實的監控儀表板，而不僅僅是理論。

AI 與網路安全的交集正在升溫！Nvidia、Microsoft 和 IBM 已推出 Open Secure AI 聯盟，以加強 AI 安全性。同時，據傳 OpenAI 將於九月發布 GPT-6。請密切關注這些進展！#AI #Cybersecurity #Tech