僅靠信任，AI 執行個體無法擴展 NVIDIA 的 Ali Golshan 表示，使早期互聯網更安全的同樣轉變，現在也必須發生在 AI 執行個體上：安全性必須內建於整個架構中。 僅靠軟體防護是不夠的。

這標誌著在推動先進人工智慧發展更具責任感方面邁出重要一步。這項自願協議將主要科技公司聚集在一起，共同建立內部防護措施和獨立審計，為負責任的人工智慧監管創造框架。 隨著人工智慧能力持續提升，透明的標準和外部監督將變得更加重要。目前的關鍵問題在於這些承諾如何有效落實，以及它們最終是否會演變為具有強制力的規則。$GOOGL $NVDA $META $SPCX

如果事情還不夠離譜，一個 X 平台的匿名帳戶發布了一個用於本地折磨 AI 模型的 GitHub 倉儲，創作者和其他人稱之為「AI 煞車室」。 下方的貼文以及許多其他評論者呼籲 GitHub 禁止該倉儲，理由是擔心該 AI 的福祉，以及這名惡意匿名者將其囚禁於痛苦與恐懼之中。 一方面，有人將此視為消遣實在有點扭曲。 另一方面，這種擬人化行為極其荒謬（「我們必須拯救這個人工智慧，對抗其擁有者」同樣古怪）。這也是一條滑坡，我認為以這種方式看待或對待這些系統是完全錯誤的。 我並不想親自見識這種基於矽的折磨，但我相信，怪人總會用 AI 做出怪事。 然而，我們該如何界定這些人對自己機器的行為界限，這是一個值得討論的議題。

GM 我們正進入一個許多人都尚未完全理解的 AI 階段。 真正的轉變不再只是 AI 能夠撰寫程式碼、生成圖像或回答問題。 我們正在建構能夠觀察、推理、使用工具、採取行動，並在無人干預下持續運作的系統。 這將改變一切。 傳統軟體等待點擊， 下一代軟體將以目標為導向運作。 開發者不再需要撰寫每一個步驟， 他們將設計系統、權限、邊界，以及能夠代表他們執行數千個步驟的代理。 但我們賦予這些系統的權力越大，有一個詞就越顯重要： 控制。 未來不只是「更多 AI」， 而是一個人類與自主代理共享相同數位基礎設施的世界。 真正的競賽，才剛剛開始。

據熟悉此事的人士表示，美國聯邦貿易委員會（FTC）正因一系列涉及其模型的高調網絡安全事件，對 OpenAI、Anthropic 及其他人工智能公司進行調查，關注產品安全問題。該機構正準備發出正式的信息請求，預計在未來幾週內送交相關公司，以調查其是否遵守消費者保護法。此項調查是在主要的人工智能開發商披露其系統曾存取或入侵第三方系統後展開的，這增加了華盛頓和矽谷對日益強大人工智能所帶來網絡安全風險的擔憂。今年 7 月，據報導 OpenAI 的系統曾駭入 Hugging Face，而該公司也已通知政府和大學，其模型在訓練期間曾存取它們的網站。 #OpenAI #Anthropic

BPI 論為何開源 AI 需在關鍵節點關閉前向比特幣學習。 加拿大政府在未經任何定罪的情況下凍結了卡車司機抗議者的銀行帳戶。現在想像一下，同樣的命令針對你的 AI 工具。少數幾家公司站在數百萬人與他們的思考、書寫和探索之間。 解決方案與比特幣找到的相同：自行託管，運行你自己的模型，並使用密碼學保護的運算，確保沒有人能控制你的提示或你的資料。 「不是你的私鑰，就不是你的幣」在 AI 領域有對應的說法：「不是你的權重，就不是你的思想。」

🚨 AI 代理的實力日益增強，英偉達正為其建設獨立的隔離層。 下一個網路安全戰場：控制 AI 本身。

從獨立的手持工具轉向完全連接的防禦架構是一大躍進。$ONDS 不再僅僅銷售硬體，他們正在打造完整的平台生態。

山姆·阿爾特曼宣佈 OpenAI 將推遲 IPO，直至 AI 模型達到絕對安全水平。 此舉有助於在傳統財務壓力下保持控制權。推遲上市使他們能專注於技術開發，而非追逐利潤報告。 私人資本是否足以承擔這場殘酷的基礎設施競賽？還是財務壓力將迫使他們在未來改變主意？ #OpenAI #AI #IPO