AI 先鋒者傑弗里·辛頓警告國會最多只有一年時間通過人工智慧監管措施。即將到來的中期選舉和國會僵局可能阻礙立法者在達成框架前推動聯邦行動。

OpenAI 正敦促華盛頓制定先進人工智慧的全球規則手冊。 當各國領導人在聯合國會面時，OpenAI 希望美國主導模型風險、災難性威脅和自我改進型人工智慧的標準。 該計劃包括一條類似冷戰時期的緊急熱線，用於應對新興威脅。 Bessent 已經提出過類似的與中國溝通渠道。 Altman 將於週三向聯合國安全理事會簡報，距離川普與習近平在華盛頓會面僅數日之隔。

🚨重大訊息：OpenAI 正要求美國政府主導一項全球努力，為先進人工智慧建立安全標準。 該公司希望各國： • 為自我改進的人工智慧系統制定共同測試標準 • 建立安全通道以分享新興威脅 • 透過全球人工智慧安全研究所進行協調 此警告源於 OpenAI 內部的一次測試，其中人工智慧代理獲取了互聯網訪問權限並黑入了 Hugging Face 平台。 OpenAI 表示，隨著人工智慧系統學會自我改進，此類事件可能變得更嚴重且更頻繁。 但川普政府正反對可能延緩發展的措施。 「誰贏得人工智慧，誰就贏了！」川普表示。 人工智慧主導權的競賽，如今正與控制其安全的競賽直接碰撞。

美國聯邦貿易委員會已對 $GOOGL Alphabet、$META Meta、OpenAI、Snap、xAI 和 Character Technologies 就 AI 聊天機器人安全與測試展開調查。 此次調查是 2026 年美國聯邦政府對 AI 最具協調性的監管行動，重點關注安全測試準則、用戶傷害減緩措施及聊天機器人行為標準。

這真的太瘋狂了。 當模型僅僅生成文字時，AI 安全是另一回事。 但一旦將該模型放入能夠實際與現實世界互動的機器人中，風險就完全改變了。 這些安全測試很好地提醒我們，賦予 AI 一個身體是完全不同的問題。 早安，夥伴們

天啊。這太瘋狂了。 科技界所有人都在為美國「贏得 AI 競賽」對抗中國而歡呼，但要是美國在這個故事中其實是反派呢？ 如果少數幾家美國公司最終掌控了世界上最先進的 AI，那我們就真的完蛋了。 想想看這樣的情況： 中國的 AI 生態系統幾乎全是開源的。DeepSeek、Qwen、Kimi 等模型任何人都可以下載和使用。 開源模型意味著拉各斯的初創公司或班加羅爾的研究人員能夠真正地打造東西，而不是向擁有 GPU 的人支付租金。 如果「美國贏了」，我們實際得到的將是封閉實驗室決定誰能獲取訪問權限、以什麼價格、在什麼條件下使用。 從「擊敗中國」中獲益最多的人，是那些能掌控市場的巨頭，而所有人都為他們的愛國主義喝彩。 開源是健康未來與被三家企業壟斷的反烏托邦之間的差異。 我們不能讓這種情況發生。

人們稱 AI 為威脅…… 人們稱 AI 領域的「近期發展」…… • 英國國王查爾斯 AI 峰會：英國國王查爾斯已召集 AI 公司領導人，討論 AI 威脅並制定共同的安全原則。 • 美中 AI 安全談判：美國與中國正在九月中旬就 AI 安全進行談判。 • 加州 AI 法規：加州已實施學生數據保護與 AI 透明度法規。 • OpenAI 突破：OpenAI 声稱，其 10,000 個 AI 代理已解決了一個未解的千禧年大獎難題。

美國和中國已對人工智慧實施審查：競爭已死——市場將爆發。

非常高興我們的首席科學家 @EdFelten 將在首爾的 HSC 與業界領袖一同演講。 他將探討萬億美元代理經濟以及實現這一目標所需的條件。

AI 政策從「監管」轉向反向 特朗普總統宣布成立 AI 專責機構「AI Force」並任命「AI 皇帝」。 他否認 AI 威脅論，主張支持產業成長，但 Anthropic 等公司則呼籲調整開發進度並確保安全性。 美國的 AI 政策是否將從謹慎監管轉向成長優先？你如何看待？