Anthropic 的一名研究員在該公司培訓模型三年後辭職，並將其理由寫在了每個人皆可見之處 🧐 Jacob Coxon，27 歲，曾先後在 OpenAI 和 Anthropic 的預訓練部門工作。離職時，他用一句話總結：實驗室正競相開發自我進化的 AI，而他們正以我們所有人的人生為賭注。 真正引發討論的，是接下來的部分 👇 Anthropic 負責對齊科學的 Evan Hubinger 出面確認了這一說法。他預估：未來十年內，AI 殘滅人類的機率超過 10%。他認為當前模型的風險較低，真正擔憂的是自我迭代式進化。 一家公司內部負責安全的員工公開發表此類言論，實屬異常 😳 討論瞬間轉向政治 🏛️ Bernie Sanders 與 Greg Casar 於 9 月 3 日宣布的《禁止人工超級智慧法案》早已擺上檯面：對超級智慧實施永久禁令，在建立新聯邦機構並制定安全規則前，對邊界模型實施臨時停滯，違規者最高可判 20 年監禁，並強制公司清算。 反對陣營也未坐視不理 🤨 辭職時間點、首批引述幾乎均來自同一資金支持的政策機構，且與法案草案完全重合，這些巧合促使部分人認為：「這並非有機事件，而是一場監管捕獲行動」。 也就是說，目前存在兩種說法：要麼是業界核心傳出的真實警訊，要麼是為打壓競爭對手而策劃的法規制定行動。兩者同時為真的可能性也存在。 在此期間，Anthropic 今日發布了其迄今最詳盡的威脅情報報告。報告詳述了模型如何被用於網絡攻擊、影響行動與監控嘗試。對於想了解此爭議真實背景的人而言，這是一份極佳的文件 📄 你覺得哪種說法更具說服力？是真誠的警告，還是精心策劃的遊說？🤔 本內容僅供資訊用途，不構成投資建議或投資諮詢。