山姆·阿爾特曼警告稱，AI 發展必須放緩以應對前沿風險

在 OpenAI 執行長 Sam Altman 呼籲放緩並更仔細監控模型開發後，AI 新聞重心轉向前沿安全。他警告，若能力的進步速度快於對齊與監控系統，人類可能失去控制。

阿爾特曼也指出，對強大人工智慧的強力集中控制是一項獨立的危險。他在9月14日的聲明中支持持續進步，但開發者應接受額外的安全成本和較慢的開發進度。

AI 新聞聚焦於加速前沿發展

Altman 支持 Anthropic 執行長 Dario Amodei 提出的在研究人員加強安全保護的同時放緩開發進度的建議。

然而，他解釋說，放慢腳步並不意味著停止技術進步。相反，實驗室應在安全審查需要更多時間時接受較慢的發展。這些干預措施成本高昂，但阿爾特曼將這些成本描述為必要的。

除了 AI 新聞外，Altman 表示，美國內部的競爭壓力絕不應成為魯莽開發的藉口。他補充說，模型的能力不得超越對齊與監控系統。

進展已加速，使每一個前沿實驗室更需負責任地發展。他表示，美國公司必須讓公眾相信，它們將負責任地開發先進系統。

早期的公司架構主要在公開部署前審查已完成的模型，這些包括前沿實驗室開發的負責任擴展政策和準備框架。

阿爾特曼表示，當前的發展條件需要新的工具和更早的安全評估。因此，OpenAI 已將部分安全工作提前至主要能力提升之前。

OpenAI 現在會在特定的前沿強化學習運行前，制定明確的安全案例。當研究人員預期訓練運行將帶來顯著能力提升時，公司便會應用這些案例。

OpenAI 也持續在發布完整模型前進行安全工作。因此，這種方法將評估置於開發和部署階段。

阿爾特曼表示，公司應分享做法並提出自己的安全程序。他支持涵蓋模型誤差、監控和安全的共同標準。

這些標準可協助實驗室評估日趨強大的系統。他也歡迎獨立審計員作為一致的前沿風險框架的一部分。

最新的 AI 新聞聲明呼籲業界立即採取行動，無需等待立法。阿爾特曼表示，企業在引入保障措施前無需獲得反壟斷豁免。

他還支持建立一個聯邦框架，為前沿開發者設定一致的要求。然而，他賦予政府在協調國際安全規則方面更大的角色。

阿爾特曼表示，實驗室應首先實施其自身組織內可用的保護措施，隨後政府可支持各國之間的協調，以開發先進模型。

他的聲明並未要求終止人工智慧研究或能力提升，而是提議在加強監控和有計劃的進展下繼續發展。

阿爾特曼描述了先進的 AI 開發可能產生嚴重損害結果的兩種方式。首先，如果能力超越現有的安全措施，人類可能會失去控制。

其次，一家公司、一個國家、一個實驗室或個人可能對強大的系統獲得過度控制。這種集中化可能使單一行為者將其世界觀強加於他人。

警告將技術控制與機構控制置於同一安全討論中。阿爾特曼表示，OpenAI 仍致力於確保人工智慧服務人類。

根據最新的人工智慧新聞，OpenAI 首席执行官亦強調，每個前沿實驗室都必須承擔此責任。否則，更強大的系統可能會在缺乏充分監管或共同標準的情況下進步。