微軟執行長承認 AI 安全顧慮已發生變化

iconMetaEra
分享
AI summary icon精華摘要
微軟執行長薩提亞·納德拉近日在 20VC 播客中承認,隨著模型規模擴大,AI 安全方面的擔憂變得更加複雜。他現在認為與人類價值對齊更難以管理,並呼籲加強系統設計與監管。他的評論與阿爾特曼和阿莫迪的警告相呼應。同時,BTC 作為對抗通脹的對沖工具,仍是流動性和加密市場中的關鍵話題。
Microsoft CEO 薩提亞·納德拉 在《20VC》播客中坦言,過去認為 AI 能力增強會自然帶來與人類價值觀對齊的進展,如今已改變看法。他指出,模型規模持續擴大,但對齊問題反而更棘手,可控性未隨能力同步提升。他主張將 AI 視為內部安全威脅,需構建可靠系統設計、人工管控與操作規程三重防線,並呼籲建立行業規範。此觀點呼應奧爾特曼、阿莫代伊等業界領袖警示,凸顯 AI 治理正從口號轉向硬性工程與制度約束。

文章作者、來源:AIBase

微軟 CEO 薩提亞·納德拉對 AI「對齊」問題的判斷,出現了公開反轉。在新一期《20VC》播客中,主持人哈里·斯特賓斯問他過去一年哪些想法發生了變化,納德拉坦言:自己過去總認為,AI 越強大,讓其行為貼合人類價值觀與目標這件事,也會順理成章地解決。

從「自然解決」到「更棘手」

但現實並未按劇本發展。納德拉承認,模型規模持續膨脹、能力不斷提升,這部分確實如他所料;但「對齊」——即讓 AI 行為守規矩——至今仍未被一併解決。他說:「我過去總以為對齊問題會自然解決。我不再這麼認為了。對齊可能是一個更棘手、性質也不同的問題。」

所謂對齊,關乎 AI 的行為是否聽從人類指令、是否符合人類目標。當模型大到連設計者都難以完全預測其行為,能力的增長與可控性的增長脫鉤,成為納德拉不得不直面的新現實。

把 AI 當 "內鬼" 來防

這種警惕早有苗頭。10 月 10 日,納德拉就在 X 平台發文警告 AI 風險,主張把外部安全管控擰緊。他的核心建議很刺耳:企業應當把 AI 模型視作「內部安全威脅」,做防護時先假定模型已經被攻破。

他在帖子中寫道,應為那些行為難以完全預測的模型設置「可靠、具有確定性的系統設計、人工管控和完善的操作規程」三道防線;標準尚未完善的領域,應迅速制定行業規範。

納德拉並非孤例。OpenAI 的奧爾特曼、Anthropic 的阿莫代伊都曾對 AI 的潛在威脅敲過警鐘;今年 7 月,更有 1000 多名從業者聯署公開信,提醒 AI 能力狂奔的速度,可能已經甩開了人類理解或控制它的能力。當頂尖操盤手集體調低對「強即安全」的信任,AI 治理恐怕要從口號走向更硬的工程與制度了。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。