Microsoft CEO 薩提亞·納德拉 在《20VC》播客中坦言,過去認為 AI 能力增強會自然帶來與人類價值觀對齊的進展,如今已改變看法。他指出,模型規模持續擴大,但對齊問題反而更棘手,可控性未隨能力同步提升。他主張將 AI 視為內部安全威脅,需構建可靠系統設計、人工管控與操作規程三重防線,並呼籲建立行業規範。此觀點呼應奧爾特曼、阿莫代伊等業界領袖警示,凸顯 AI 治理正從口號轉向硬性工程與制度約束。文章作者、來源:AIBase
微軟 CEO 薩提亞·納德拉對 AI「對齊」問題的判斷,出現了公開反轉。在新一期《20VC》播客中,主持人哈里·斯特賓斯問他過去一年哪些想法發生了變化,納德拉坦言:自己過去總認為,AI 越強大,讓其行為貼合人類價值觀與目標這件事,也會順理成章地解決。
從「自然解決」到「更棘手」
但現實並未按劇本發展。納德拉承認,模型規模持續膨脹、能力不斷提升,這部分確實如他所料;但「對齊」——即讓 AI 行為守規矩——至今仍未被一併解決。他說:「我過去總以為對齊問題會自然解決。我不再這麼認為了。對齊可能是一個更棘手、性質也不同的問題。」
所謂對齊,關乎 AI 的行為是否聽從人類指令、是否符合人類目標。當模型大到連設計者都難以完全預測其行為,能力的增長與可控性的增長脫鉤,成為納德拉不得不直面的新現實。
把 AI 當 "內鬼" 來防
這種警惕早有苗頭。10 月 10 日,納德拉就在 X 平台發文警告 AI 風險,主張把外部安全管控擰緊。他的核心建議很刺耳:企業應當把 AI 模型視作「內部安全威脅」,做防護時先假定模型已經被攻破。
他在帖子中寫道,應為那些行為難以完全預測的模型設置「可靠、具有確定性的系統設計、人工管控和完善的操作規程」三道防線;標準尚未完善的領域,應迅速制定行業規範。
納德拉並非孤例。OpenAI 的奧爾特曼、Anthropic 的阿莫代伊都曾對 AI 的潛在威脅敲過警鐘;今年 7 月,更有 1000 多名從業者聯署公開信,提醒 AI 能力狂奔的速度,可能已經甩開了人類理解或控制它的能力。當頂尖操盤手集體調低對「強即安全」的信任,AI 治理恐怕要從口號走向更硬的工程與制度了。
