租用前沿 AI 的風險,從來不在於它不夠聰明。 而在於你無法掌控關閉開關。 6 月 12 日,一項美國出口指令迫使 Anthropic 暫停其兩款最強大的模型。該指令針對外國國民,因此公司為保持合規,對所有人禁用了這些模型。 沒有預警,無法區分存取權限。上一秒還在運行,下一秒就已關閉。 三年來,AI 的討論焦點一直是能力;如今已轉變為存取權的問題。 你租用的模型,可能被非你本人的人關閉;而你自行運行的模型則不會。