在 AI 安全爭議升溫之際,外媒稱,傑弗里·辛頓、李飛飛和吳恩達近日在拉斯維加斯舉行的 Ai4 大會上集中談到開放模型問題。三人立場並不完全一致,但都反對由少數大型科技公司主導 AI 的發展節奏。
反對少數公司把持入口
文章指出,三位研究者共同擔憂的一點是,若 AI 被少數公司控制,創新空間可能會受到壓縮。吳恩達直言,他不希望 AI 領域出現「守門人」,因為這會限制開發者、企業和公眾接觸 AI 的方式。
他認為,大公司天然會保護自身優勢,也可能影響行業規則的形成。結果可能是,只有資金最充足、算力最強的企業才能持續建設最先進的系統。吳恩達提出的方向是,盡量維持多家模型提供者並存,讓模型和公司在市場中競爭,而不是讓少數平台佔據主導。
Hinton 區分開源代碼與開放權重
不過,辛頓並不將「開源軟體」和「開放權重模型」視為同一回事。按他的說法,開源軟體公開的是代碼,外界可以檢查漏洞並提出修改;開放權重則是直接將訓練完成的大模型參數交給外界,這會顯著降低二次開發門檻。
他表示,自己過去反對開放權重,原因是這會讓一些人以更低的成本將基礎模型改造成用於網絡攻擊等用途的工具。但他同時承認,這場爭論在現實中已很難逆轉。隨著開放權重模型持續出現,訓練成本曾構成的門檻已經被明顯削弱。
儘管如此,辛頓並未主張停止 AI 的發展。文章稱,他仍認為 AI 會提升生產力,並改善教育和醫療等領域,只是不能因此忽視潛在風險。他還表示,將所有擔憂 AI 風險的人歸為「製造恐慌者」並不公平。
李飛飛主張分層開放
與吳恩達強調開放競爭、辛頓強調安全風險不同,李飛飛反對將討論簡化為「完全開放」或「完全封閉」兩種選擇。她認為,複雜的軟體和科研體系本就存在不同層級,不同環節可以採用不同程度的開放。
她以核物理為例指出,學術論文可以公開發表,但鈾材料受到嚴格監管,實驗環節則處於兩者之間。她據此認為,AI 也可採取類似思路:在科研發現、教育和國際合作層面保持一定開放,同時允許企業保留閉源系統和商業模式。
文章還提到,李飛飛援引人類基因組計劃說明,公共機構與私營部門合作形成的基礎知識平台,可以同時支持科研推進、企業盈利和社會應用。她認為,AI 基礎設施也應朝這個方向發展,而不是陷入非此即彼的爭論。
三人都認可需要監管
Although the three individuals have different views on the boundaries of open models, their attitudes toward regulation are similar. The article states that they all believe AI still requires a certain level of rule-based constraints to develop in a direction more beneficial to society.
辛頓表示,不能將 AI 應如何發展完全交由企業家自行決定。圍繞開放模型的爭論,眼下已不只是技術路線之爭,也關係到行業權力分配、國際競爭以及 AI 安全治理的方向。
