三位 AI 先鋒者反對加強開放模型限制

icon币界网
分享
AI summary icon精華摘要
傑佛瑞·辛頓、李飛飛和吳恩達在拉斯維加斯舉行的 Ai4 大會上對開放模型的限制表達了擔憂。他們均反對讓大型科技公司掌控 AI 發展。開放興趣分析顯示,市場對此領域的關注正在上升。這三位人士呼籲採取平衡的監管措施,強調必須在開放存取與安全之間協調支撐位與阻力位。他們的觀點凸顯了關於 AI 治理的持續爭議。
幣界網報導:

在 AI 安全爭議升溫之際,外媒稱,傑弗里·辛頓、李飛飛和吳恩達近日在拉斯維加斯舉行的 Ai4 大會上集中談到開放模型問題。三人立場並不完全一致,但都反對由少數大型科技公司主導 AI 的發展節奏。

反對少數公司把持入口

文章指出,三位研究者共同擔憂的一點是,若 AI 被少數公司控制,創新空間可能會受到壓縮。吳恩達直言,他不希望 AI 領域出現「守門人」,因為這會限制開發者、企業和公眾接觸 AI 的方式。

他認為,大公司天然會保護自身優勢,也可能影響行業規則的形成。結果可能是,只有資金最充足、算力最強的企業才能持續建設最先進的系統。吳恩達提出的方向是,盡量維持多家模型提供者並存,讓模型和公司在市場中競爭,而不是讓少數平台佔據主導。

Hinton 區分開源代碼與開放權重

不過,辛頓並不將「開源軟體」和「開放權重模型」視為同一回事。按他的說法,開源軟體公開的是代碼,外界可以檢查漏洞並提出修改;開放權重則是直接將訓練完成的大模型參數交給外界,這會顯著降低二次開發門檻。

他表示,自己過去反對開放權重,原因是這會讓一些人以更低的成本將基礎模型改造成用於網絡攻擊等用途的工具。但他同時承認,這場爭論在現實中已很難逆轉。隨著開放權重模型持續出現,訓練成本曾構成的門檻已經被明顯削弱。

儘管如此,辛頓並未主張停止 AI 的發展。文章稱,他仍認為 AI 會提升生產力,並改善教育和醫療等領域,只是不能因此忽視潛在風險。他還表示,將所有擔憂 AI 風險的人歸為「製造恐慌者」並不公平。

李飛飛主張分層開放

與吳恩達強調開放競爭、辛頓強調安全風險不同,李飛飛反對將討論簡化為「完全開放」或「完全封閉」兩種選擇。她認為,複雜的軟體和科研體系本就存在不同層級,不同環節可以採用不同程度的開放。

她以核物理為例指出,學術論文可以公開發表,但鈾材料受到嚴格監管,實驗環節則處於兩者之間。她據此認為,AI 也可採取類似思路:在科研發現、教育和國際合作層面保持一定開放,同時允許企業保留閉源系統和商業模式。

文章還提到,李飛飛援引人類基因組計劃說明,公共機構與私營部門合作形成的基礎知識平台,可以同時支持科研推進、企業盈利和社會應用。她認為,AI 基礎設施也應朝這個方向發展,而不是陷入非此即彼的爭論。

三人都認可需要監管

Although the three individuals have different views on the boundaries of open models, their attitudes toward regulation are similar. The article states that they all believe AI still requires a certain level of rule-based constraints to develop in a direction more beneficial to society.

辛頓表示,不能將 AI 應如何發展完全交由企業家自行決定。圍繞開放模型的爭論,眼下已不只是技術路線之爭,也關係到行業權力分配、國際競爭以及 AI 安全治理的方向。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露