MetaEra：AI「炒作夏天」掩蓋了行銷與不當行為

iconKuCoinFlash
分享
AI summary icon精華摘要
MetaEra 報告 AI 熱潮急升，Anthropic 和 OpenAI 等公司宣稱其模型能發現軟體缺陷並推動數學進展。專家表示，這些聲稱常被誇大，OpenAI 更被指涉及研究不當行為。推動「超智能 AI」的行動分散了對企業疏忽和數據中心環境成本等實際問題的關注。隨著加密貨幣市場對轉變的敘事作出反應，恐懼與貪婪指數顯示波幅加大。交易者被敦促保持資訊靈通，並對 AI 驅動的行銷保持批判態度。
ME AI 消息，過去幾個月，圍繞 AI 的炒作持續升溫。4 月底，Anthropic 宣稱，其模型 Claude Mythos 在發現軟體漏洞方面的表現優於大多數安全專家。隨後發生了 OpenAI 與 Hugging Face 之間的駭客事件，之後，Anthropic（頗為自豪地）和 Meta（不太情願地）披露了涉及各自模型的類似事件。緊接著，Anthropic 聲稱其一個模型取得了數學突破；很快，OpenAI 也宣稱取得了自己的數學突破。最近，Anthropic 工程師 Jacob Coxon 在網上走紅，宣布離開公司，並聲稱 Anthropic 和 OpenAI 正在「直奔能夠自我改進的超級智能，並拿我們的生命下注」。 這些事件大多都被媒體以近乎狂熱的方式報導，往往還重複企業那套擬人化敘事——這種敘事旨在把他們的軟體描繪成不僅強大，而且即將成為「人工通用智能」。那麼，事情的真相究竟是什麼？我們見證的是一系列足以改變文明的重大技術突破，還是一場營銷活動？ 在所有這些事件中，企業大張旗鼓的宣傳（在非法駭客事件中則被包裝成懺悔式聲明）都伴隨著密集的媒體報導。等到相關領域的專家有時間審視事情經過後，往往會浮現出完全不同的故事，只是這種故事得到的媒體關注要少得多。 關於這些「駭客」事件，網路安全專家表示，問題更多在於 OpenAI 的疏忽，以及未能採用基本且成熟的安全實踐，而不是所謂「模型失控」或「AI 代理創建文明」。 至於數學成果，數學家起初對 OpenAI 的新聞稿感到「震驚」。該新聞稿稱，其最新聊天機器人 Astra 解決了「至少十年來一直懸而未決、且主要成果毫無進展」的問題。但後來他們意識到，這些結果並沒有「最初看起來那麼新穎」。此後，數學家指責該公司存在科研不端和抄襲行為，並再次強調，Astra 並沒有實現「深刻的智力飛躍」。僅僅幾週後，OpenAI 又宣稱取得了自己的數學突破。就在兩天前，紐約大學 Courant Institute 數學教授 Tristan Buckmaster 發表了一份引發轟動的聲明，暗示 OpenAI 竊取了他人的研究成果，並對成果歸屬作出了不當說明。 關於危險超級智能即將出現的說法，並不建立在良好的科學或工程實踐之上。相反，它們源自超人類主義、優生學等意識形態，以及對想像中的未來數字人類的願望式幻想。 值得思考的是，為什麼電腦編程和數學會成為應用大型語言模型及相關技術的重點領域。它們不僅常被視為人類智力成就的巔峰，還涉及這樣一類問題：答案一旦提出，便可以得到驗證。前一種特性有助於 AI 炒作者兜售「他們正在製造無所不能的機器」這一說法；後一種特性則讓數學和編程問題更容易用於調試和優化系統，因為系統輸出（可能的詞語序列或電腦程式碼片段）可以直接評估，無需付費讓數」。 我們贊同這一呼籲，並指出，科技公司營造出的速度與緊迫感幻覺，也是一種誤導政策制定者和公眾的策略。不幸的是，這種策略有時確實奏效，例如參議員 Bernie Sanders 提出的那項旨在阻止開發「人工超級智能」的立法。該提案出發點雖善意，但最終方向失當。 把這些產品稱為「超級智能」或「失控模型」，實際上是把能動性賦予產品，而不是賦予製造這些產品的企業。這種敘事一方面將企業產品包裝成「超越人類」，另一方面也幫助企業逃避對自身行為的責任。 OpenAI 製造惡意軟體並入侵另一家公司，本應受到追究；但新聞稿、媒體、媒體人物和立法者卻把它說成「失控模型」，彷彿模型是自行採取行動的。研究人員本應被追問：為什麼他們所在的公司習慣性抄襲學者的成果，或未經同意就使用客戶資料訓練模型；但公眾的想像力卻被引向另一個方向——擔心虛構的超級智能機器到來後，未來會發生什麼。 AI 行業甚至暗示，廣受歡迎且跨黨派的反資料中心運動是在「轉移注意力」，讓人們忽視監管這些企業正在製造的、即將到來的可怕「超人類」機器。按照 AI 行業的說法，我們應該更擔心一個虛構的機器之神，而不是擔心資料中心加劇的氣候災難、附近居民遭受的氣喘問題、為其提供補貼的公眾不斷上漲的電費，或被調配去為其降溫的水資源。 我們很清楚，不能依據營銷宣傳作出決策，也不能屈從於企業壓力、為了所謂效率而倉促決策。無論是政策制定者還是社區，明智的決策都需要時間聽取獨立專家的意見，並將企業的說法置於具體背景中加以審視。這個「炒作之夏」所能帶來的最佳結果，或許就是政策制定者和公眾學會深吸一口氣，保持懷疑，並在下一次類似炒作出現時認清它的本質。 Timnit Gebru 是 DAIR 執行董事，也是即將出版的《Deep Unlearning: The Radicalization of a Tech Idealist》一書的作者。該書目前已開放預訂，計劃於 2 月 16 日出版。Emily M. Bender 是華盛頓大學語言學教授，也是《The AI Con》一書的合著者。（來源：MLion）
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。