將 AI 泡沫的「破裂」歸因於推論成本下降,是對經濟學的誤解。 OpenAI 削減了 Luna 和 Terra 這兩款更節省代幣的模型的定價,但保留了 Sol 和 Pro 的定價不變。更低的價格源於模型運行成本下降,因它們使用更少的代幣並更高效地處理工作負載。 這為更廣泛的應用打開了大門。過去因成本過高而無法自動化的任務,現在可以持續在編碼、客戶支援、研究、資料分析和代理工作流程中運行。企業在每個個別請求上的支出可能減少,但卻能在整個業務中發出數千個更多請求。 半導體問題的關鍵在於總計算量消耗。單單每代幣的價格告訴你的資訊非常有限。雲端排隊需求持續增長,超大規模雲端服務商仍面臨容量不足,基礎設施支出也持續上升。 模型之間的競爭將壓縮模型層的保證金。推論成本下降擴大了能經濟地使用 AI 的應用數量,這持續推動對晶片、記憶體、網路和資料中心的需求。@jvisserlabs

