avatar
Maya Zehavi

關注中0X 粉絲20.99K推文151讚1.23K
avatar

正如預期,AI 需要密碼學進行驗證。在多租戶環境中,搭配託管雲端與模型路由時,這一需求會進一步增加。人們需要驗證自己獲得的是付費的模型,並向監管機構證明所使用的模型/權重,因為這些模型正成為受監管行業中安全與企業工作流程的基石。零知識證明(ZKP)從一開始就被視為當服務需要第三方信任 AI 黑箱時的補充解決方案。 但請注意,Anthropic 對證明推論的需求,與加密貨幣對 ZKP 的使用不同。加密原生項目針對低成本鏈上驗證進行優化,因此偏好小規模證明,並接受較慢的證明生成速度;而 Anthropic 則針對鏈下審計員與監管機構進行優化,因此接受 19 MB 的證明,並實現了快速的證明生成器。Anthropic 選擇了 STARKs,因其能快速生成證明——一組 24 個請求的證明約需 223 秒,相當於每秒約 110 個 token。這大約是使用 vLLM 服務相同請求所耗 GPU 時間的 72 倍。 這促使他們採用既具抗量子安全性又適合 GPU 的 STARK 證明。 但——這裡有一個巨大的問題——Anthropic 向第三方實際證明的,僅僅是哈希承諾中的模型權重,在回應單一提示時被作為整數運行。這並不足以證明實際運行的是哪個確切模型,僅能證明權重與承諾一致。 這意味著存在相當直觀的操縱方式:承諾一個權重相似但成本更低的模型,有選擇性地重寫提示,對未被抽樣或證明的其餘流量進行欺騙;隨機選擇可將 token 引導至證明誤差範圍內。

avatar

我很好奇 Polymarket 黑客事件與幣安黑事件之間是否有關聯,感覺後者幾乎在前者發生後立即出現,實在很奇怪。 有人發現這兩個事件之間有什麼關聯嗎?

avatar

很棒的閱讀,這是我希望我自己寫出來的文章。 我認為主要的重點在於引擎在數據中心融資中的角色。在飛機資產證券化(ABS)中,引擎的龐大成本使其成為融資條款的決定性因素,就像AI數據中心中的GPU一樣,但有兩個主要差異: 1. 殘值持續時間:引擎會因使用而貶值,租賃公司會收取維護準備金來應對此情況。而GPU則因過時而貶值,卻無人為此設立準備金。每一次飛行都會影響飛機剩餘部件的殘值;每幾次飛行後,租賃公司會將飛機送修,維修費用由其先前收取的維護準備金資助。貸款方的擔保品價值會根據引擎的運行週期及修復所恢復的部分價值而波動。但引擎本身可為租賃公司服務長達25年,並在之後於二級市場出售。相比之下,GPU不僅會過時,其過時速度更快,通常在4至6年的時間範圍內發生。這意味著數據中心的整個融資工具是一種短期風險,且更依賴於Nvidia、TPU或新型SRAM的發展趨勢。沒有人真正知道B200在兩年後的價值,更不用說五年後了。這一切純屬猜測。 2. GPU引擎直接影響收入:航班價格僅由市場價格決定,不論從JFK飛往希思羅的航班搭載的是GE GEnx-1B還是羅爾斯·羅伊斯Trent 1000引擎,票價都相同。沒有人知道他們所搭乘航班的引擎型號,且這對票價毫無影響。然而,算力價格則直接取決於租用的是哪種GPU。每顆晶片的性能不同,能產生的token數量也不同;此外,即使使用相同GPU的數據中心之間,每小時可用的token數量也可能存在差異。

avatar

如果整個 AI 行業在兩端都依賴供應商融資——Nvidia 作為銀行投資於新雲端及其供應商的現金,而收入則來自 Anthropic 的可轉換債券,那麼幾乎所有沒有來自其他方真實收入的參與者都處於風暴中心,等待著地毯式抽離。

avatar

我們從晚期資本主義與科技巨頭的統治,轉變為可以完全忽視平民的公國。 這僅是公開的加密貨幣,而我們現在被要求崇拜這些半神模型。

avatar

諷刺的是,這套制裁系統於 90 年代在克林頓與拉賓時期被提出,用以對抗恐怖主義與大規模殺傷性武器的擴散。 現在試著向普通用戶解釋:沒有任何加密貨幣或區塊鏈能作為維持以風投融資、併購及軍售為基礎的發達經濟的可行解決方案。