shit… 這是網際網路最瘋狂的分散式推論專案 一個從零建構的 WebGPU 引擎，透過房間內每台裝置的 WebRTC 網狀連接，採用預測解碼技術，在相同 GPU 上的表現超越原生 llama.cpp，全部都在瀏覽器標籤中運行 打開一個網址，選擇一個模型… 即時啟動。 趕快保存這個連結，趁你的朋友還不知道他們的手機也能協助運行 27b 模型。