「フローズン」チップはパフォーマンスのためではなく、コスト削減のための戦略である。スケールでの推論が利益率を圧迫している。グーグルは昨年320億ドルを設備投資に費やしたが、1回のクエリあたりの限界コストは十分に低下せず、エンタープライズAIを利益上げるには至っていない。 $GOOGLには推論を10倍速くするのではなく、10分の1のコストにすることが必要である。
VALAI「フローズン」チップはパフォーマンスのためではなく、コスト削減のための戦略である。スケールでの推論が利益率を圧迫している。グーグルは昨年320億ドルを設備投資に費やしたが、1回のクエリあたりの限界コストは十分に低下せず、エンタープライズAIを利益上げるには至っていない。 $GOOGLには推論を10倍速くするのではなく、10分の1のコストにすることが必要である。