
🚨 この人物、毎月200ドルのCLAUDE MAXサブスクをデスク上のミニPCに置き換えた! GMKTEC EVO-X2でllama.cppを経由してGemma 4 12Bをローカルで実行。クラウドもAPIキーもレート制限も不要。 Q4_K_M量子化モデルをダウンロードし、llama.cppを起動して動かすだけ。 出力を見るまで、これは単なるおもちゃに見えるかもしれない: このモデルは、Starshipのエンジニアリング、推進システム、Raptorエンジン、メタロックス燃料、再利用メカニズム、グリッドフィン、Mechazillaキャッチについて、セクションと箇条書きで構成され、最後に明確性チェックを含む完全な技術的解説を書き上げた。 生成速度:プロンプト処理約18トークン/秒、60トークン/秒で処理。GPUメモリ使用率は96%に達している。このすべてが靴箱より小さな筐体で動作している。 ほとんどの開発者は、クラウドAIの使用制限に引っかかって毎月200ドルを費やしているが、この人物はすでに所有しているハードウェアのコストだけで、24時間365日無制限にローカル推論を実行している。 ブックマークしておこう!今後さらにアルファ情報をお届けします。毎月200ドルのサブスクリプション時代は、現実の壁に直面しました。
