macOS27で搭載されたLLMって、あまり記事見かけないので、取り上げてみました https://t.co/7m33xszKVb Macに標準搭載されているAIは仕事で使える？Appleの「fm」をエンジニア視点でレビュー【macOS 27/fmコマンド/ローカルLLM】 うさぎハッカーのAIラボ by CodeRabbit　#AI要約 macOS 27搭載のローカルLLM「fmコマンド」の実力と活用方法 🔳AppleがローカルLLMを標準搭載 動画では、macOS 27にApple製のローカルLLMを利用できる「fmコマンド」が搭載されたと紹介。Appleシリコン搭載Macで、クラウドに依存せずAIを実行できる仕組みとして注目されている。 🔳オフラインで無料・回数制限なし fmコマンドはインターネット接続なしで動作し、何度利用しても追加料金が発生しない。データを外部送信せずに処理できるため、プライバシー保護の面でもメリットがあると説明している。 🔳利用条件と初期設定 動画では、Apple M3以降のチップと12GB以上のメモリが必要と説明。最初に「fm license」で利用規約に同意し、「fm available」でモデルの利用可能状態を確認する。モデルが有効になれば利用を開始できる。 🔳fmコマンドの主要機能 「fm chat」で対話型AI、「fm respond」で単発の質問処理が可能。さらにOCRによる画像内文字の抽出、バーコード読み取り、JSON形式の構造化出力、APIサーバー機能などを備えている。 🔳OpenAI互換APIによる外部連携 「fm serve」でローカルAPIサーバーを起動できる。OpenAI互換のインターフェースを通じて、OpenCodeなどの外部ツールからfmを呼び出し、AIエージェントや自動化システムに組み込める。 🔳Pythonやシェルスクリプトとの連携 Python SDKやシェルスクリプトと組み合わせることで、翻訳、OCR、ファイル整理などの自動処理が可能。JSONスキーマで出力形式を指定すれば、プログラムから結果を扱いやすくなる。 🔳最大の弱点は8192トークンの制限 コンテキストウィンドウは8192トークンと小さく、長文処理や大規模なコーディングには不向き。動画では、2023年頃のGPT-3.5 Turboを引き合いに出し、現在の高性能LLMと比較すると制約が大きいと評価している。 🔳知識の古さとハルシネーション 動画内の検証では、モデルの知識が2024年10月頃で止まっていると指摘。最新情報の検索も自律的には行えず、事実誤認やハルシネーションの懸念がある。ただし、架空の小説を正しく否定するなど、質問によっては適切な回答も確認された。 🔳OpenCodeとの連携でコーディングを検証 OpenCodeのサブエージェントとしてfmを設定し、HTMLのToDoアプリを作成。約20分かけて基本的な追加・削除機能を実装できたものの、UIは簡素で、日本語入力にも問題が残った。 🔳サブエージェントとしての活用可能性 fmはコンテキスト制限が厳しいため、メインのAIとして使うよりも、翻訳、文字抽出、単純なコード生成など、限定的な処理を担当するサブエージェントとして活用する方が現実的と評価している。 🔳大量データの自動処理に期待 数100枚から数1000枚の画像をOCRで処理したり、長文を分割して翻訳したりする用途が想定される。処理回数による追加課金がないため、プログラムと組み合わせた反復処理にメリットがある。 🔳現時点での総合評価 最新のクラウドLLMと同等の性能を期待するには時期尚早だが、無料・オフラインという特徴には価値がある。開発者が小規模な自動化やAIエージェントの実験に利用するには、興味深い選択肢と結論づけている。