macOS 27 में शामिल LLM के बारे में बहुत कम लेख दिखाई देते हैं, इसलिए मैंने इसे उठाया https://t.co/7m33xszKVb क्या Mac पर डिफ़ॉल्ट रूप से शामिल AI काम के लिए उपयोगी है? Apple के 'fm' की इंजीनियरिंग दृष्टिकोण से समीक्षा 【macOS 27/fm कमांड/लोकल LLM】 उसागी हैकर का AI लैब by CodeRabbit　#AIसारांश macOS 27 में शामिल लोकल LLM 'fm कमांड' की क्षमता और उपयोग 🔳 Apple ने लोकल LLM को डिफ़ॉल्ट रूप से शामिल किया है वीडियो में, macOS 27 में Apple के लोकल LLM का उपयोग करने के लिए 'fm कमांड' शामिल किए जाने का उल्लेख किया गया है। Apple Silicon से सुसज्जित Mac पर, AI को क्लाउड पर निर्भरता के बिना चलाने की सुविधा प्रदान करता है। 🔳 ऑफलाइन, मुफ्त, और कोई उपयोग सीमा नहीं fm कमांड बिना इंटरनेट कनेक्शन के काम करता है, और इसका कोई भी उपयोग अतिरिक्त शुल्क के बिना हो सकता है। डेटा को बाहरी सर्वर पर नहीं भेजा जाता, इसलिए प्राइवेसी सुरक्षा में इसका फायदा है। 🔳 उपयोग की शर्तें और प्रारंभिक सेटअप वीडियो में, Apple M3 या उससे आगे के चिप्स और 12GB से अधिक RAM की आवश्यकता होने की बात कही गई है। पहले 'fm license' कमांड से समझौता स्वीकार करें, और 'fm available' से मॉडल की उपलब्धता की पुष्टि करें। मॉडल सक्रिय होने पर, आप उपयोग शुरू कर सकते हैं। 🔳 fm कमांड के मुख्य कार्य 'fm chat' से संवादात्मक AI, 'fm respond' से एकल प्रश्नों का संसाधन। साथ ही, OCR के माध्यम से छवि में पाठ प्राप्त करना, बारकोड पढ़ना, JSON प्रारूप में संरचित आउटपुट, API सर्वर कार्यक्षमता, आदि। 🔳 OpenAI-अनुकूल API के माध्यम से बाहरी संयोजन 'fm serve' से स्थानीय API सर्वर शुरू किया जा सकता है। OpenAI-अनुकूल इंटरफ़ेस के माध्यम से, OpenCode जैसे बाहरी टूल्स fm को कॉल कर सकते हैं, AI एजेंट्स या स्वचालन प्रणालियों में सम्मिलित कर सकते हैं। 🔳 Python और Shell स्क्रिप्ट्स के साथ समन्वय Python SDK और Shell स्क्रिप्ट्स के साथ मिलाकर, अनुवाद, OCR, फ़ाइल संगठन, आदि स्वचालित प्रक्रियाएँ संभव हैं। JSON स्कीमा के माध्यम से आउटपुट प्रारूप निर्दिष्ट करने पर, प्रोग्राम से परिणामों को प्रबंधित करना आसान होता है। 🔳 सबसे बड़ी कमजोरी: 8192 token की सीमा संदर्भ-विंडो 8192 token है, जो लंबे पाठों या बड़े कोडिंग प्रोजेक्ट्स के लिए अउपयुक्त है। वीडियो में, 2023 के GPT-3.5 Turbo की तुलना में, मॉडल की सीमाओं को प्रमुखता से प्रस्तुत किया गया है। 🔳 पुरानी जानकारी और हॉलूसिनेशन वीडियो में प्रदर्शित परीक्षणों में, मॉडल की जानकारी 2024 October के आसपास ही समाप्त होती है। मॉडल स्वयं ही हालिया सूचना प्राप्त नहीं कर सकता, और तथ्य-भ्रम/हॉलूसिनेशन का संभावितखतरा है। हालाँकि, कुछ प्रश्नों पर, महज़-कथनों को सहीढ़िया-जवाब में प्रत्याख्यान करने में महत्वपूर्ण प्रदर्शन हुआ। 🔳 OpenCode के साथ समन्वय: Coding प्रयोग OpenCode के सब-एजेंट के रूप में fm को सेटअप करके, HTML ToDo App प्रस्तुति। ~20 मिनट में, मूल 'जोड़ें/हटाएँ' सुविधा प्रदर्शित हुई, हालाँकि UI सरल है,और Japanese input में समस्याएँ हैं। 🔳 सब-एजेंट के रूप में संभावना fm की संदर्भ-सीमा प्रतिबंधित है,इसलिए मुख्य AI के रूप में प्रयोग से,अधिकतः,सीमित प्रक्रियाओं—जैसे:अनुवाद,टेक्सट-एक्सट्रैक्शन,सरल-कोड-जनरेशन—के सब-एजेंट के रूप में प्रयोग ही प्रशंसनीय है। 🔳बड़ी मात्रा मेंडेटा प्रसंस्करण मेंउम्मीद 100–1000+छवि OCRद्वारा प्रसंस्कृतकरना,यादीरघ-पठ-अनुवद-अनुभग-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग-अनुवद-अनुभग -उपयोग। 🔳उपलब्धता:समग्र मूल्यांकन हालिया Cloud LLMsजैसीउच्‍चप्रदर्शकक्षमताउम्‍मीदकरेनहीं—लेकिन‘मफ़्त’और‘ऑफ़लाइ’उपलब्‍धता’है।इसलिए,छोटे–स्‍वच्‍चलय/एआईएज़्‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌एज़्‌এজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃএজঃ�বাজনাগুলির সম্ভাবনা হিসাবে এটি দিগন্ত প্রস্তুত করেছে।