Apple ने WWDC पर पूरी तरह से नया Core AI फ्रेमवर्क लॉन्च किया, जो 9 सालों से काम कर रहे Core ML को बदल देता है और बड़े मॉडल के युग के लिए पहली पंक्ति कोड से पुनः लिखा गया है।

लेखक, स्रोत: न्यूज़िज़यन

KuCoin की अंतिम WWDC, एप्पल की AI नींव को हिला दिया।

एप्पल ने 9 साल पुराने Core ML को हटा दिया है, और इसकी जगह Core AI को पहली पंक्ति कोड से ही बड़े मॉडल के लिए पुनः लिखा गया है।

Apple has drawn the same line for all AI

Core AI एक नया, एप्पल द्वारा बड़े मॉडल युग के लिए डिज़ाइन किया गया एंड-साइड AI इन्फरेंस फ्रेमवर्क है।

यह CPU, GPU और Neural Engine के तीनों चिप्स को एकीकृत रूप से समन्वयित करता है, जो स्वाभाविक रूप से ऑटोरिग्रेसिव जनरेशन, स्ट्रीमिंग प्रतिक्रिया और बहु-चरण डायलॉग जैसी LLM की मूल क्षमताओं का समर्थन करता है, जो iOS 27, macOS 27 से लेकर watchOS 27 तक के सभी प्लेटफॉर्म को कवर करता है।

सरल शब्दों में, Core ML पारंपरिक मशीन लर्निंग के लिए है, जबकि Core AI बड़े मॉडल्स के लिए है।

Meanwhile, the accompanying toolchain has been completely redone.

नया .aimodel मॉडल फॉर्मेट, ऐपल द्वारा ओपन सोर्स किया गया CoreAI-Torch कन्वर्जन टूलकिट, और Xcode में परफॉर्मेंस ऑप्टिमाइजेशन और प्री-कंपाइल फीचर्स के साथ, मॉडल कन्वर्जन से लेकर डिप्लॉयमेंट तक की पूरी प्रक्रिया को कवर किया गया है।

एक भाषा सीखने के ऐप का उदाहरण दें।

छात्र अपने फोन को एक हमिंगबर्ड की ओर उठाता है, SAM3 किनारे पर दोनों कार्यों को एक साथ पूरा करता है, चित्र में वस्तु की पहचान करता है «Hummingbird» और हमिंगबर्ड को पृष्ठभूमि से सटीक रूप से अलग करता है, एक साफ़ कार्ड चित्र बनाता है।

इसके बाद, एक 0.6B पैरामीटर वाला Qwen मॉडल टेक्स्ट भाग को संभालता है और पहचाने गए परिणामों के आधार पर एक संरचित शब्दकोश बनाता है, जिसमें चीनी शब्द, अंग्रेजी अर्थ और उदाहरण वाक्य—तीनों क्षेत्र स्वतंत्र रूप से स्थित होते हैं, और एक Swift मूल प्रकार लौटाया जाता है, जिसे फिर से पार्स करने की आवश्यकता नहीं होती।

पूरी प्रक्रिया ऑफलाइन है, कोई API कॉल नहीं, सब कुछ मोबाइल पर स्थानीय रूप से चलता है।

इसके पीछे, Apple के द्वारा रखे गए coreai-models रिपॉजिटरी है, जिसमें Qwen, Mistral, SAM3 जैसे पूर्व-अनुकूलित ओपन सोर्स मॉडल्स हैं, जो सभी Apple Silicon के लिए अनुकूलित किए गए हैं। डेवलपर्स इन्हें डाउनलोड करके कुछ ही Swift कोड लाइनों के साथ अपने ऐप में चला सकते हैं।

अगर आप तैयार विकल्प का उपयोग नहीं करना चाहते, तो आप अपना मॉडल भी लगा सकते हैं।

एप्पल ने GitHub पर coreai-torch टूलकिट को ओपन सोर्स कर दिया है, जिससे 5 पायथन लाइनों के साथ एक PyTorch मॉडल को .aimodel फॉर्मेट में बदलकर Xcode में कंपाइल और डिप्लॉय किया जा सकता है।

प्रोजेक्ट एड्रेस:

https://github.com/apple/coreai-models

https://github.com/apple/coreai-torch

हालांकि, ऐप्पल केवल मॉडल चलाना ही नहीं चाहता, बल्कि सभी मॉडल को एकीकृत करना चाहता है।

तकनीकी रूप से, यह Foundation Models फ्रेमवर्क में नए Language Model प्रोटोकॉल को जोड़ता है। यह एक समान Swift API को परिभाषित करता है, जिसे कोई भी मॉडल अपनाए, तो उसे एक ही कोड से कॉल किया जा सकता है।

एप्पल के स्वयं के एंड-प्वाइंट मॉडल इस प्रोटोकॉल का पालन करते हैं, Core AI द्वारा चलाए जाने वाले ओपन-सोर्स मॉडल इस प्रोटोकॉल का पालन करते हैं, और Claude और Gemini जैसे क्लाउड-आधारित बड़े मॉडल भी इस प्रोटोकॉल का पालन करते हैं।

एक कोड, तीन मॉडल, स्थानीय से क्लाउड तक बिना रुके स्विच। ऐप्पल खुद को AI के रूटिंग लेयर में बदल चुका है।

मोबाइल फ्लैश में एक 200 बिलियन पैरामीटर मॉडल छिपा हुआ है

फाउंडेशन मॉडल्स फ्रेमवर्क के पीछे, एप्पल और गूगल द्वारा विकसित तीसरी पीढ़ी के स्वयं डिज़ाइन किए गए मॉडल परिवार AFM 3 चल रहा है, जिसमें एक साथ 5 मॉडल जारी किए गए हैं।

दो एंड-साइड:

1. AFM 3 Core 3B पैरामीटर का घना मॉडल है, जो दैनिक हल्के कार्यों के लिए जिम्मेदार है;

2. AFM 3 Core Advanced 20B पैरामीटर का एक स्पार्स मॉडल है, जो ऐप्पल के एंड-प्वाइंट पर शीर्ष सीमा है।

क्लाउड पर तीन:

1. AFM 3 Cloud सर्वर का प्रमुख है;

2. ADM 3 Cloud इमेज जनरेशन और एडिटिंग में विशेषज्ञता रखता है (इमेज प्लेग्राउंड के पीछे यही है);

3. AFM 3 Cloud Pro सबसे शक्तिशाली है।

इसमें, एंड-साइड का प्रमुख हथियार AFM 3 Core Advanced है, जो 200 अरब पैरामीटर का बड़ा मॉडल है और सीधे मोबाइल पर चलता है।

सामान्य तौर पर, मोबाइल फोन की मेमोरी इतनी बड़ी मात्रा को समायोजित नहीं कर सकती। पारंपरिक बड़े मॉडल को सभी वजन DRAM में स्टोर करने की आवश्यकता होती है, जिससे 20 बिलियन पैरामीटर डेस्कटॉप स्तर के उपकरणों के लिए भी कठिन हो जाते हैं।

इसके लिए ऐप्पल का समाधान Instruction-Following Pruning कहलाता है।

पूर्ण मॉडल फ्लैश (NAND) में संग्रहीत होता है, और अनुरोध प्राप्त होने के बाद, एक हल्का रूटिंग मॉड्यूल सबसे पहले यह चुनता है कि कौन से विशेषज्ञ सक्रिय किए जाने चाहिए, फिर उन भागों के वजन को DRAM में लोड करता है। प्रत्येक वास्तविक सक्रियण के दौरान 10 अरब से 40 अरब तक पैरामीटर शामिल होते हैं, जो कार्य की जटिलता पर निर्भर करता है।

एक 200 बिलियन पैरामीटर वाला मॉडल, काम करते समय केवल 5% से 20% का उपयोग करता है, शेष फ्लैश में शांति से लेटे रहते हैं और बुलाए जाने का इंतजार करते हैं।

इस ओर, एप्पल का सबसे शक्तिशाली सर्वर मॉडल — AFM 3 Cloud Pro है।

जटिल तर्क और एजेंट टूल कॉल को सुलझाने के लिए, ऐपल ने गूगल और एनवीडिया के साथ मिलकर Private Cloud Compute को गूगल क्लाउड पर एनवीडिया GPU पर विस्तारित किया है। गोपनीयता नियम वही रहते हैं, डेटा सीमा के बाहर नहीं जाता।

प्रायोगिक परिणाम भी इस आर्किटेक्चर की प्रभावशीलता की पुष्टि करते हैं।

AFM 3 Core को 45.6% परीक्षण प्रॉम्प्ट पर पिछली पीढ़ी से बेहतर माना गया, जबकि पिछली पीढ़ी की विजय दर केवल 23.3% थी। बादल में AFM 3 Cloud का अंतर और अधिक चौंकाने वाला है, 64.7% बनाम 8.7%, जो लगभग एकतरफा दबाव है।

आर्किटेक्चर और स्कोरिंग के बाद, डेवलपर्स का सबसे बड़ा सवाल यह है कि इस पूरी व्यवस्था की कीमत क्या होगी।

अगर आपका ऐप App Store पर 20 लाख से कम पहले डाउनलोड्स के साथ शुरू होता है, तो Private Cloud Compute का क्लाउड इन्फरेंस पूरी तरह से मुफ्त है, कोई API लागत नहीं, कोई token शुल्क नहीं। आप सिर्फ ऐप बनाने के लिए आएं।

इस बाधा को स्वतंत्र डेवलपर्स और छोटे और मध्यम टीमों की स्थिति पर सटीक रूप से रखा गया है।

तीन पंक्तियों का कोड, क्लॉड टेबल पर

सार्वजनिक तीसरे पक्ष अनुकूलन में, एंथ्रोपिक पहला है जिसने अपना काम जमा कर दिया है।

6 जून को WWDC की कीनोट समाप्त होने के एक ही दिन, Anthropic ने एक Swift पैकेज जारी किया, जिससे यह Foundation Models फ्रेमवर्क में सम्मिलित हो गया, और 9 जून से उपलब्ध होगा।

विचार सरल है।

एप्पल के एंड-साइड मॉडल सारांश, जानकारी निकालना, वर्गीकरण जैसे हल्के कार्यों में कुशल हैं, जिनकी गति तेज होती है, इंटरनेट की आवश्यकता नहीं होती और शून्य लागत होती है। लेकिन बहु-चरण तर्क, कोड उत्पादन, और ऑनलाइन खोज जैसी जटिल आवश्यकताओं के सामने, एंड-साइड मॉडल समर्थन नहीं कर पाते।

और क्लॉड का स्विफ्ट पैकेज इस जोड़ पर सटीक रूप से फिट हो गया।

डेवलपर्स Foundation Models फ्रेमवर्क में ऐप्पल के एंड-डिवाइस मॉडल का सामान्य रूप से उपयोग करते हैं, जब कोई कार्य एंड-डिवाइस क्षमता से अधिक होता है, तो फ्रेमवर्क स्वचालित रूप से अनुरोध को Claude को रूट कर देता है, और प्रतिक्रिया परिणाम स्ट्रीमिंग तरीके से एक ही SwiftUI दृश्य में लौटाए जाते हैं।

उपयोगकर्ता को कोई स्विचिंग का अहसास नहीं होता, उनके लिए यह एक ऐप ही है।

दूसरे शब्दों में, अगर आपका एक आम नोट्स ऐप या लर्निंग ऐप अचानक स्मार्ट हो जाता है और क्रॉस-डॉक्यूमेंट सेमेंटिक एनालिसिस करने लगता है, तो इसके पीछे संभवतः डेवलपर्स ने यह पैकेज जोड़ दिया है।

उदाहरण के लिए, एक डायरी ऐप एंड-साइड मॉडल का उपयोग करके दैनिक लेखन सुझाव उत्पन्न कर सकता है, लेकिन जब उपयोगकर्ता पूछता है कि "इन महीनों की डायरियों में क्या सामान्य विषय हैं?" तो ऐसी समय-परास वाली अर्थ-संकलन को स्वचालित रूप से Claude को सौंप दिया जाता है।

हालांकि, Anthropic का ऐप्पल इकोसिस्टम में इससे अधिक का बुनियादी ढांचा है।

Claude Agent ने इस साल फरवरी में ही Xcode 26.3 में एकीकृत हो चुका है, जो डेवलपर्स को कोड लिखने, परीक्षण चलाने और स्वचालित करने में मदद करता है।

लेकिन Xcode में Claude विकासकों के लिए है, जबकि Foundation Models में Claude ऐप के अंतिम उपयोगकर्ताओं के लिए है।

यह एंथ्रोपिक के लिए एक देर से लेकिन महत्वपूर्ण उपभोक्ता स्तरीय वितरण का प्रवेश टिकट है।

Claude डेवलपर्स और उद्योग बाजार में बहुत मजबूत है, लेकिन सामान्य उपभोक्ताओं के सामने लगभग अदृश्य है।

इस बार, ऐप्पल के फाउंडेशन मॉडल्स फ्रेमवर्क ने इसे अरबों उपयोगकर्ताओं तक पहुँचने का एक मार्ग प्रदान किया।

25 अरब उपकरण, एक मैदान

कुक के अंतिम WWDC के सभी कदमों को वापस देखें, एक निरंतर सुराग बना रहा।

एप्पल AI मॉडल कंपनी बनना नहीं चाहता। यह Siri का दिमाग़谷歌 को सौंप देता है, ओपन सोर्स मॉडल के रनटाइम को Core AI को सौंप देता है, और तीसरे पक्ष के AI के विकल्पों को उपयोगकर्ताओं को सौंप देता है।

इसका काम मैदान है।

25 अरब डिवाइस, एकीकृत भाषा मॉडल प्रोटोकॉल, एंड-टू-क्लाउड पूर्ण स्केड्यूलिंग फ्रेमवर्क।

जिसका मॉडल अच्छा है, वह इस प्लेटफॉर्म के माध्यम से पृथ्वी पर सबसे बड़े हाई-वैल्यू यूजर ग्रुप तक पहुँच सकता है।

आज से एआई दिग्गजों के बीच प्रतिस्पर्धा में एक नया पहलू जुड़ गया है।

पहले Anthropic और OpenAI की बात API कॉल्स, डेवलपर टूल्स और उद्योग समझौतों के बारे में थी।

अब ऐप्पल ने खेल को हर किसी की जेब में ले आया है, जो भी उस «डिफ़ॉल्ट AI इंजन» की स्थिति पर कब्ज़ा कर लेगा, वह अगला राउंड जीत जाएगा।

1 सितंबर को, जॉन टर्नस ने ऐप्पल के सीईओ का पद संभाला। उन्होंने केवल एक हार्डवेयर कंपनी ही नहीं, बल्कि कुक द्वारा छोड़ी गई यह AI मैदान भी विरासत में पाया।