Ipinakilala ng Apple ang bagong Core AI framework sa WWDC, na nagpapalit sa Core ML na nagsilbi ng 9 taon, at isinulat mula sa unang linya ng code para sa panahon ng malalaking modelo.

May-akda ng artikulo, pinagkunan: XinZhiYuan

Ang huling WWDC ni Cook ay nag-alis ng mga pundasyon ng AI ng Apple.

Inilipat ng Apple ang Core ML na naglingkod ng 9 taon, at ang Core AI na nagpapalit dito ay isinulat muli mula sa unang linya ng code para sa malalaking modelo.

Ang Apple ay nagtakda ng parehong pamantayan para sa lahat ng AI

Ang bagong Core AI ay isang end-side AI inference framework na disenyo ng Apple para sa era ng malalaking modelo.

Nag-uunlad ito ng CPU, GPU, at Neural Engine, at may native na suporta sa mga pangunahing kakayahan ng LLM tulad ng autoregressive generation, streaming response, at multi-turn dialogue, at nakapalibot sa lahat ng platform mula sa iOS 27, macOS 27 hanggang sa watchOS 27.

Sa simpleng salita, ang Core ML ay para sa tradisyonal na machine learning, habang ang Core AI ay para sa malalaking modelo.

Sambil noon, ang buong toolchain ay na-rebuild na.

Ang bagong model format na .aimodel, ang open-source na CoreAI-Torch conversion toolkit mula sa Apple, kasama ang mga tampok para sa pag-optimize ng performance at pre-compilation sa Xcode, ay nakakapag-coverage sa buong proseso mula sa pagkonvert ng model hanggang sa pag-deploy at pagpapalabas.

Halimbawa ng isang app para sa pag-aaral ng wika.

Inilalapit ng estudyante ang kanyang cellphone sa isang hummingbird, samantala ay natutupad ng SAM3 sa end-device ang dalawang bagay nang sabay-sabay: tinatukoy ang bagay sa larawan bilang «Hummingbird» at hihiwalay nang tumpak ang hummingbird mula sa background upang makalikha ng malinis na larawan para sa card.

Pagkatapos, kinuha ng isang Qwen model na may 0.6B na parameter ang teksto, at ginamit ang mga resulta ng pagkilala upang lumikha ng isang structured word card na may tatlong field: Chinese word, English definition, at example sentence, at ibinabalik ang isang Swift native type, hindi isang kalat na teksto na kailangang i-parse muli.

Ang buong proseso ay offline, walang pagtawag sa API, at nagpapatakbo lamang sa lokal ng mobile phone.

Sa likod nito ay ang opisyal na Apple-maintained na repository na coreai-models, na naglalaman ng mga pre-optimized na open-source na modelo tulad ng Qwen, Mistral, at SAM3, na lahat ay na-adapter para sa Apple Silicon. Maaaring i-download ng mga developer at i-run sa kanilang sariling App gamit ang ilang mga linya ng Swift code.

Kung ayaw mong gamitin ang pre-built, pwede mo ring gamitin ang iyong sariling model.

Sinync ng Apple ang coreai-torch toolkit sa GitHub, at sa pamamagitan ng 5 linya ng Python, maaari mong i-convert ang isang PyTorch model sa format na .aimodel at i-deploy sa Xcode.

Project address:

https://github.com/apple/coreai-models

https://github.com/apple/coreai-torch

Ngunit ang hinahanap ng Apple ay hindi lang ang pagpapatakbo ng mga model, kundi ang pagpapaisa ng lahat ng mga model.

Sa teknikal na aspeto, ito ay ang bagong Language Model protocol sa Foundation Models framework. Ito ay nagtatag ng isang magkakaparehong Swift API, kung saan anumang modelo na sumusunod dito ay maaaring tawagan gamit ang iisang code.

Ang sariling end-side model ng Apple ay sumusunod sa protokol na ito, ang open-source models na nakapagpapatakbo sa Core AI ay sumusunod sa protokol na ito, at ang mga malalaking model sa cloud tulad ng Claude at Gemini ay sumusunod din sa protokol na ito.

Isang code, tatlong modelo, seamless na paglipat mula sa lokal patungo sa cloud. Ipinagbago ng Apple ang sarili nito bilang routing layer ng AI.

Nakatago sa flash memory ng mobile phone ang isang 20-bilyong model

Ang nagpapatakbo sa Framework na Foundation Models ay ang AFM 3, ang ikatlong henerasyon ng sariling modelo na dinisenyo ng Apple at Google, na ipinakilala nang isang beses ang limang modelo.

Dalawang end-side:

1. Ang AFM 3 Core ay isang densidad na modelo na may 3B na parameter, na responsable sa mga araw-araw na magaan na gawain;

2. AFM 3 Core Advanced ay isang sparse model na may 20B na parameter, ang tuktok ng Apple sa device side.

Tatlo sa cloud:

1. Ang AFM 3 Cloud ay ang pangunahing server;

2. ADM 3 Cloud ay nakatuon sa paggawa at pag-edit ng imahe (nasa likod nito ang Image Playground);

3. Ang AFM 3 Cloud Pro ay ang pinakamalakas sa buong pamilya.

Kung saan, ang malakas na tool sa device side ay ang AFM 3 Core Advanced, isang malaking modelo na may 20 bilyong parameter na direktang tumatakbo sa cellphone.

Sa pangkaraniwang pag-iisip, ang memorya ng mobile phone ay hindi kayang suportahan ang laki na ito. Ang mga tradisyonal na malalaking modelo ay nangangailangan na lahat ng weights ay mabuo sa DRAM, at ang 20 bilyong parameter ay kahit sa desktop-level device ay mahirap i-handle.

Para sa ganoon, ang solusyon ng Apple ay tinatawag na Instruction-Following Pruning.

Ang buong modelo ay naka-store sa flash (NAND); pagkatapos makatanggap ng isang kahilingan, ang isang lightweight routing module ay muna ay pumipili kung aling mga eksperto ang dapat i-activate, at pagkatapos ay i-load ang mga weights na iyon sa DRAM. Ang dami ng mga parametrong aktibong ginagamit sa bawat pagkakataon ay nasa pagitan ng 1 bilyon at 4 bilyon, depende sa karampatan ng gawain.

Isang modelo na may 20 bilyong parameter, nagtatrabaho lang sa 5% hanggang 20% nito, habang ang natitira ay nakaupo nang tahimik sa flash memory habang umaasang ma-call.

Sa cloud, ito ang pinakamalakas na server model ng Apple—AFM 3 Cloud Pro.

Para sa pagharap sa kompleks na pag-iisip at pagtawag sa mga kasangkapan ng Agent, inihambing ng Apple ang Private Cloud Compute sa mga GPU ng NVIDIA sa Google Cloud. Patuloy ang mga patakaran sa privacy, hindi lumalabas ang data sa loob ng domain.

Ang mga resulta ng pagsubok ay nagpapatotoo rin sa epekto ng arkitekturang ito.

Pinahuhusay ng AFM 3 Core ang nakaraang bersyon sa 45.6% ng mga test prompt, samantalang ang benepisyo ng nakaraang bersyon ay tanging 23.3%. Mas malaki pa ang pagkakaiba sa AFM 3 Cloud sa cloud, 64.7% kumpara sa 8.7%, halos isang-sided na pagpapalabas.

Nakakapagtapos na ang pagpapaliwanag tungkol sa arkitektura at performance score, ngayon ay ang tanong na pinakamahalaga para sa mga developer: magkano ang gastos ng这套东西?

Kung mas mababa sa 2 milyon ang unang download ng iyong App sa App Store, ang cloud inference ng Private Cloud Compute ay libre na buong libre, walang gastos sa API, walang bayarin sa token. Puro mo na lang isulat ang App.

Maaaring sabihin na ang balangkas na ito ay tumpak na nakapila sa posisyon ng mga independiyenteng developer at mga maliit na koponan.

Tatlong linya ng code, nasa mesa na ang Claude

Sa pampublikong na-publish na third-party adaptation, ang Anthropic ay ang unang nagsumite.

Sa parehong araw na natapos ang WWDC keynote noong Hunyo 8, agad ni Anthropic ang ipinakalabas ang isang Swift package upang ma-access ang Foundation Models framework, at magagamit mula Hunyo 9.

Simple lang ang ideya.

Ang lokal na model ng Apple ay mahusay sa mga simpleng gawain tulad ng pagbuo ng buod, pagkuha ng impormasyon, at pagklasipikasyon—mabilis, hindi nangangailangan ng internet, at libre. Ngunit kapag nakakatugon sa mga kumplikadong pangangailangan tulad ng maraming hakbang na pag-iisip, pagbuo ng code, o paghahanap sa internet, hindi na kayang harapin ng lokal na model.

At ang Swift package ni Claude ay tumpak na naka-fit sa hiwa.

Ang mga developer ay normal na gumagamit ng Apple's edge-side model sa loob ng Foundation Models framework; kapag ang task ay lumalampas sa kakayahan ng edge-side, awtomatikong nireroute ng framework ang request sa Claude, at ang sagot ay ibinabalik sa parehong SwiftUI view sa pamamagitan ng streaming.

Hindi makakaramdam ang mga user ng anumang pagbabago; para sa kanila, ito ay isang app lamang.

Sa ibang salita, kung ang isang app na tinitiyak mong ginagamit, tulad ng isang note-taking o learning app, ay biglang naging mas matalino at kayang tumulong sa iyo sa paggawa ng semantic analysis sa pagitan ng mga dokumento, malamang dahil ang mga developer ay nag-integrate ng package na ito.

Halimbawa, maaaring gumamit ang isang app sa journal ng lokal na modelo upang magbuo ng mga paalala sa pagsusulat araw-araw, ngunit kapag tanong ng user, “Ano ang mga karaniwang tema sa mga journal ng mga nakaraang buwan?”, ang ganitong uri ng semantic归纳 na tumutukoy sa iba’t ibang panahon ay awtomatikong ipinapasa sa Claude.

Gayunpaman, ang pagpaplano ni Anthropic sa Apple ecosystem ay hindi nagtatapos dito.

Ang Claude Agent ay nai-integrate na noong Pebrero ng taong ito sa Xcode 26.3, na tumutulong sa mga developer sa pagsusulat ng code, pagpapatakbo ng mga pagsubok, at paggawa ng automation.

Ngunit ang Claude sa Xcode ay para sa mga developer mismo, habang ang Claude sa Foundation Models ay para sa huling user ng app.

Para sa Anthropic, isang natagalan ngunit mahalagang tiket sa pagpapalabas sa consumer market.

Patuloy na nagtatagumpay si Claude sa merkado ng mga developer at negosyo, ngunit malabo ang kanyang pagkakakilanlan sa harap ng karaniwang mamimili.

Sa pagkakataong ito, ang Framework na Foundation Models ng Apple ay nagbigay sa kanya ng isang daan upang makamit ang bilang ng mga user na nasa sukat ng bilyon.

2.5 bilyon na device, isang rink

Tingnan ang lahat ng mga hakbang sa huling WWDC ni Cook, isang linis na nag-uugnay sa lahat.

Hindi gustong maging kumpanya ng AI model ang Apple. Ibinigay niya ang utak ng Siri sa Google, ang runtime ng open-source model sa Core AI, at ang pagpili ng third-party AI sa mga user.

Ang gagawin nito ay ang arena.

2.5 bilyon mga device, isang magkakaparehong Language Model protocol, kompletong framework para sa pag-schedule mula sa endpoint hanggang sa cloud.

Sino ang may pinakamahusay na modelo, siya ang makakakonekta sa pinakamalaking grupo ng mataas na halagang user sa buong mundo sa pamamagitan ng platform na ito.

Ang kompetisyon sa pagitan ng mga pangunahing AI ay nagkaroon ng isang bagong dimensyon mula sa araw na ito.

Kahit na ang Anthropic at OpenAI ay nagsasagawa ng pakikidigma para sa bilang ng API calls, mga tool para sa developer, at mga kontrata ng korporasyon.

Ngayon ay dinala ng Apple ang labanan sa bulsa ng bawat tao; sino man ang makakakuha ng posisyon na 'default AI engine', siya ang mananalo sa susunod na ronda.

Noong Setyembre 1, si John Ternus ay naging CEO ng Apple. Ang kanyang sinundan ay hindi lamang isang kumpanya ng hardware, kundi ang pagsusulong sa AI na itinatag ni Cook.