Apple, WWDC'de 9 yıldır kullanılan Core ML'yi yerine geçirmek için büyük modeller çağı için ilk satırdan yeniden yazılmış yeni Core AI çerçevesini duyurdu.
Yazı yazarı, kaynak: Yeni Zihin
KuCoin son WWDC'sinde Apple'ın AI temelini devirdi.
Apple, 9 yıl boyunca kullanılan Core ML'yi kaldırdı ve yerine gelen Core AI, büyük modeller için ilk satır koddan itibaren yeniden yazıldı.
Apple, tüm AI'lar için aynı çizgiyi çizer
Yeni Core AI, Apple tarafından büyük modeller çağı için tasarlanan bir uç-side AI çıkarım çerçevesidir.
CPU, GPU ve Neural Engine adlı üç çipi tek bir sistemle yönetir, otoregresif üretimi, akışlı yanıtları ve çoklu diyalogları doğrudan destekler ve iOS 27, macOS 27 ile watchOS 27'e kadar tüm platformları kapsar.
Kısaca, Core ML geleneksel makine öğrenimi için, Core AI büyük modeller için kullanılır.
Aynı zamanda, eşlik eden araç zinciri tamamen yeniden yapılandırıldı.
Yeni .aimodel model formatı, Apple'ın açık kaynak CoreAI-Torch dönüştürme araç seti ve Xcode'daki performans optimizasyonu ile önceden derleme özellikleriyle, model dönüştürmeden dağıtım ve uygulama mağazasına kadar tüm süreç kapsanmaktadır.
Bir dil öğrenme uygulaması örneği verin.
Öğrenci, cep telefonunu bir arı kuşuna doğru tuttu, SAM3, uçta aynı anda iki şey yaptı: görüntüdeki nesnenin «Hummingbird» olduğunu tanıdı ve arı kuşunu arka plandan hassas şekilde ayırdı, temiz bir kart görseli oluşturdu.
Daha sonra, 0,6 milyar parametreli bir Qwen modeli, metin kısmını ele alır ve tanıma sonuçlarını kullanarak yapılandırılmış bir kelime kartı oluşturur: Çince kelime, İngilizce tanım, örnek cümle; üç alan her biri kendi yerine yerleştirilir ve dönen sonuç, yeniden ayrıştırılması gereken bir metin değil, Swift yerel bir türdür.
Tüm işlem çevrimdışı, API çağrısı yapmadan, tamamen telefon üzerinde çalışır.
Bu arka planda, Apple tarafından yönetilen coreai-models deposu bulunuyor ve burada Qwen, Mistral, SAM3 gibi önceden optimize edilmiş açık kaynak modeller yer alıyor; tümü Apple Silicon için uygun hale getirildi. Geliştiriciler bu modelleri indirip birkaç Swift satırı ile kendi uygulamalarında çalıştırabilir.
Hazır olanı kullanmak istemiyorsanız, kendi modeliniz de kullanılabilir.
Apple, GitHub üzerinde coreai-torch paketini açık kaynak olarak senkronize etti; 5 satır Python ile bir PyTorch modelini .aimodel formatına dönüştürüp Xcode içine gömerek derleyip dağıtabilirsiniz.
Proje adresi:
https://github.com/apple/coreai-models
https://github.com/apple/coreai-torch
Ancak Apple, sadece modelleri çalıştırmak istemiyor, tüm modelleri birleştirmek istiyor.
Teknik olarak, Foundation Models çerçevesine yeni eklenen Language Model protokolüdür. Birleşik bir Swift API tanımlar; bu protokole uyan herhangi bir model, aynı kodla çağrılabilir.
Apple'ın kendi uç modeli bu protokolu takip eder, Core AI'da çalışan açık kaynak modeller bu protokülü takip eder, Claude ve Gemini gibi bulut tabanlı büyük modeller de bu protokülü takip eder.
Bir kod, üç model, yerelden buluta sorunsuz geçiş. Apple, kendi kendini bir AI yönlendirme katmanına dönüştürdü.
Telefonun dahili belleğinde 20 milyar parametrelik bir model saklı.
Foundation Models çerçevesinin arkasında, Apple ve Google'ın ortak olarak geliştirdiği üçüncü nesil kendi geliştirilmiş model ailesi AFM 3 çalışıyor ve aynı anda 5 model duyuruldu.
İki taraf:
1. AFM 3 Core, günlük hafif görevleri yürüten 3B parametreli yoğun bir modeldir;
2. AFM 3 Core Advanced, 20 milyar parametreli seyrek bir modeldir ve Apple cihazlardaki üst sınırdır.
Üç bulut:
1. AFM 3 Cloud, sunucu gücünün ana kaynağıdır;
2. ADM 3 Cloud, görüntü oluşturma ve düzenleme üzerine odaklanır (Image Playground arkasında bunu kullanır);
3. AFM 3 Cloud Pro, tüm ailenin en güçlüsüdür.
Bu arada, kenar tarafındaki büyük silah AFM 3 Core Advanced'tir, 20 milyar parametreli büyük model doğrudan telefonda çalıştırılır.
Mantıken, telefonun belleği bu boyutu taşıyamaz. Geleneksel büyük modeller, tüm ağırlıkların DRAM'e sığmasını gerektirir; 20 milyar parametre bile masaüstü cihazlar için bile zordur.
Bu konuda Apple'ın çözümü, Instruction-Following Pruning'dir.
Tam model, flash (NAND) bellekte saklanır; istek alındığında, hafif bir rota modülü, hangi uzmanların etkinleştirileceğini seçer ve bu ağırlıkların ilgili kısmını DRAM'a yükler. Her gerçek çağrılarda, görevin karmaşıklığına bağlı olarak 1 milyar ile 4 milyar arasında parametre aktif hale getirilir.
20 milyar parametrelik bir model, çalışırken sadece %5 ile %20'sini kullanır, kalanı sessizce flash bellekte bekler.
Bu tarafta, Apple'ın en güçlü sunucu modeli olan AFM 3 Cloud Pro bulunmaktadır.
Karmaşık mantık ve Agent araç çağrısını aşmak için Apple, Google ve NVIDIA ile birlikte Private Cloud Compute'u Google Cloud'un NVIDIA GPU'larına genişletti. Gizlilik kuralları aynen kalıyor, veriler alan dışına çıkmıyor.
Gerçek deneyim sonuçları da bu mimarinin etkisini doğrulamaktadır.
AFM 3 Core, test prompt'ların %45,6'sında önceki nesilden daha iyi olarak değerlendirildi; önceki neslin avantaj oranı sadece %23,3'tü. Bulutta AFM 3 Cloud farkı daha da çarpıcı: %64,7'e karşı %8,7, neredeyse tek taraflı bir baskınlık.
Mimari ve puanlama açıklandı, geliştiricilerin en çok ilgilendiği soru şimdi: bu sistem ne kadar?
App Store'da ilk indirme sayısı 2 milyonun altında kalırsa, Private Cloud Compute için bulut çıkarımı tamamen ücretsizdir, API maliyeti yoktur, token ücreti yoktur. Sadece App yazın.
Bu engel, bireysel geliştiriciler ve küçük-orta ölçekli takımların konumuna tam olarak denk geliyor.
Üç satır kod, Claude masaya çıktı
Kamuoyuna açılan üçüncü taraf uyumlarında, Anthropic ilk tamamlayan oldu.
8 Haziran'da WWDC ana sunumu sona ererken, Anthropic hemen bir Swift paketi yayınladı ve Foundation Models çerçevesine resmen entegre oldu; 9 Haziran'dan itibaren kullanılabilir.
Düşünce basit.
Apple'in yerel modeli, özetleme, bilgi çıkarma ve sınıflandırma gibi hafif görevlerde hızlıdır, internete gerek duymaz ve maliyeti sıfırdır. Ancak çok adımlı çıkarım, kod üretimi ve internet araması gibi karmaşık ihtiyaçlarla karşılaştığında yerel model yeterli gelmez.
Ancak Claude'nin Swift paketi tam olarak bu birleşim noktasına uygun şekilde yerleştirildi.
Geliştiriciler, Foundation Models çerçevesinde Apple'ın yerel modelini normal şekilde çağırır; görev yerel kapasitenin dışına çıktığında, çerçeve isteği otomatik olarak Claude'ye yönlendirir ve yanıt sonuçları aynı SwiftUI görünümüne akışlı şekilde döner.
Kullanıcılar geçişleri hissetmez, bunu bir uygulama olarak görürler.
Yani, kullandığınız bir not uygulaması veya öğrenme uygulaması aniden çoklu belge semantic analizi yapabilmeye başlarsa, arka planda geliştiricilerin bu paketi entegre etmiş olma ihtimali yüksektir.
Örneğin, bir günlük uygulaması yerel model kullanarak günlük yazım ipuçları oluşturabilir, ancak kullanıcı "Bu ayların günlüklerinde ortak temalar neler?" diye sorarsa, bu zamanlar arası anlamsal özetleme otomatik olarak Claude'a bırakılır.
Ancak Anthropic, Apple ekosistemindeki yerleşimi sadece bu adıma kadar sınırlı değil.
Claude Agent, bu yıl Şubat'ta zaten Xcode 26.3'e entegre edilmişti ve geliştiricilere kod yazma, test çalıştırma ve otomasyon yapma konusunda yardımcı oluyordu.
Ancak Xcode'daki Claude, geliştiricilere yöneliktir; Foundation Models'deki Claude ise uygulamanın son kullanıcılarına yöneliktir.
Anthropic için bu, gecikmiş ancak kritik bir tüketiciler dağıtım biletidir.
Claude, geliştiriciler ve kurumsal pazarlarda güçlü bir şekilde yer alıyor, ancak genel tüketiciler önünde neredeyse hiç varlığı yok.
Bu sefer, Apple'ın Foundation Models çerçevesi, milyarlarca kullanıcıya ulaşma fırsatı sunuyor.
2,5 milyar cihaz, bir ring
KuCoin'un son WWDC'sindeki tüm hareketleri gözden geçirdiğinizde, bir ipucu her yerde beliriyor.
Apple, AI model şirketi olmak istemiyor. Siri'nin beynini Google'a verdi, açık kaynak modellerin çalışma zamanını Core AI'ye verdi ve üçüncü taraf AI seçimini kullanıcılara bıraktı.
Yapması gereken şey arena.
2,5 milyar cihaz, uçtan buluta tam bir yönlendirme çerçevesiyle birleşik bir Dil Modeli protokolü.
Hangi model daha iyi, o, bu platform aracılığıyla dünyadaki en büyük yüksek değerli kullanıcı kitlesine ulaşır.
AI devleri arasındaki rekabet, bugün itibarıyla tamamen yeni bir boyut kazandı.
Daha önce Anthropic ve OpenAI, API çağrı sayısı, geliştirici araçları ve kurumsal sözleşmeleri rekabet ediyordu.
Şimdi Apple savaş alanını herkesin cebine taşıdı, kim "varsayılan AI motoru" pozisyonunu ele geçirirse, bir sonraki turu kazanır.
1 Eylül'de John Ternus, Apple'un CEO'su oldu. Sadece bir donanım şirketi değil, Cook'un bıraktığı bu AI serbest mücadele alanını da devraldı.