Apple memperkenalkan kerangka kerja Core AI baharu di WWDC, menggantikan Core ML yang telah berkhidmat selama 9 tahun, dan ditulis semula dari baris kod pertama khusus untuk era model besar.
Penulis artikel, sumber: XinZhiYuan
WWDC terakhir KuCoin, menggulingkan asas AI Apple.
Apple membatalkan Core ML yang telah beroperasi selama 9 tahun, dan Core AI yang menggantikannya ditulis semula dari baris kod pertama untuk model besar.
Apple memberikan garis yang sama kepada semua AI
Core AI yang baharu adalah kerangka kerja inferens AI sisi-peranti yang direka khas oleh Apple untuk era model besar.
Ia mengendalikan secara seragam tiga cip: CPU, GPU, dan Neural Engine, menyokong secara asli kemampuan asas LLM seperti penghasilan autoregresif, respons streaming, dan perbualan berbilang putaran, serta mencakup seluruh platform dari iOS 27, macOS 27 hingga watchOS 27.
Secara ringkas, Core ML digunakan untuk pembelajaran mesin tradisional, manakala Core AI digunakan untuk model besar.
Meanwhile, the accompanying toolchain has been completely rebuilt.
Format model .aimodel baru, toolkit konversi coreai-torch yang dibuka sumber oleh Apple, ditambah dengan fungsi penyesuaian prestasi dan kompilasi awal di Xcode, mencakup keseluruhan rantai dari konversi model hingga pelaksanaan dan pemasangan.
Contoh aplikasi pembelajaran bahasa.
Pelajar mengangkat telefon bimbit dan mengarahkannya ke seekor kolibri, SAM3 secara serentak menyelesaikan dua perkara di sisi peranti: mengenal pasti objek dalam gambar sebagai «Hummingbird» dan memisahkan kolibri daripada latar belakang dengan tepat, menghasilkan gambar kad yang bersih.
Selepas itu, model Qwen dengan 0.6B parameter mengambil alih bahagian teks, menggunakan hasil pengenalan untuk menghasilkan satu kad perkataan berstruktur dengan tiga medan: perkataan Cina, maksud bahasa Inggeris, dan contoh ayat, semuanya dikembalikan sebagai jenis asli Swift, bukan teks yang perlu dianalisis semula.
Seluruh proses berjalan secara lokal di telefon tanpa sambungan internet dan tanpa memanggil API.
Di sebaliknya, terdapat repositori coreai-models yang diselenggarakan secara rasmi oleh Apple, yang menyimpan model open-source yang telah dioptimasi sebelumnya seperti Qwen, Mistral, dan SAM3, semuanya telah disesuaikan untuk Apple Silicon. Pembangun boleh mengambilnya dan menjalankannya dalam aplikasi mereka sendiri dengan beberapa baris kod Swift.
Jika tidak ingin menggunakan yang sedia ada, model anda sendiri juga boleh digunakan.
Apple telah menyegerakan coreai-torch toolkit di GitHub, dan dengan hanya 5 baris Python, anda boleh menukar model PyTorch ke format .aimodel, kemudian memasukkannya ke dalam Xcode untuk dikompilasi dan dideploy.
Alamat projek:
https://github.com/apple/coreai-models
https://github.com/apple/coreai-torch
Namun, Apple tidak hanya ingin menjalankan model, tetapi menyatukan semua model.
Dari segi teknikal, ia adalah protokol Model Bahasa yang ditambahkan ke dalam kerangka Foundation Models. Ia mentakrifkan satu set API Swift yang seragam, di mana sebarang model yang mematuhi protokol ini boleh dipanggil oleh satu set kod yang sama.
Model sisi peranti milik Apple mengikuti protokol ini, model sumber terbuka yang dijalankan oleh Core AI mengikuti protokol ini, dan model besar berbasis awan seperti Claude dan Gemini juga mengikuti protokol ini.
Satu kod, tiga model, beralih lancar dari tempatan ke awan. Apple menjadikan dirinya sebagai lapisan penghala AI.
Penyimpanan flash telefon mengandungi model besar bernilai 20 bilion
Di belakang kerangka Foundation Models berjalan keluarga model buatan sendiri generasi ketiga AFM 3 yang dibangunkan bersama oleh Apple dan Google, dengan pelancaran lima model sekaligus.
Dua di sisi end:
1. AFM 3 Core adalah model padat dengan 3B parameter, bertanggung jawab atas tugas ringan harian;
2. AFM 3 Core Advanced ialah model jarang dengan 20B parameter, batas atas sisi peranti Apple.
Tiga di awan:
1. AFM 3 Cloud adalah server utama;
2. ADM 3 Cloud mengkhususkan diri dalam penghasilan dan penyuntingan imej (di belakang Image Playground);
3. AFM 3 Cloud Pro adalah yang terkuat dalam seluruh keluarga.
Di antaranya, alat utama sisi peranti ialah AFM 3 Core Advanced, model besar dengan 20 bilion parameter yang boleh dijalankan secara langsung di telefon bimbit.
Secara logik, memori telefon tidak mampu menampung ukuran sebesar ini. Model besar tradisional memerlukan semua berat dimuatkan ke dalam DRAM, 20 bilion parameter pun sudah sukar untuk peranti desktop.
Bagi ini, penyelesaian Apple dipanggil Instruction-Following Pruning.
Model penuh disimpan dalam flash (NAND), dan setelah menerima permintaan, modul penghala ringan akan memilih pakar mana yang perlu diaktifkan, kemudian memuat sebahagian bobot tersebut ke dalam DRAM. Jumlah parameter yang sebenarnya digunakan setiap kali berada antara 1 bilion hingga 4 bilion, bergantung kepada kekompleksan tugas.
Model dengan 20 bilion parameter, semasa beroperasi hanya menggunakan 5% hingga 20%, selebihnya berada dengan tenang di dalam storan flash menanti arahan.
Di sisi awan, ini adalah model pelayan terkuat Apple—AFM 3 Cloud Pro.
Untuk mengatasi penalaran kompleks dan pemanggilan alat Agent, Apple bekerja sama dengan Google dan NVIDIA, memperluas Private Cloud Compute ke GPU NVIDIA di Google Cloud. Peraturan privasi tetap berlaku, data tidak keluar dari domain.
Hasil ujian sebenar juga membuktikan keberkesanan arsitektur ini.
AFM 3 Core dinilai lebih unggul daripada generasi sebelumnya pada 45.6% prompt ujian, manakala keunggulan generasi sebelumnya hanya 23.3%. Perbezaan pada AFM 3 Cloud di awan lebih ketara, iaitu 64.7% berbanding 8.7%, hampir menindas sepenuhnya.
Arsitektur dan penilaian telah dibincangkan, kini tiba masa soalan paling penting yang diperhatikan oleh pembangun: berapa kos sistem ini?
Jika jumlah muat turun pertama aplikasi anda di App Store di bawah 2 juta, pengiraan awan Private Cloud Compute adalah percuma sepenuhnya, tiada kos API, tiada kos token. Anda hanya perlu fokus menulis aplikasi.
Boleh dikatakan, ambang ini tepat berada di posisi pembangun bebas dan pasukan kecil sederhana.
Tiga baris kod, Claude sudah di meja
Dalam penyesuaian pihak ketiga yang diterbitkan secara terbuka, Anthropic adalah yang pertama menyerahkan hasilnya.
Pada hari yang sama pada 8 Jun, selepas siaran keynote WWDC, Anthropic segera menerbitkan satu paket Swift, secara rasmi mengintegrasikan kerangka Foundation Models, dan boleh digunakan bermula 9 Jun.
Pendekatannya sangat mudah.
Model sisi peranti Apple unggul dalam tugas ringan seperti ringkasan, penarikan maklumat, dan pengelasan, dengan kelajuan tinggi, tanpa perlu sambungan internet, dan tiada kos. Namun, apabila menghadapi keperluan kompleks seperti penalaran berbilang langkah, penghasilan kod, atau carian dalam talian, model sisi peranti tidak mampu menangani.
Manakala pakej Swift Claude tepat berada pada sambungan ini.
Pembangun memanggil model sisi peranti Apple secara normal dalam kerangka Foundation Models; apabila tugas melampaui kemampuan sisi peranti, kerangka secara automatik menghala permintaan ke Claude, dan hasil respons dikembalikan dalam bentuk aliran ke tampilan SwiftUI yang sama.
Pengguna tidak menyedari sebarang peralihan, ia kelihatan seperti satu aplikasi sahaja kepada mereka.
Dengan kata lain, jika aplikasi nota atau aplikasi pembelajaran yang sering anda gunakan tiba-tiba menjadi lebih pintar dan mampu melakukan analisis semantik lintas dokumen, kemungkinan besar pengembangnya telah mengintegrasikan pakej ini.
Sebagai contoh, sebuah aplikasi jurnal boleh menggunakan model sisi peranti untuk menghasilkan petunjuk penulisan harian, tetapi apabila pengguna bertanya, “Apakah tema umum dalam jurnal beberapa bulan ini?”, induksi semantik lintas masa secara automatik diserahkan kepada Claude.
Namun, pelaburan Anthropic dalam ekosistem Apple tidak berhenti di sini saja.
Claude Agent telah diintegrasikan ke dalam Xcode 26.3 sejak Februari tahun ini, membantu pembangun menulis kod, menjalankan ujian, dan melakukan automatik.
Namun, Claude dalam Xcode ditujukan kepada pengembang itu sendiri, sedangkan Claude dalam Foundation Models ditujukan kepada pengguna akhir aplikasi.
Bagi Anthropic, ini adalah tiket masuk distribusi peringkat konsumer yang terlambat tetapi penting.
Claude terus bersaing ketat di pasaran pengembang dan perusahaan, tetapi hampir tidak memiliki kehadiran di hadapan pengguna biasa.
Kali ini, kerangka Foundation Models daripada Apple memberinya salur untuk menjangkau pengguna sebanyak satu miliar.
2.5 bilion peranti, sebuah pentas pertarungan
Melihat semuanya yang dilakukan Cook di WWDC terakhirnya, satu petunjuk melintasi keseluruhan.
Apple tidak ingin menjadi syarikat model AI. Ia menyerahkan otak Siri kepada Google, menyerahkan runtime model sumber terbuka kepada Core AI, dan memberikan pilihan AI pihak ketiga kepada pengguna.
Ia perlu melakukan arena.
2.5 bilion peranti, protokol Language Model yang seragam, kerangka pengurusan penuh dari sisi end ke awan.
Siapa model yang baik, dia akan dapat mencapai kumpulan pengguna bernilai tinggi terbesar di dunia melalui platform ini.
Pertandingan antara raksasa AI kini mendapat dimensi baharu bermula hari ini.
Sebelum ini, Anthropic dan OpenAI bersaing dalam jumlah panggilan API, alat pembangun, dan kontrak perusahaan.
Sekarang Apple membawa medan pertempuran ke dalam saku setiap orang; siapa yang berjaya mendapat tempat sebagai “mesin AI laluan tetap”, mereka akan menang dalam permainan seterusnya.
Pada 1 September, John Ternus mengambil alih sebagai CEO Apple. Beliau mewarisi bukan sahaja sebuah syarikat peranti keras, tetapi juga pentas AI yang ditinggalkan oleh Cook.