এপল এইচডব্লিউডিসি-তে পুরোপুরি নতুন কোর এআই ফ্রেমওয়ার্ক প্রকাশ করেছে, যা 9 বছর ধরে ব্যবহৃত কোর এমএল-কে প্রতিস্থাপন করেছে এবং বড় মডেলের যুগের জন্য প্রথম লাইন কোড থেকেই পুনর্লিখিত হয়েছে।

লেখক, উৎস: নিউ জ্ঞান মেটা

KuCoin-এর শেষ WWDC-এ, অ্যাপলের এআই ভিত্তি উল্টে দেওয়া হয়েছে।

অ্যাপল ৯ বছর ধরে ব্যবহৃত Core ML কে বাতিল করে দিয়েছে, এবং এর পরিবর্তে Core AI কে বড় মডেলের জন্য প্রথম লাইন কোড থেকেই পুনরায় লেখা হয়েছে।

Apple সমস্ত AI-এর জন্য একই রেখা টানেছে

Core AI হল অ্যাপল দ্বারা বড় মডেল যুগের জন্য ডিজাইন করা একটি এন্ড-সাইড এআই ইনফারেন্স ফ্রেমওয়ার্ক।

এটি CPU, GPU এবং Neural Engine এই তিনটি চিপকে একীভূতভাবে সমন্বয় করে, যা স্বাভাবিকভাবেই অটোরিগ্রেসিভ জেনারেশন, স্ট্রিমিং রেসপন্স এবং মাল্টি-রাউন্ড ডায়ালগের মতো LLM-এর মৌলিক ক্ষমতাগুলি সমর্থন করে, যা iOS 27, macOS 27 থেকে শুরু করে watchOS 27 পর্যন্ত সমস্ত প্ল্যাটফর্মকে কভার করে।

সহজ ভাষায়, Core ML প্রাচীন মেশিন লার্নিং-এর জন্য এবং Core AI বড় মডেলের জন্য।

এর সাথে সম্পর্কিত টুলচেইনও সম্পূর্ণভাবে পুনর্নির্মাণ করা হয়েছে।

নতুন .aimodel মডেল ফরম্যাট, অ্যাপলের ওপেন-সোর্স কোরএআই-টর্চ রূপান্তর টুলকিট, এবং Xcode-এর পারফরম্যান্স অপ্টিমাইজেশন এবং প্রি-কমপাইল ফিচারগুলি মডেল রূপান্তর থেকে ডিপ্লয়মেন্ট পর্যন্ত সম্পূর্ণ প্রক্রিয়াকে কভার করে।

একটি ভাষা শেখার অ্যাপের উদাহরণ দিন।

একজন শিক্ষার্থী তার মোবাইল ফোনটি একটি হামিংবার্ডের দিকে নিয়ে যায়, SAM3 এন্ড-এডে একসাথে দুটি কাজ সম্পন্ন করে, ছবিতে বস্তুটিকে "Hummingbird" হিসাবে শনাক্ত করে এবং হামিংবার্ডটিকে পটভূমি থেকে সঠিকভাবে বিচ্ছিন্ন করে একটি পরিষ্কার কার্ড চিত্র তৈরি করে।

তারপর, 0.6B প্যারামিটারযুক্ত একটি Qwen মডেল টেক্সট অংশ নেয়, শনাক্তকৃত ফলাফল ব্যবহার করে একটি স্ট্রাকচারড শব্দকোষ তৈরি করে, যেখানে চীনা শব্দ, ইংরেজি অর্থ এবং উদাহরণ বাক্য—এই তিনটি ক্ষেত্র প্রতিটি সঠিক জায়গায় থাকে, এবং ফিরিয়ে দেওয়া হয় একটি Swift নেটিভ টাইপ, যা আবার পার্স করার দরকার হয় এমন কোনো টেক্সট নয়।

পুরো প্রক্রিয়াটি অনলাইন নয়, কোনো API কল করা হয় না, সম্পূর্ণভাবে মোবাইলে স্থানীয়ভাবে চলে।

এর পিছনে অ্যাপলের অফিসিয়াল মেইনটেনড coreai-models রিপোজিটরি রয়েছে, যেখানে Qwen, Mistral, SAM3 সহ পূর্ব-অপ্টিমাইজড ওপেন-সোর্স মডেলগুলি রাখা হয়েছে, যেগুলি সমস্ত Apple Silicon-এর জন্য অ্যাডাপ্ট করা হয়েছে। ডেভেলপাররা এগুলি ডাউনলোড করে কয়েকটি Swift কোড লিখে তাদের অ্যাপে চালাতে পারেন।

যদি প্রস্তুত মডেল ব্যবহার না করতে চান, তবে আপনার নিজের মডেলও ব্যবহার করতে পারেন।

অ্যাপল গিটহাবে coreai-torch টুলকিটটি ওপেন সোর্স হিসাবে সিঙ্ক করেছে, 5 লাইন পাইথন দিয়ে একটি PyTorch মডেলকে .aimodel ফরম্যাটে রূপান্তর করে Xcode-এ কম্পাইল এবং ডিপ্লয় করা যায়।

প্রকল্প ঠিকানা:

https://github.com/apple/coreai-models

https://github.com/apple/coreai-torch

তবে, অ্যাপল শুধু মডেল চালানোর চেয়ে সব মডেলকে একীভূত করতে চায়।

টেকনিক্যালি বলা যায়, এটি Foundation Models ফ্রেমওয়ার্কে যোগ করা নতুন Language Model প্রোটোকল। এটি একটি এককীকৃত Swift API সংজ্ঞায়িত করে, যে কোনো মডেল যদি এটি অনুসরণ করে, তবে একই কোড দিয়ে এটিকে কল করা যায়।

অ্যাপলের নিজস্ব এন্ড-টার্মিনাল মডেল এই প্রোটোকল অনুসরণ করে, কোর এআই-এ চলা ওপেন-সোর্স মডেলগুলি এই প্রোটোকল অনুসরণ করে, এবং Claude এবং Gemini-এর মতো ক্লাউড-ভিত্তিক বড় মডেলগুলিও এই প্রোটোকল অনুসরণ করে।

একটি কোড, তিনটি মডেল, স্থানীয় থেকে ক্লাউডে অন্তর্বর্তী স্যুইচিং। অ্যাপল নিজেকে এআই-এর রাউটিং লেয়ারে পরিণত করেছে।

মোবাইল ফ্ল্যাশ মেমোরিতে একটি 200 বিলিয়ন মডেল �隠藏 করা হয়েছে

ফাউন্ডেশন মডেলস ফ্রেমওয়ার্কের পিছনে চলছে অ্যাপল এবং গুগলের যৌথভাবে উন্নয়নকৃত তৃতীয় প্রজন্মের স্ব-উন্নয়নকৃত মডেল পরিবার AFM 3, যা একসাথে 5টি মডেল প্রকাশ করেছে।

দুটি এন্ড-সাইড:

1. AFM 3 Core হল 3B প্যারামিটারের ঘন মডেল, যা দৈনিক হালকা কাজের জন্য দায়ী;

2. AFM 3 Core Advanced হল 20B প্যারামিটারের একটি স্পার্স মডেল, যা অ্যাপলের এন্ড-সাইডের সর্বোচ্চ সীমা।

ক্লাউডে তিনটি:

1. AFM 3 Cloud হল সার্ভারের প্রধান বলশক্তি;

2. ADM 3 Cloud ছবি তৈরি এবং সম্পাদনে বিশেষজ্ঞ (Image Playground-এর পিছনে এটিই রয়েছে);

3. AFM 3 Cloud Pro সম্পূর্ণ পরিবারের সবচেয়ে শক্তিশালী।

এর মধ্যে, এন্ড-সাইডের প্রধান অস্ত্র হল AFM 3 Core Advanced, যা 200 বিলিয়ন প্যারামিটারের বড় মডেল, সরাসরি মোবাইলে চলে।

প্রায়শই, মোবাইলের মেমোরি এই পরিমাণ ডেটা ধারণ করতে পারে না। প্রচলিত বড় মডেলগুলির জন্য সমস্ত ওজন DRAM-এ স্থান পেতে হয়, যা 20 বিলিয়ন প্যারামিটারের জন্য ডেস্কটপ ডিভাইসগুলিকেও কঠিন করে তোলে।

এর জন্য অ্যাপলের সমাধান হলো ইনস্ট্রাকশন-ফলোয়িং প্রুনিং।

পূর্ণাঙ্গ মডেলটি ফ্ল্যাশ (NAND) এ সংরক্ষিত থাকে, অনুরোধ পাওয়ার পর একটি হালকা রাউটিং মডিউল প্রথমে কোন বিশেষজ্ঞদের সক্রিয় করা দরকার তা নির্বাচন করে, তারপর সেই ওজনগুলি DRAM-এ লোড করে। প্রতিবার ব্যবহৃত প্যারামিটারের পরিমাণ 10 বিলিয়ন থেকে 40 বিলিয়নের মধ্যে পরিবর্তিত হয়, যা কাজের জটিলতার উপর নির্ভর করে।

একটি 200 বিলিয়ন প্যারামিটারের মডেল, কাজ করার সময় শুধুমাত্র 5% থেকে 20% ব্যবহার করে, বাকিগুলি নিস্তব্ধভাবে ফ্ল্যাশ মেমোরিতে অপেক্ষা করে।

এই ক্লাউডের পক্ষে, এপলের সবচেয়ে শক্তিশালী সার্ভার মডেল—AFM 3 Cloud Pro।

জটিল যুক্তিপূর্ণ এবং এজেন্ট টুল কল অর্জনের জন্য, অ্যাপল গুগল এবং নভিডিয়ার সাথে মিলে গুগল ক্লাউডের নভিডিয়া জিপিইউতে প্রাইভেট ক্লাউড কম্পিউটকে বিস্তার করেছে। গোপনীয়তা নিয়মগুলি একই রাখা হয়েছে, ডেটা বাইরে যায় না।

পরীক্ষামূলক ফলাফলগুলিও এই আর্কিটেকচারের কার্যকারিতা সমর্থন করছে।

AFM 3 Core পূর্বপুরুষের তুলনায় 45.6% টেস্ট প্রম্পটে উত্তম হিসাবে চিহ্নিত হয়েছে, যেখানে পূর্বপুরুষের সুবিধা ছিল মাত্র 23.3%। ক্লাউডে AFM 3 Cloud-এর পার্থক্য আরও বেশি—64.7% বনাম 8.7%, যা প্রায় একপক্ষীয়ভাবে অধিকার করেছে।

আর্কিটেকচার এবং স্কোরিং শেষ হয়ে গেল, এখন ডেভেলপারদের সবচেয়ে বেশি চিন্তিত প্রশ্ন হলো—এই সিস্টেমটির দাম কত?

যদি আপনার অ্যাপটি অ্যাপ স্টোরে প্রথম ডাউনলোড 20 লাখের কম হয়, তাহলে Private Cloud Compute-এর ক্লাউড ইনফারেন্স সম্পূর্ণরূপে বিনামূল্যে, কোনো API খরচ নেই, কোনো token ফি নেই। আপনি শুধু অ্যাপ লিখুন।

এটি স্বাধীন ডেভেলপার এবং ছোট ও মাঝারি দলের জন্য সঠিকভাবে নির্ধারিত বাধা।

তিন লাইন কোড, Claude টেবিলে আসলেন

তৃতীয় পক্ষের অ্যাডাপ্টেশন প্রকাশের সময়, Anthropic প্রথম উত্তর দিয়েছে।

জুন ৮ তারিখে WWDC কীনোট শেষ হওয়ার সাথে সাথে, Anthropic একটি Swift প্যাকেজ প্রকাশ করে যা ফাউন্ডেশন মডেলস ফ্রেমওয়ার্কে সংযুক্ত করে, যা জুন ৯ থেকে ব্যবহারযোগ্য।

ধারণাটি খুব সহজ।

অ্যাপলের এন্ড-সাইড মডেলগুলি সারাংশ, তথ্য নিষ্কাশন, শ্রেণীবিভাগ এই হালকা কাজগুলিতে দক্ষ, দ্রুত, ইন্টারনেটের প্রয়োজন ছাড়া এবং শূন্য খরচে। কিন্তু একাধিক ধাপের যুক্তি, কোড জেনারেশন, ইন্টারনেট অনুসন্ধানের মতো জটিল প্রয়োজনীয়তাগুলির সম্মুখীন হলে এন্ড-সাইড মডেলগুলি সহ্য করতে পারে না।

কিন্তু ক্লডের সুইফ্ট প্যাকেজটি ঠিক এই সংযোগস্থলে প্রবেশ করেছে।

ডেভেলপাররা ফাউন্ডেশন মডেল ফ্রেমওয়ার্কের মাধ্যমে অ্যাপলের এন্ড-ডিভাইস মডেল সাধারণভাবে কল করেন, যখন কোনো টাস্ক এন্ড-ডিভাইসের ক্ষমতার বাইরে চলে যায়, তখন ফ্রেমওয়ার্কটি অটোমেটিকভাবে অনুরোধটিকে Claude-এর দিকে রাউট করে, এবং প্রতিক্রিয়ার ফলাফলগুলি একই SwiftUI ভিউতে স্ট্রিমিং পদ্ধতিতে ফিরিয়ে দেওয়া হয়।

ব্যবহারকারীরা কোনো পরিবর্তন অনুভব করেন না, তাদের জন্য এটি শুধুমাত্র একটি অ্যাপ।

অন্যভাবে বললে, যদি আপনার প্রিয় নোট অ্যাপ বা শেখার অ্যাপ হঠাৎ বুদ্ধিমান হয়ে উঠে এবং এটি আপনাকে ডকুমেন্টের মধ্যে সেম্যান্টিক বিশ্লেষণ করতে সাহায্য করতে শুরু করে, তাহলে এর পিছনে সম্ভবত ডেভেলপাররা এই প্যাকেজটি যোগ করেছেন।

উদাহরণস্বরূপ, একটি ডায়েরি অ্যাপ এন্ড-ডিভাইস মডেল ব্যবহার করে দৈনিক লেখার প্রস্তাবনা তৈরি করতে পারে, কিন্তু যখন ব্যবহারকারী জিজ্ঞাসা করে “এই কয়েক মাসের ডায়েরিগুলির সাধারণ বিষয়গুলি কী?”, তখন এই সময়ের মধ্যে অর্থপূর্ণ সাধারণীকরণটি স্বয়ংক্রিয়ভাবে Claude-এর হাতে ছেড়ে দেওয়া হয়।

তবে, এনথ্রোপিকের অ্যাপল ইকোসিস্টেমের মধ্যে বিনিয়োগ শুধু এই ধাপেই সীমাবদ্ধ নয়।

ক্লড এজেন্ট এই বছর ফেব্রুয়ারিতেই Xcode 26.3-এ একীভূত হয়েছিল, যা ডেভেলপারদের কোড লিখতে, টেস্ট চালাতে এবং অটোমেশন করতে সাহায্য করে।

কিন্তু Xcode-এর Claude ডেভেলপারদের জন্য উপলব্ধ, যখন Foundation Models-এর Claude অ্যাপের চূড়ান্ত ব্যবহারকারীদের জন্য।

এটি এনথ্রোপিকের জন্য একটি দেরিমাত্রে কিন্তু অত্যন্ত গুরুত্বপূর্ণ কনজিউমার ডিস্ট্রিবিউশনের টিকিট।

ক্লড ডেভেলপার এবং ব্যবসায়িক বাজারে খুব শক্তিশালী হয়েছে, কিন্তু সাধারণ ভোক্তাদের সামনে প্রায় কোনো উপস্থিতি নেই।

এবার, অ্যাপলের ফাউন্ডেশন মডেলস ফ্রেমওয়ার্ক তাকে একশো কোটি ব্যবহারকারীর সাথে যোগাযোগের একটি পথ দিয়েছে।

25 বিলিয়ন ডিভাইস, একটি মঞ্চ

কুকের শেষ WWDC-এর সমস্ত পদক্ষেপ পুনরায় পর্যালোচনা করুন, একটি সূত্র সর্বদা বিদ্যমান।

অ্যাপল একটি এআই মডেল কোম্পানি হতে চায় না। এটি সিরির মস্তিষ্ক গুগলকে দিয়েছে, ওপেন-সোর্স মডেলের রানটাইম কোর এআইকে দিয়েছে, এবং তৃতীয় পক্ষের এআই বিকল্পগুলির পছন্দ ব্যবহারকারীদের হাতে ছেড়ে দিয়েছে।

এটি যা করতে চায় তা হল রিং।

25 বিলিয়ন ডিভাইস, একটি সমন্বিত ভাষা মডেল প্রোটোকল, এন্ড-টু-ক্লাউড সম্পূর্ণ স্কেডিউলিং ফ্রেমওয়ার্ক।

যার মডেল ভালো, তারই এই প্ল্যাটফর্মের মাধ্যমে পৃথিবীর সবচেয়ে বড় উচ্চ-মূল্যের ব্যবহারকারী গোষ্ঠীতে পৌঁছানোর সুযোগ।

আজ থেকে এআই ট্রেডমারদের মধ্যে প্রতিযোগিতা একটি সম্পূর্ণ নতুন মাত্রা লাভ করেছে।

আগে এনথ্রোপিক এবং ওপেনএআই প্রতিযোগিতা করছিল এপিআই কলের পরিমাণ, ডেভেলপার টুলস এবং কর্পোরেট চুক্তি নিয়ে।

এখন অ্যাপল যুদ্ধক্ষেত্রটিকে প্রতিটি মানুষের পকেটে নিয়ে এসেছে, যে কেউ সেই «ডিফল্ট এআই ইঞ্জিন» এর পজিশনটি জয় করবে, সেই কেউ পরবর্তী রাউন্ড জিতবে।

সেপ্টেম্বর ১, জন টারনাস অ্যাপলের সিইও হিসেবে দায়িত্ব গ্রহণ করেন। তিনি শুধু একটি হার্ডওয়্যার কোম্পানি নয়, কুকের রেখে গেলেন এই এআই মঞ্চটিও উত্তরাধিকার সূত্রে পান।