একটি এআই এজেন্ট ১০ ঘন্টায় কিউডিএ-এর মতো সফটওয়্যার পুনরুৎপাদন করে, বিতর্ক সৃষ্টি করে

CUDA আবারও ক্রাশ হয়েছে...

এবারের হাতিয়ারও নিভিয়াডার নিজেই প্রতিষ্ঠা করা এআই।

একটি কেবল এক বছর পুরনো ছোট কোম্পানি, এআই প্রোগ্রামিং এজেন্ট ব্যবহার করে মাত্র ১০ ঘন্টায় একটি «কিউডিএএস সফটওয়্যার» তৈরি করেছে।

থামুন, থামুন, থামুন।

আপনি বলছেন যে এই নভেডিয়ার প্রায় ২০ বছরে গড়ে তোলা সফটওয়্যার সাম্রাজ্যটি এত সহজেই কপি করে ফেলা হয়েছে??

এটাই শেষ নয়। ডিপসিক কম করে বেসিক CUDA লেখার চেষ্টা করছেন।

তারা TileLang ব্যবহার করে TileKernels নামক একটি GPU অপারেটর লাইব্রেরি ওপেন সোর্স করেছে, যা হাতে লেখা ক্যুডা কোডের প্রচুর পরিমাণ বাদ দিয়েছে।

কিন্তু এই ধরনের “CUDA সংকট” শুনেছি এই প্রথম নয়।

কিছুক্ষণ পর কিছুক্ষণ পর CUDA-কে নিয়ে বারবার সমালোচনা করা হয়, এটি প্রতিস্থাপন করে দেওয়া হয়েছে, এটি ভেদ করে দেওয়া হয়েছে, প্রতিরক্ষামূলক প্রাচীর আবার ধ্বংস হয়ে গেছে...

Is it really like that?

নভেডিয়া উল্লেখ করলে অনেকের প্রথম প্রতিক্রিয়া হয় জিপিইউ।

H100, Blackwell, Rubin—একের পর এক বেশি ক্ষমতাসম্পন্ন চিপের মাধ্যমে নভিডিয়া এই এআই ঢেউয়ের সর্বাধিক সুবিধা উপভোগ করেছে।

কিন্তু নভেডিয়ার সত্যিকারের অপরিহার্য সুবিধা হল হার্ডওয়্যার নয়, বরং সফটওয়্যার।

চিপ কেনা যায়, প্যারামিটার অনুসরণ করা যায়, প্রক্রিয়াও উন্নত হবে। আসলে ক্লায়েন্টদের নভেডিয়া ব্যবহার করার পর আর পরিবর্তন করতে অসুবিধা হয়, কারণ GPU-এর উপর ভিত্তি করে গড়ে উঠেছে সম্পূর্ণ সফটওয়্যার ইকোসিস্টেম।

এবং CUDA হল এই সফটওয়্যার সাম্রাজ্যের কেন্দ্র।

CUDA-এর পূর্ণরূপ হল কম্পিউট ইউনিফায়েড ডিভাইস আর্কিটেকচার, যা নভিডিয়ার কর্মকর্তা আইয়ান বাকের নেতৃত্বে প্রায় ২০ বছর ধরে তৈরি করা হয়েছে।

এটিকে প্রায়শই প্রোগ্রামিং ভাষা বলা হয়, তবে আরও সঠিকভাবে বলা যায় যে CUDA হল নভেডিয়া GPU-এর উপর ভিত্তি করে গঠিত একটি সম্পূর্ণ সফটওয়্যার প্ল্যাটফর্ম।

যদি এটিকে সহজে তিনটি স্তরে বিভক্ত করা যায়, তবে সবচেয়ে নিচের স্তরটি হল কোর স্তর, যেখানে চিপকে সরাসরি কাজ করানো হয়—কার্নেল, কম্পাইলার এবং রানটাইম।

মাঝখানে কুব্লাস, কুডিএনএন ইত্যাদি অত্যন্ত অপ্টিমাইজড কম্পিউটেশনাল লাইব্রেরি এবং ডিবাগিং, যাচাইকরণ এবং পারফরম্যান্স বিশ্লেষণ টুলস রয়েছে।

সবচেয়ে উপরে রয়েছে PyTorch, TensorFlow ইত্যাদি ডেভেলপমেন্ট ফ্রেমওয়ার্ক, প্রতিষ্ঠানগুলির সঞ্চিত অসংখ্য কোড এবং ওয়ার্কফ্লো, এবং CUDA-এর চারপাশে গড়ে উঠা ডেভেলপার ইকোসিস্টেম।

△

এটা একটু বিশুদ্ধ মনে হতে পারে, কিন্তু আপনি নভিডিয়া জিপিইউকে একটি কারখানা হিসাবে কল্পনা করতে পারেন।

CUDA-এর সবচেয়ে নিচের স্তরটি মেশিনকে প্রতিটি ধাপে কী করতে হবে তা বলে, মধ্যবর্তী স্তরটি প্রস্তুত উৎপাদন টুল প্রদান করে, এবং সবচেয়ে উপরের স্তরটি বছরের পর বছর ধরে কাজ করে আসা একটি সম্পূর্ণ উৎপাদন ব্যবস্থা।

অতএব, গ্রাহকদের জন্য, শুধুমাত্র একটি নভিডিয়া কার্ড কেনা নয়, বরং একটি অপেক্ষাহীন কারখানা কেনা।

এখন, জেরেমি নিক্সন নামের একজন ভাই এআই এজেন্ট নিয়ে এসেছেন।

নিক্সন হলেন এআই সফটওয়্যার স্টার্টআপ ইনফিনিটির প্রতিষ্ঠাতা এবং আগে গুগল ব্রেইনে গবেষক ছিলেন।

তার দল একটি আইএই গবেষণা এজেন্ট তৈরি করেছে যার নাম Ignition, যা বিভিন্ন আইএই চিপের জন্য লো-লেভেল সফটওয়্যার লেখার জন্য বিশেষায়িত।

এটি GPU কার্নেল তৈরি করতে পারে, টেস্ট চালাতে পারে, ত্রুটি খুঁজে বার করতে পারে, পারফরম্যান্স মাপতে পারে, এবং ফলাফলের ভিত্তিতে স্বয়ংক্রিয়ভাবে কোড পুনর্লিখন করতে পারে।

মানুষের প্রকৌশলীরা উচ্চস্তরের দিকনির্দেশনা প্রদান করেন, বাকি সব ক্ষুদ্র এবং মস্তিষ্কের প্রচেষ্টাপূর্ণ কাজগুলি এজেন্টগুলিকে পুনরাবৃত্তি করতে দেওয়া হয়।

এভাবেই, ইনফিনিটি এআই চিপ স্টার্টআপ d-Matrix-এর জন্য ইগনিশন ব্যবহার করে একটি কুডা-সদৃশ সফটওয়্যার তৈরি করেছে।

শুধুমাত্র 10 ঘন্টা লাগল।

আহ???

যে সমস্ত নিম্ন স্তরের কোড আগে চিপ সফটওয়্যার ইঞ্জিনিয়ারদের পুনরাবৃত্তি ডিবাগিংয়ের প্রয়োজন হত, এখন কি সত্যিই AI-এর হাতে ছেড়ে দেওয়া যাবে?

এটা শুধু বিপণন মাত্র বলা যায় না।

এই পরিষ্কার ফিডব্যাক সহ প্রোগ্রামিং টাস্কের জন্য এআই এজেন্ট প্রকৃতপক্ষে খুব উপযুক্ত।

কোড কম্পাইল হয় কিনা, ফলাফল সঠিক কিনা, পারফরম্যান্স বেড়েছে কিনা—সবকিছুই বাস্তবে চালানোর মাধ্যমে উত্তর পাওয়া যায়।

অতএব, এজেন্ট একটি সম্পূর্ণ বন্দনা গঠন করতে পারে:

কোড লিখুন → কম্পাইল করুন → চালান → সঠিকতা এবং পারফরম্যান্স পরীক্ষা করুন → ফিডব্যাকের ভিত্তিতে আরও সংশোধন করুন

তবে, ইনফিনিটি মূলত CUDA-এর প্রথম স্তরে প্রবেশ করেছে: বিভিন্ন চিপের জন্য ইনফারেন্স কার্নেল তৈরি ও অপ্টিমাইজ করা এবং এই কার্নেলগুলির চারপাশে অধোস্তল সফটওয়্যার ক্ষমতা গড়ে তোলা।

এটি বিভিন্ন চিপের জন্য একটি সাধারণ ইনফারেন্স লাইব্রেরি বিকাশ করছে, কিন্তু এটি মানে এটি 10 ঘন্টার মধ্যে CUDA-এর 20 বছরের সম্পূর্ণ ইকোসিস্টেম কপি করেছে এমন নয়।

কিন্তু…

কিন্তু!

আসলে আপনাকে ১৫ মিলিয়ন ডলার ফান্ডিং পেতে কোনও CUDA কপি করার দরকার নেই।

এই কোম্পানির বর্তমান মূল্যায়ন এখন 1 শত মিলিয়ন ডলারে পৌঁছেছে।

নভেডিয়াকে হুমকি দিচ্ছে কিনা জানি না, কিন্তু মূলধন অবশ্যই কিনছে। (doge)

যদি এআই এজেন্ট দুর্গ আক্রমণের অস্ত্র হয়, তবে রিজনিং মার্কেট হল দুর্গের দেয়ালের ফাঁক।

বড় মডেলের গণনা মূলত দুটি পর্যায়ে বিভক্ত:

ট্রেনিং হল মডেল তৈরি করা, যার জন্য হাজার হাজার গ্রাফিক্স কার্ড মিলে মাসের পর মাস চলে; ইনফারেন্স হল প্রশিক্ষিত মডেল ব্যবহার করে প্রশ্নের উত্তর দেওয়া, যা ছোট ক্লাস্টার বা এমনকি একটি একক কার্ডেও চলে।

ট্রেনিং পাশে, কিউডিএএ এখনও প্রায় অমীমাংসিত।

বড় পরিসরে প্রশিক্ষণ পারফরম্যান্স, স্থিতিশীলতা এবং ক্লাস্টার সমন্বয়ের প্রতি অত্যন্ত সংবেদনশীল। চিপগুলির মধ্যে যোগাযোগ, গ্রাফিক্স মেমোরির সমন্বয়, এবং প্রোগ্রামের ত্রুটির পরে কীভাবে পুনরুদ্ধার করা হবে—এই কোনো একটি দক্ষতা হ্রাস হাজার বা লক্ষ চিপে বড় হয়ে বাস্তব সময় এবং খরচে পরিণত হয়।

অতএব, ব্যবসাগুলি প্রশিক্ষণ প্ল্যাটফর্ম বাছাই করার সময় প্রায়শই অত্যন্ত সতর্ক হয়।

অন্যান্য চিপগুলি যদিও কাগজে প্যারামিটারগুলি ভালো হয়, তবুও যদি সফটওয়্যার পর্যাপ্ত পরিপক্ক না হয় বা ক্লাস্টার পর্যাপ্ত স্থিতিশীল না হয়, তবে হার্ডওয়্যার খরচ বাঁচানোর ফলে বিকাশ এবং ভুল-পরীক্ষা খরচের মধ্যে দ্বিগুণ পরিমাণে ফিরে আসতে পারে।

কিন্তু যুক্তিসম্পন্ন পাশে, গেমের নিয়ম বদলে গেছে।

কোরিয়ার এআই চিপ কোম্পানি রেবেলিয়ন্সের প্রধান ব্যবসায়িক অফিসার মার্শাল চয় মনে করেন:

রিজনিং সাইডে, CUDA এখন নির্ণায়ক নয়। এটি একটি ওপেন সোর্স সফটওয়্যারের প্রতিযোগিতা হবে।

কেন প্রতিযোগীরা উপসংহারের দিকে মনোযোগ দিচ্ছে?

কারণ প্রশিক্ষণের ক্ষেত্রে "অত্যুত্তম পারফরম্যান্স" গুরুত্বপূর্ণ, আর উপসংহারের ক্ষেত্রে প্রতিটি উত্তরের খরচ গুরুত্বপূর্ণ।

ট্রেনিংয়ের জন্য হাজার হাজার গুণন কার্ডের সমন্বয় প্রয়োজন, কিন্তু ইনফারেন্সকে ছোট ক্লাস্টার বা একক কার্ডে বিভক্ত করা যায়; ট্রেনিংয়ের জন্য চিপ পরিবর্তন করা যায় না, কিন্তু ইনফারেন্সের জন্য করা যায়।

যেহেতু শুধু চলে এবং সস্তা, গ্রাহকরা পরীক্ষা করতে রাজি।

আরও গুরুত্বপূর্ণ বিষয় হলো, ইনফারেন্স সফটওয়্যার বিভিন্ন চিপের উপর চলতে পারে। যদি ইনফারেন্স ফ্রেমওয়ার্ক বিভিন্ন চিপকে সমর্থন করে, তাহলে ব্যবহারকারীরা কোড পুনর্লিখন না করেই বিভিন্ন হার্ডওয়্যারের মধ্যে স্যুইচ করতে পারবে—

CUDA-এর সর্বাধিক লক-ইন প্রভাব এখন বাতিল হয়ে গেছে।

এটি বিশেষায়িত অনুমান চিপের জন্য সুযোগ ছেড়ে দেয়।

রিজনিং টাস্কগুলির সমস্ত ক্ষেত্রেই CUDA-এর প্রশিক্ষণ থেকে ক্লাস্টার সহযোগিতা পর্যন্ত সমস্ত ক্ষমতার প্রয়োজন হয় না। নির্দিষ্ট মডেল এবং নির্দিষ্ট পরিস্থিতির জন্য পুনর্ডিজাইন করা চিপগুলি যদি দ্রুততর, কম খরচে বা বেশি শক্তি সাশ্রয়ী হয়, তবে এগুলি নভেডিয়ার থেকে একটি বাজারের অংশ কেড়ে নিতে পারে।

যেমন d-Matrix, এটি নিজেই একটি প্রধানত উপসংহার চিপ কোম্পানি।

এই কোম্পানিটি 2019 সালে প্রতিষ্ঠিত হয়েছিল এবং জেনারেটিভ এআই রিজনিং চিপের উপর ফোকাস করে।

সহ-প্রতিষ্ঠাতা এবং সিইও সিদ শেথ মনে করেন যে, তারা খুব আগেই বুঝতে পেরেছিলেন যে এআই রিজনিংয়ের সুযোগ চূড়ান্তভাবে ট্রেনিংয়ের চেয়ে বেশি হবে।

ইনফিনিটি একটি AI এজেন্ট ব্যবহার করে ১০ ঘন্টায় একটি CUDA-সদৃশ সফটওয়্যার তৈরি করেছে, যা d-Matrix-এর ইনফারেন্স চিপগুলিকে সার্ভ করে।

অতএব, “10 ঘন্টার ঘটনা”-এর পূর্ণ গল্পটি একসাথে জুড়ে যায়:

নতুন চিপ রিজনিং মার্কেটে প্রবেশ করতে চায়, কিন্তু পরিপক্ক সফটওয়্যারের অভাব রয়েছে; AI এজেন্ট নিচের কার্নেল দ্রুত তৈরি এবং অপ্টিমাইজ করে, যা আগে মাস বা বছর ধরে সামঞ্জস্য করা হতো, তা ঘন্টা বা দিনে সংকুচিত করে।

সিদ স্পষ্টভাবে ঘোষণা করেছে:

যদিও নভেডিয়া প্রশিক্ষণ ক্ষেত্রে প্রভুত্ব বজায় রাখে, তবে উপসংহারের ক্ষেত্রে এর প্রতিরক্ষামূলক সুবিধা কমে গেছে।

এই ফাঁকটির দিকে তাকাচ্ছে শুধুমাত্র d-Matrix নয়।

রিবেলিয়ন্স, d-Matrix যারা যুক্তি প্রসেসিংয়ে ফোকাস করে, ওয়েফার-লেভেল চিপের উপর জোর দেয় Cerebras, অ্যামাজনের Inferentia, গুগলের TPU, AMD-এর MI300X...

সমস্ত চিপ প্রস্তুতকারক এবং ক্লাউড কম্পিউটিং বিগ নামগুলি ইনফ্রেন্স মার্কেটে প্রস্তুতি নিয়েছে, নভেডিয়ার হাত থেকে একটি টুকরো মাংস নেওয়ার জন্য।

এই কোম্পানিগুলির জন্য, তাদের অবিলম্বে নভিডিয়াকে প্রতিস্থাপন করার প্রয়োজন নেই।

তাদের শুধু এটাই প্রমাণ করতে হবে যে কিছু যুক্তিসংগঠিত কাজে নভেডিয়ার সম্পূর্ণ হার্ডওয়্যার এবং CUDA ইকোসিস্টেমের উপর নির্ভর না করেও দ্রুততর বা কম খরচে চালানো যায়।

এটাই যথেষ্ট।

উত্তরটি হতে পারে… এখনও অনেক দূরে।

আগেই বলা হয়েছে, ১০ ঘন্টার পুনর্লিখন করা হয়েছে «একটি চিপের অ্যাডাপ্টেশন কোড»; অন্যদিকে, CUDA ইকোসিস্টেমের কাছে ২০ বছরের জমা লাইব্রেরি, ডিবাগিং টুলস, সম্প্রদায় এবং কয়েক মিলিয়ন ডেভেলপার রয়েছে।

এটি সহজেই উল্টানো যায় না।

এর চেয়ে বেশি গুরুত্বপূর্ণ হলো, কোড তৈরি করা যায়, কিন্তু ব্যবহার করা যায় না।

INT21-এর প্রতিষ্ঠাতা বিং শু, যিনি আগের এআই চিপ সফটওয়্যার কোম্পানি হিপোএমএল-কে নভিডিয়া ক্রয় করেছিল, এই বছর এপ্রিলেই নভিডিয়া ছেড়েছেন।

তার মতামত হল: এজেন্ট সংক্ষিপ্ত সময়ের মধ্যে বহু কোড তৈরি করতে পারে, কিন্তু যাচাইকরণই সবচেয়ে বড় বাধা।

এক হাজার লাইন কোড তৈরি করা দ্রুত, কিন্তু "এই এক হাজার লাইনের প্রতিটি বোর্ডার কেসে সঠিকভাবে কাজ করে এবং স্থিতিশীলভাবে চলে" তা প্রমাণ করা অত্যন্ত ধীর।

CUDA-এর সবচেয়ে গভীর সম্পদ হল এর যাচাইকরণ টুলচেইন—তাই তিনি মনে করেন, এজেন্ট যুগে, যাচাইকরণ ইকোসিস্টেম হবে CUDA-এর পরবর্তী প্রতিরক্ষা ব্যবস্থা।

মডুলারের সহ-প্রতিষ্ঠাতা এবং সিইও ক্রিস ল্যাটনারও একটি শীতল পানির বৃষ্টি ঝেড়েছেন।

তিনি মনে করেন যে কোডিং এজেন্ট দ্বারা আনা উন্নতি ধাপে ধাপে, 'প্রচার অত্যধিক বাড়ানো হয়েছে।'

তিনটি কারণ রয়েছে: প্রথমত, কোড লেখা শুধুমাত্র সফটওয়্যার ইঞ্জিনিয়ারিংয়ের একটি ছোট অংশ, উৎপাদন-স্তরের অপ্টিমাইজেশনই চিপের পারফরম্যান্স নির্ধারণ করে, যা এআই চালানোর খরচকে সরাসরি প্রভাবিত করে;

দ্বিতীয়ত, চিপ সফটওয়্যার হল একটি সামান্য শ্রেণীর পেশাদার ক্ষেত্র, যেখানে ওপেন-সোর্স কোড অ্যাপ্লিকেশন ডেভেলপমেন্টের তুলনায় অনেক কম; এই ক্ষেত্রে AI-এর জন্য প্রশিক্ষণ ডেটা মূলতই সীমিত;

তৃতীয়ত, কয়েক মিলিয়ন লাইনের পুরানো কোড মাইগ্রেট করার খরচ এখনও বিদ্যমান, এটি প্রযুক্তিগত সমস্যা নয়, এটি সংগঠনগত সিদ্ধান্ত।

একটি সহজেই উপেক্ষিত বিষয় হল: নভেডিয়া নিজেই AI ব্যবহার করছে।

নভেডিয়া ডেভেলপার ইকোসিস্টেমের ভাইস প্রেসিডেন্ট অঙ্কিত পাটেল বলেছেন:

আমরা সিউডা তৈরি করতে এবং বড় স্কেলে যাচাই করতে এআই এজেন্টও ব্যবহার করছি।

নিজের লাঠি দিয়ে অন্যের ঢাল আক্রমণ করলে, আক্রমণকারীর আপেক্ষিক সুবিধা কমে যায়।

বিং সু সংক্ষেপে বলেন: এই যুদ্ধের বিজয় বা পরাজয় নির্ভর করছে প্রতিদ্বন্দ্বীদের নভেডিয়াকে অনুসরণের গতি কি নভেডিয়ার নিজস্ব পুনরাবৃত্তির গতির চেয়ে দ্রুত হতে পারে।

কিন্তু স্পষ্টভাবে, এই বিশ্বের সবচেয়ে বড় চিপ নির্মাতা, "ঘুমাচ্ছে বা স্থির হয়ে আছে না"।

সামগ্রিকভাবে, সংক্ষিপ্ত সময়ের জন্য নভিডিয়ার প্রতিরক্ষামূলক সীমানা নিরাপদ, কিন্তু পরিবর্তনগুলি প্রথমে উপসংহারের পাশে চুপচাপ ঘটবে।

দীর্ঘমেয়াদী প্রকৃত প্রশ্ন হল: প্রতিরক্ষা বেষ্টনী এখন “কোডের স্টক” থেকে “ভেরিফিকেশন এবং অপ্টিমাইজেশনের ইকোসিস্টেম”-এ স্থানান্তরিত হচ্ছে।

যে প্রথম নতুন পজিশন দখল করবে, সেই হবে পরবর্তী বিজয়ী।

রেফারেন্স লিঙ্ক: [1]https://www.businessinsider.com/nvidia-cuda-new-threats-ai-coding-agents-2026-8

এই লেখাটি ওয়েইচ্যাট গ্রুপ "Quantum Bit" থেকে এসেছে, লেখক: টিং ইউ