লেখক: জামিন ব্যাল
স্টিম টেকফ্লো
শিনচাওয়ের পরিচয়: xAI-এর কোলোসাস 1 ডেটা সেন্টারের একজন ক্রেতা খুঁজে পাওয়া গেছে—Anthropic সমস্ত ক্যালকুলেশন ক্ষমতা ভাড়া নিয়েছে, বার্ষিক 50 বিলিয়ন ডলার প্রদান করে। এই লেনদেনটি শুধুমাত্র xAI-কে একটি নতুন ক্লাউড কম্পিউটিং বিগ নামে পরিণত করেছে, Anthropic-ও এই ক্যালকুলেশন ক্ষমতা ব্যবহার করে 150 বিলিয়ন ডলারের আয় করতে পারবে, উভয়ই লাভবান হয়েছে।
একটু কাঁচা হিসাব করি! (সবই কাগজের উপর আনুমানিক হিসাব...)
ধরুন কোলোসাস 1-এ 22 লাখ জিপিইউ রয়েছে
ধরুন এর মধ্যে 15 হাজার H100, 5 হাজার H200, এবং 2 হাজার GB200
ভাড়া ধারণা:
- প্রতি ঘন্টায় 2.30 ডলার H100
- প্রতি ঘন্টায় 2.60 ডলার
- প্রতি ঘন্টায় 5 ডলার GB200
সমগ্র ক্লাস্টারের মিশ্র ভাড়া প্রায় প্রতি ঘন্টায় 2.60 ডলার।
ধরুন সবগুলো টেক-অর-পে চুক্তি (আপনি 24x365 পূর্ণ ক্ষমতায় পেমেন্ট করেন)
এটি xAI-এর বার্ষিক 5 বিলিয়ন ডলার রাজস্বের সমান। আমরা একটি নতুন ক্লাউড কম্পিউটিং বিগ জন্ম দেখেছি!
এর চেয়েও বেশি—সাম্প্রতিক ডওয়ার্কেশের পডকাস্টে, ড্যারিও একটি ইউনিট ইকোনমিক্স হিসাব করেছেন (তিনি বিশেষভাবে জোর দিয়েছেন যে এটি শিল্পের সাধারণ গণিত, Anthropic-এর কোনো বিশেষ তথ্য নয়—এটি খুবই গুরুত্বপূর্ণ, তিনি Anthropic-এর কোনো তথ্য প্রকাশ করেননি)।
তিনি উল্লেখ করেন যে, 1000 বিলিয়ন ডলারের ক্যালকুলেশন খরচের উদাহরণ দিচ্ছেন (তিনি শুধু একটি পূর্ণসংখ্যা বাছাই করেছেন)। এই খরচটি ট্রেনিং এবং ইনফারেন্সের মধ্যে বণ্টিত হবে। ট্রেনিংয়ের অংশ খুব বেশি হলে, আপনার আয় পর্যাপ্ত হবে না; ইনফারেন্সের অংশ খুব বেশি হলে, আপনি ভবিষ্যতের গবেষণা-উন্নয়নকে দুর্বল করে ফেলবেন। তিনি মনে করেন যে, বর্তমানে শিল্পটি ট্রেনিং/ইনফারেন্সের ক্যালকুলেশন খরচে 50/50 অনুপাতে রয়েছে। তিনি বলেন, একটি শিল্প হিসাবে, সেই 500 বিলিয়ন ডলারের ইনফারেন্স খরচকে 1500 বিলিয়ন ডলারের আয়ে রূপান্তরিত করা যায় (তিনি বিশেষভাবে উল্লেখ করেছেন যে, এটি 1-2 বছরের মধ্যে শিল্পটির ইউনিট ইকোনমিকস মডেল হতে পারে)।
এই লজিকটি xAI-এর ট্রেডিং-এ প্রয়োগ করুন। উপরের ধারণার ভিত্তিতে, Anthropic প্রতি বছর 5 বিলিয়ন ডলার প্রদান করে। ধরে নিন যে তারা এটিকে প্রতি বছর 15 বিলিয়ন ডলার রেভিনিউতে রূপান্তরিত করে (60-70% গ্রস মার্জিন)
উভয়ের জন্য বিজয়!!
ডারিও এভাবে বলেছিলেন:
এটাকে এভাবে ভাবুন। আবার বলছি, এগুলো সরলীকৃত তথ্য। সংখ্যাগুলো পরিষ্কার নয়। আমি শুধু একটি টয়ল মডেল তৈরি করছি। ধরে নিন, আপনার অর্ধেক ক্যালকুলেশন ক্ষমতা ট্রেনিংয়ের জন্য এবং অর্ধেক ইনফারেন্সের জন্য ব্যবহার করছেন। ইনফারেন্সের একটি নির্দিষ্ট মার্জিন লাভ রয়েছে
@GS_CapSF "আমরা স্পেসএক্সের কোলোসাস ১ ডেটা সেন্টারের সম্পূর্ণ ক্ষমতা ব্যবহারের জন্য চুক্তি স্বাক্ষর করেছি। এটি আমাদের এক মাসের মধ্যে ৩০০ মেগাওয়াটের বেশি নতুন উৎপাদন ক্ষমতা (২২০,০০০ এর বেশি NVIDIA GPU) প্রদান করেছে।"