ওপেনএআই-এর পূর্ব কোর গবেষক: মানুষের এআই গবেষণা দুই বছরের মধ্যে প্রতিস্থাপিত হতে পারে

হ্যাঁ, শুনেছেন?

মানুষের গবেষকদের ভালো দিনগুলি মাত্র দুই বছর বাকি।

দুই বছর পরে, মানুষ এআই গবেষণা করবে ঠিক যেমন আজকের মানুষ শতরঞ্জ খেলে।

তুমি অবশ্যই আরও নিচে যেতে পারো, কিন্তু কেউই তোমার কীভাবে নিচে যাচ্ছো তা নিয়ে কোনো মানে দেয় না।

এটি আগের OpenAI রিজনিং মডেলের প্রথম স্থানের জেরি টোরেক দ্বারা প্রকাশিত সর্বশেষ বিতর্কিত মন্তব্য।

তিনি ২০১৯ সালে ওপেনএআই-এ যোগ দেন এবং সাত বছর ধরে থাকেন। সেই সময় রিইনফোর্সমেন্ট লার্নিংকে কোনোভাবেই স্কেল করা যাচ্ছিল না, কিন্তু তিনি কঠোরভাবে ধরে রেখেছিলেন এবং এটিকে বাড়িয়েছিলেন; o1 এবং o3 এই দুটি প্রজন্মের বড় অস্ত্র তিনিই সরাসরি নেতৃত্ব দিয়েছিলেন।

“আমরা এজিআই তৈরি করতে চাই।” ২০১৯ সালে যখন ইলিয়া ওপেনএআই-এ যোগ দেন, তখন সে সমস্ত কর্মচারীদের সম্মেলনে এটিই তার সম্পূর্ণ রোডম্যাপ ছিল। সাত বছর পর, সে নিজেই আলাদা হয়ে যায়।

আরও ভয়ঙ্কর বিষয় হলো, এই কথাটি শুধু তিনিই বলছেন না। এখন এআই গবেষকদের মধ্যে সবচেয়ে জনপ্রিয় একটি অভ্যন্তরীণ জট হলো—

আমাদের শেষ কয়েক দিন কাজ করার সুযোগ বাকি আছে, এখনই যতটা সম্ভব কাজ করুন, তারপর একসাথে অবসর নিন।

সবাই এটিকে একটি কালো হাস্যরস হিসেবে পুনরাবৃত্তি করছে। কিন্তু প্রতিটি হাস্যরস বলার মানুষের মনে সবকিছুই পরিষ্কার।

এই হাস্যকর পরিস্থিতিটাই হয়তো বাস্তবতা।

এবং এটাই শুধু অ্যাপেটাইজার। সাক্ষাতকারের সম্পূর্ণ সময়ে তিনি এমন কথা একের পর এক বলেছিলেন:

এজেন্ট প্রকৃতপক্ষে সৃজনশীল, কিন্তু সেটি একটি অত্যন্ত খারাপ, প্রচুর পরিমাণে জমানো সৃজনশীলতা, যার ধারণাগুলি বিভিন্ন ধরনের এবং সাধারণত খুব খারাপ
একটি অগ্রগামী মডেলকে প্রশিক্ষণ থেকে ডিপ্লয়মেন্ট পর্যন্ত বাস্তবায়ন করতে পারে এমন মানুষ বিশ্বব্যাপী মাত্র ত্রিশ থেকে পঞ্চাশজন, বাকি সবাই তাদের সহায়তা করছেন
ট্রান্সফরমারকে সর্বোত্তম সমাধান হিসাবে ধরে নেওয়ার ধারণাটি প্রায় অসম্ভব
ওপেনএআই-এ সাত বছর কাজ করার সময়, বেসিক আর্কিটেকচার পরিবর্তনের জন্য শুধুমাত্র তিন থেকে চারবার প্রকৃতপক্ষে চেষ্টা করা হয়েছিল।
বিশ্ব শুধুমাত্র আমাদের চাকরি করার উপর নির্ভর করে ঘোরে না, এই ধারণাটি নিজেই বাস্তবসম্মত নয়।

নিচে সংশোধিত সংস্করণটি দেওয়া হলো, উপভোগ করুন।

অর্ধেক কাজ এখন কেউ করছে না

এই সংখ্যাটি দুই বছরের, এটি পারফরম্যান্স স্কোর বা ক্যালকুলেশন ক্ষমতার সাথে সম্পর্কিত নয়।

সে এই গবেষণার মধ্যে কতটা কাজ এখনও মানুষ করছে তা গণনা করছে।

এবং এই কাজটি আগেই দুটি অংশে বিভক্ত হয়ে গিয়েছিল।

একটি অংশ হলো ধারণা দেওয়া, কোথায় যাওয়া উচিত তা পরিষ্কারভাবে বুঝে নেওয়া। অন্যটি হলো কাজ করা, ধারণাগুলিকে চলমান কোডে পরিণত করা এবং ডেটা ফিরিয়ে আনা।

এবং কাজের সেই অংশটি এখন প্রায় সম্পূর্ণরূপে এজেন্টের হাতে চলে গেছে।

টুয়োরেক এই বছর এপ্রিলে কোর অটোমেশন নামে একটি কোম্পানি শুরু করেছেন, যার স্লোগান হল বিশ্বের সবচেয়ে অটোমেটেড এআই ল্যাব তৈরি করা।

তাদের কাছে, একটি পরীক্ষার পুরো চক্র সরাসরি এক মাস থেকে একদিনে কমিয়ে আনা হয়েছে। দক্ষতা তিনবার বাড়িয়েছে!

কিন্তু এই অংশের জন্য পরামর্শ দেওয়ার জন্য এজেন্ট এখনও সক্ষম নয়। কারণ—

তারা নিঃসন্দেহে অত্যন্ত সৃজনশীল প্রজাতির।

কিন্তু তারা অত্যন্ত খারাপ এবং অপরিমিত পরিমাণে সৃজনশীলতা ব্যয় করছে। ধারণাগুলি সত্যিই বিভিন্ন, কিন্তু ধারণাগুলি সাধারণত খুবই খারাপ।

বিশ্বব্যাপী মাত্র তিরিশ থেকে পঞ্চাশজন

এটা শুনে মনে হচ্ছে, এই অংশটা এখনও স্থিতিশীল।

আসলে এখন কয়জনই বা পরিকল্পনা দিতে পারেন।

সাক্ষাতকারে হোস্ট প্রকাশ করেন যে, একজন ওপেনএআই-এর অভ্যন্তরীণ গবেষক তার সাথে আন্তরিকভাবে কথা বলেছিলেন—

একটি অগ্রগামী মডেলকে কীভাবে প্রশিক্ষণ দেওয়া হয় এবং কীভাবে ডিপ্লয় করা হয়, এই প্রক্রিয়াটি বাস্তবিকই এন্ড-টু-এন্ড বুঝতে পারে এমন মানুষের সংখ্যা মাত্র ৩০ থেকে ৫০ জন।

বাকি সবাই এই কয়েক দশক মস্তিষ্কের জন্য কাজ করছে, যার মধ্যে সবচেয়ে শক্তিশালী কোম্পানিটির বেশিরভাগ চাকরিজনিত কর্মচারীও অন্তর্ভুক্ত।

Tworek কোনো প্রতিবাদ করেননি।

তিনি মনে করেন, যেকোনো শীর্ষ দলই এভাবে কাজ করে। কয়েকজন মানুষ পথ নির্ধারণ করে, এবং তাদের পিছনে একটি পুরো ঘূর্ণায়মান বাস্তবায়ন মেশিন টানে।

এই কয়েক দশজনকে কতটা চাওয়া হচ্ছে, তা বোঝার জন্য শুধু তার নিজের নিয়োগের তালিকা দেখুন।

কোর অটোমেশনের সহ-প্রতিষ্ঠাতা রোহান অনিল, যিনি অ্যানথ্রোপিক থেকে এসেছেন, আগে গুগল ডিপমাইন্ডে ছিলেন।

ডিপমাইন্ডে জেমিনির জন্য কাজ করা অনমোল গুলাটি কে ও আকর্ষণ করা হয়েছে। ওপেনএআইয়ের পূর্বের মানবসম্পদ প্রধান জুলিয়া ভিলাগ্রা পর্যন্ত তাদের সাথে চলে গেছেন।

সব ল্যাব একই পুকুরে মানুষ ধরছে। আর এই পুকুরে মাত্র কয়েকটি মাছ আছে।

তাই দুই বছরের এই সংখ্যাটি মানব জাতির সাথে কোনো সম্পর্কিত নয়।

এই পঞ্চাশজন আর কতক্ষণ টিকবে বলছেন।

সাত বছর, আর্কিটেকচার শুধুমাত্র তিন বা চারবার গুরুত্বপূর্ণভাবে পরিবর্তন করা হয়েছে

যখন মানুষের সংখ্যা শুধু কয়েক দশটি থাকে, তখন AI-এর সামনে শেষ প্রাচীরটি কী?

টুয়োরেকের উত্তর শুধু একটি শব্দ, ট্রান্সফরমার।

তার মতে, এটি প্রায় অসম্ভব যে এটি সর্বোত্তম সমাধান হবে।

প্রথমত, মডেলটি ডিপ্লয় করার পরে আর শিখতে পারে না। আপনি এটির সাথে যতই কথা বলুন না কেন, এটি শক্তিশালী হবে না, পরবর্তী কথোপকথনেও এটি একই মডেল থাকবে। কনটেক্সট উইন্ডোও সহ্য করতে পারে না; সে বলেছে, কোডেক্স ব্যবহার করে প্রায় বিশ মিনিটের বেশি সময় কাজ করলেই এটিকে সংকুচিত করতে হয়।

দ্বিতীয়ত, ধারাবাহিকভাবে সূক্ষ্ম সমন্বয় করে পূরণ করার চেষ্টা করলে আপনি দেখতে পাবেন যে এটি অত্যন্ত অকার্যকর এবং দুর্ভাগ্যজনক ভুলে যাওয়ার সমস্যা সৃষ্টি করে, যেখানে নতুনটি শেখা হলে পুরানোটি ভুলে যায়।

সুতরাং গত কয়েক বছর ধরে শিল্পটি যা বেশিরভাগই Transformer-এর উপর করেছে, তা হল এটিকে সস্তা করা, খুব কম কেউ এটিকে আসলে শক্তিশালী করেছে।

কিন্তু টুয়োরেক যা প্রকৃতপক্ষে চায়, তা আসলে আর্কিটেকচারের মধ্যে নেই।

তিনি চান এমন মডেল যা টেস্ট টাইমেও শিখতে পারে, যা ব্যবহারকারীর ইন্টারঅ্যাকশন এবং ব্যবহারকারীর ডেটা থেকে চলতে থাকে। আর্কিটেকচার পরিবর্তন শুধুমাত্র সেই জিনিসের দিকে যাওয়ার একটি মাধ্যম।

এই কথাগুলো শিল্পের কেউই বুঝে না। কিন্তু এত বছর পার হয়ে যাওয়ার পরও, কেন ট্রান্সফরমার এখনও স্থিরভাবে দাঁড়িয়ে আছে?

পিছনের কারণটি এতটাই সহজ যে এটা হাস্যকর বলে মনে হচ্ছে—এটি প্রায় কখনও চেষ্টা করা হয়নি।

OpenAI-এ সাত বছর ধরে, মূল আর্কিটেকচার প্রতিস্থাপনের জন্য প্রকৃতপক্ষে শুধুমাত্র তিন থেকে চারবার গুরুতরভাবে চেষ্টা করা হয়েছিল।

প্রক্রিয়াটি এরকম।

গবেষক প্রথমে একটি ছোট পরীক্ষা লিখেন, তারপর কমপক্ষে তিন মাস চালান। ফলাফল ভালো দেখলেই তারা স্কেল আপ করার সাহস করেন।

এবং যা বলা হয় প্রসারিত করা, তা হলো আপনাকে প্রায় দশজন জীবন-মৃত্যুর ক্ষমতা বহনকারীকে বুঝিয়ে বলতে হবে, এবং এই দশজন আবার তিন থেকে ছয় মাস আপনার অন্তহীন গর্তে বিনিয়োগ করবে।

শেষ পর্যন্ত বা তো ট্রান্সফরমার দ্বারা আগে থেকেই বরফের বলে পরিণত হওয়া সেই গতিশক্তি দ্বারা চূর্ণবিচূর্ণ হয়ে যাবে, নয়তো কিছুটা শোষিত হয়ে এর একটি স্ক্রু হয়ে যাবে।

সাত বছর, তিন বা চারবার। এটিই বিশ্বের সবচেয়ে শক্তিশালী এআই প্রযোজনা প্রতিষ্ঠানের আর্কিটেকচার উদ্ভাবনের সম্পূর্ণ ক্ষমতা।

"জারে, এই ক্ষমতা পোড়াতে নিয়ে যাও"

সে নিজেই OpenAI-এ একই ধরনের বন্ধ অবস্থায় আটকে গিয়েছিল। এবং এটিকে খুলে দিয়েছিল একটি বাক্য।

সেই অর্ধেক মৃত পরীক্ষাগুলি কিছুটা "জীবনের লক্ষণ" প্রদর্শন করেছিল। এটি ভালো বলা যায় না, কিন্তু অন্তত একটি শুরু হয়েছিল।

এই সময়ই, পরে ওপেনএআই-এর প্রধান বিজ্ঞানী হয়ে ওঠা জাকুব প্যাচোকি তাকে খুঁজে পান।

"জারে, এই সব GPU তোমার জন্য, দেখো তুমি তোমার ফলাফলকে আরও বড় এবং আরও শক্তিশালী করতে পারো কিনা।"

"এখন তোমার হাতে এই GPUগুলো আছে।" এই বাক্যটি তিনি পুনরাবৃত্তি করলেন, যখন o1-এর কোনো নাম ছিল না

এই বাক্যটি তাকে একটি প্যারাডক্স থেকে উদ্ধার করেছিল—

আপনাকে প্রথমে ফলাফল দেখাতে হবে, তারপর才 ক্যালকুলেশন পাওয়ারের দাবি করতে পারবেন।
কিন্তু আপনাকে আগেই সেই ক্ষমতা থাকতে হবে, তাহলেই ফলাফল পাবেন।

টুয়োরেক বলেন, বেশিরভাগ অগ্রগামী দিক এই প্যারাডক্সে আটকে আছে। ল্যাবে ক্যালকুলেশন শক্তির জন্য যে গোপন যুদ্ধ চলছে, তা শেষপর্যন্ত একটি বাইরের পথ খোঁজা।

এবং রপ্তানি, কখনও কখনও শীর্ষ পরিচালনা দলের একটি পয়েন্ট Confidence.

যদি কেউ উপর থেকে বলে যে, আমি চাই তুমি একটি ভালো ক্ষমতা কোটা পাও যাতে তুমি এটাকে ভালোভাবে চালাতে পারো। এটাই যথেষ্ট।

একবার দরজা খুলে গেলে, তারপর থামানো যায় না।

এই নোড থেকে শুরু করে রিইনফোর্সমেন্ট লার্নিং কয়েকটি ক্রম পার করেছে।

তারপর o1-এর বহির্গমন, যে পথটি অসংখ্য মানুষ মৃত্যুদণ্ড দিয়েছিল, সেটি তিনি কার্যকর করে তুলেছেন।

১০০,০০০ ডলার, একজন বিশেষজ্ঞের মতো

এবার সে আর কারও কথা অপেক্ষা করবে না।

সম্পূর্ণ চেইনের সবচেয়ে বেশি খরচ হয় যখন বিমূর্ত ধারণাগুলিকে বাস্তবে চলমান কোডে রূপান্তরিত করা হয়। এবং এটিই বর্তমানে Agent-দের সবচেয়ে ভালোভাবে করা কাজ।

উদাহরণস্বরূপ, কোর অটোমেশন এই পদ্ধতি ব্যবহার করে জিপিইউয়ের কোর কাটিয়েছিল।

বিশেষভাবে, তারা একটি QR বিশ্লেষণ কোরকে প্রোগ্রামিং এজেন্টের দিকে পাঠিয়ে চার সপ্তাহ ধরে চালিয়েছিল, প্রায় দশ হাজার ডলারের কল খরচ ব্যয় করে, এবং শেষপর্যন্ত এই কোরের গতি মূল গতির ষাটগুণে বাড়িয়েছিল।

এটি একটি বেসমেন্ট পারফরম্যান্স ইঞ্জিনিয়ারিংয়ের কাজ, যেখানে একটি ম্যাট্রিক্স গণনাকে গ্রাফিক্স কার্ডে কিভাবে দ্রুত চালানো যায় তা নিয়ে কাজ করা হয়, এবং সাধারণত খুব কম বিশেষজ্ঞ একটি লাইন করে হাতে হাতে টিউন করেন।

এবং এমন বিশেষজ্ঞ বিশ্বজুড়ে কয়েকজন মাত্র আছেন।

এখন দশ হাজার ডলার দিয়েই একটি পাওয়া যায়। এটির জন্য কোনো প্রয়োজন নেই প্রতিশ্রুতি দেওয়ার বা তিন থেকে ছয় মাস অপেক্ষা করার।

সাত বছর ধরে আটকে থাকা সেই প্রাচীরটি এখন ভেঙে পড়ল।

তারপর আমরা আর কী করতে পারি?

সবচেয়ে কঠিন আর্কিটেকচারও যখন ঢিলে হয়ে গেল, তখন ড্রাইভিং হাতে রাখা ডিরেকশন হাতে কয়েকজনেরই থাকবে না।

সাক্ষাতকারের শেষে, হোস্ট এটিকে স্পষ্টভাবে উত্থাপন করেন এবং জিজ্ঞাসা করেন যে যখন এই দিনটি আসবে, তখন মানুষের কী করার থাকবে।

এর জন্য টুরেক দুটি চিত্র বর্ণনা করেছেন।

প্রথমটি প্রাচীন গ্রিস।

তারা মাঠে মিলে একদিন ধীরে ধীরে দর্শন নিয়ে কথা বলে, তারপর ব্যায়াম করতে যায়, জায়েত খায় এবং উইন পান করে।

সে নিজেই এটি বর্ণনা করতে শেষ করে হেসে ফেলল, স্বীকার করল যে এটি সম্ভবত শুধু তার নিজের ইচ্ছাকে প্রতিফলিত করছে।

"আমরা ময়দানে দেখা করি, তারপর কথা বলি।" তিনি এই কথাগুলো ব্যবহার করেছিলেন এজিআই-এর পরের মানুষের দৈনন্দিন জীবন বর্ণনা করতে, আর শেষে নিজেই হেসে উঠলেন

দ্বিতীয়টি হাইস্কুল, বা কলেজ।

তিনি মনে করেন মানুষকে প্রতিটি দিনের জন্য 'শ্রেষ্ঠত্ব' এর প্রতি আকাঙ্ক্ষা বজায় রাখা উচিত। নতুন জিনিস শেখার জন্য লালসা বজায় রাখুন, শরীর এবং মস্তিষ্ককে মৃত্যুর পর্যন্ত প্রশিক্ষণ দিন।

এটি একটু পেশাদার ক্রীড়ার মতো, যেখানে রক্ত ও ঘাম ফেলার কোনো আর্থিক কারণ নেই, কিন্তু মানুষের অন্তরের গর্ব হলো যে একটা জিনিস—যার নাম 'মহানতা'—এর দিকে হাত বাড়ানো।

আমাদের এটি করার জন্য বিভিন্ন উপায় খুঁজে বার করতে হবে।

কারণ পরবর্তী বিশ্বে, এমন কোনো জিনিস থাকবে না যেখানে "তুমি এটি করো না, তাহলে এই বিশ্বটি ভেঙে পড়বে।" বিশ্বটি আমাদের ইতিমধ্যে নির্মিত অবকাঠামোর উপর নিজেই চলতে থাকবে।

"আমাদের সবসময় শিখতে হবে।" তিনি এটিকে একটি বিনোদনের পরিবর্তে একটি দায়িত্ব হিসাবে বললেন।

তারপর সে শান্তভাবে তার কার্ডগুলি খুলে দিল।

আমাদের কাজ করতে হবে, এটাই এই বিশ্বকে চালানোর একমাত্র উপায়। এই ধারণাটি বাস্তবসম্মত হতে হবে এমন কোনো দরকার নেই।

"অনেকের আত্মমূল্যায়ন কাজ থেকে আসে।" তিনি স্বীকার করেছেন যে এটি সবচেয়ে কঠিন পদক্ষেপ, যা তার নিজের জন্যও সত্য।

তিনি নিজেও এই তালিকায় রয়েছেন

সত্যি বলতে কি, পুরো প্রেজেন্টেশন শুনে সবচেয়ে ভয় পাওয়ার কথা হল দুই বছর না।

সে নিজেই জানে, সে এই গণনার জন্য গ্যাস চাপছে।

যে জিনিসটি সে তৈরি করতে যাচ্ছে, তার সংজ্ঞা হলো এটি নিজে শিখবে এবং নিজেই শক্তিশালী হবে, আর কারও পাশে বসে খাওয়ানোর দরকার হবে না। এটি তৈরি হলে, সেই পঞ্চাশজনের পদবী আরও দ্রুত অদৃশ্য হয়ে যাবে।

এবং তিনি আরও একটি কঠোর বিষয় উল্লেখ করেছেন, প্রথমেই তিনি নিজেকে দণ্ডিত করবেন।

যদি তুমি সবচেয়ে ভয়ঙ্কর ক্যালকুলেশন রিজার্ভ এবং সবচেয়ে বড় ল্যাব না হও, তাহলে তুমি খুব খারাপভাবে মরে যাবে।

এই কথাগুলি বলার সময়, কোর অটোমেশন মাত্র চার মাস পুরনো এবং এর বইয়ে আয় শূন্য।

সে বলেছে, সে যখন ব্যবসা শুরু করেছিল, প্রায় প্রতি সপ্তাহেই কেউ না কেউ এসে বলত, জারে, খুব দেরি হয়ে গেছে, সেই আকাশস্পর্শী সিঁড়িটা ইতিমধ্যেই তুলে নেওয়া হয়ে গেছে।

তার প্রতিক্রিয়া শুধু একটি নিজস্ব মন্ত্র।

আমাদের কোম্পানির মানুষ সবচেয়ে বেশি বলে, সবকিছুই skill issue।

শেষ পর্যন্ত ব্যর্থ হলে পরিস্থিতির দোষ দেবেন না, আপনার নিজের কৌশলের অভাবই দোষী।

এই কথাটি এই সাক্ষাত্কারের মধ্যে বললে, একটু সেই রকম মনে হয়।

আবার শুরুর সেই জনপ্রিয় মেম টির দিকে ফিরে তাকান।

আমাদের শেষ কয়েক দিন কাজ করার সুযোগ বাকি আছে, এখনই যা পারছেন তা করুন।

সেই সুরে আসলে উত্তেজনা নাকি দুঃখ? আমরা জানি না।

কারণ এটি বলার জন্য ব্যক্তির জন্য, সেই দুটি অনুভূতি মূলত একই বিষয়।

টুয়োরেক বলেছেন, এই লাইনের গতি অত্যন্ত ক্লান্তিকর, এত বছর ধরে এটি করে আসছি, এটি সত্যিই খুব খুব ক্লান্তিকর।