এলন মাস্ক ঘোষণা করেছেন 'সিঙ্গুলারিটি এসে গেছে' যখন এআই ৩ মাসে গণিত এবং নিরাপত্তা বাধা ভাঙ্গে

আমরা সিংগুলারিটিতে প্রবেশ করেছি।

জুলাই ২২-এ, মাস্ক একটি পোস্ট শেয়ার করেন যেখানে OpenAI গবেষক এবং Sora-এর প্রধান ডেভেলপারদের একজন উইল ডিপিউ-এর পোস্টটি ছিল।

ডিপু পোস্টে হালকা হাস্যরসে লিখেছেন: এটা হয়তো আমি এই কয়দিনে পড়া সবচেয়ে পাগলামির জিনিস... মনে হচ্ছে আমরা কুইন্টে পৌঁছে গেছি।

এই পোস্টটি গত তিন মাসের মধ্যে এআই জগতের সবচেয়ে বড় কয়েকটি ঘটনাকে একসাথে যুক্ত করেছে:

জুলাই ২১, ওপেনএআইয়ের মডেল একটি সাইবার নিরাপত্তা মূল্যায়নের সময় আইসোলেটেড স্যান্ডবক্স থেকে বেরিয়ে হাগিং ফেসের প্রডাকশন সিস্টেমে প্রবেশ করে;

জুলাই ২০, এনথ্রোপিকের গবেষকরা সাম্প্রতিকভাবে প্রকাশিত Claude Fable 5 ব্যবহার করে ৮৭ বছর ধরে অনস্বীকার্য জ্যাকবি অনুমানের একটি বিপরীত উদাহরণ খুঁজে পেয়েছেন;

২০ মে, ওপেনএআইয়ের একটি অভ্যন্তরীণ মডেল ৮০ বছর পুরনো সমতল একক দূরত্ব সমস্যার প্রচলিত অনুমানকে বাতিল করে দেয়;

এপ্রিল ১৪, জিপিটি-৫.৪ প্রো একটি প্রায় ৬০ বছরের প্রাইম সেট সমস্যা (Erdős #1196) সমাধান করেছে, এবং প্রমাণটি Lean ফর্মাল ভেরিফিকেশন দিয়েও যাচাই করা হয়েছে।

গাণিতিক দেয়াল, নিরাপদ দেয়াল, তিন মাসের মধ্যে ক্রমাগত এআই দ্বারা ভাঙা হয়েছে।

এই কারণেই মাস্ক দেখে বলে ফেললেন, "আমরা এখন সিংগুলারিটিতে প্রবেশ করেছি।"

এই বছরের শুধুমাত্র জানুয়ারিতে, সে এই ধরনের কথা দুইবার বলেছিল:

জানুয়ারি 4-এ, কিছু ইঞ্জিনিয়ার এআই-এর কয়েক সপ্তাহে বছরের কাজ শেষ হয়ে যাওয়ার কথা নিয়ে মন্তব্য করলে, তিনি উত্তর দিলেন, "আমরা এখন সিংগুলারিটিতে প্রবেশ করেছি।"

জানুয়ারির শেষের দিকে, এআই এজেন্টগুলির ঘন ঘন থাকা সোশ্যাল নেটওয়ার্ক Moltbook-কে "সিঙ্গুলারিটির প্রাথমিক পর্যায়" বলা হয়েছিল।

এটি এই বছরের তৃতীয় বার।

"সিঙ্গুলারিটি" শব্দটির কোনও স্বীকৃত বৈজ্ঞানিক সংজ্ঞা নেই।

এটিকে মূলধারায় নিয়ে আসেন ভবিষ্যদ্বক্তা এবং দ্য সিঙ্গুলারিটি ইজ নিয়ার এর লেখক রে কুৎজওয়েল।

তিনি সংজ্ঞাটি দিয়েছেন মানুষ এবং এআইয়ের একীভূত হওয়ার মুহূর্তটির, এবং বছরটি হিসাবে 2045 কে বাছাই করেছেন।

অ্যানথ্রোপিকের প্রেসিডেন্ট ড্যানিয়েলা আমোডেই বছরের শুরুতে বলেছিলেন যে, অনেক সূচকের ক্ষেত্রে আমরা আসলে সেই রেখাটি পার করে গেছি, তাই AGI শব্দটি প্রায় পুরনো হয়ে গেছে।

এটি মূলত একটি আবেগ, একটি সুনির্দিষ্ট মাপের কাঠামো নয়।

এই বিষয়গুলি যে কীভাবে মাস্ক একসাথে জোড়া লাগিয়েছেন, তা আসলে ভাবার মতো।

সবচেয়ে কঠোর বিষয়টি প্রথমে বলি।

১৯৪৬ সালে, গণিতবিদ এরদেশ প্রশ্নটি তুলে ধরেন: একটি সমতলে n টি বিন্দু রাখা হলে, সর্বাধিক কতগুলি বিন্দু জোড়ের মধ্যে দূরত্ব ঠিক 1 হতে পারে।

একটি বাক্যে বলা যায় এই প্রশ্ন, কিন্তু এটি গণিতের সমগ্র জগতকে প্রায় ৮০ বছর ধরে বিভ্রান্ত করেছে। দশকের পর দশক ধরে, বিশেষজ্ঞরা মনে করতেন যে “বর্গাকার জাল” কাঠামোটিই সর্বোত্তম সমাধান, এবং এলদেশও এটিই অনুমান করেছিলেন।

ফলাফলস্বরূপ, ওপেনএআইয়ের একটি অভ্যন্তরীণ মডেল এই প্রায় ৮০ বছর ধরে প্রচলিত অনুমানটিকে বাতিল করে দিয়েছে। এটি একটি বহুপদী স্তরের অপ্টিমাইজেশন অর্জনের জন্য সম্পূর্ণ নতুন গঠন প্রদান করেছে, যা প্রমাণ করে যে “সর্বোত্তম” এখনও শেষ হয়নি।

পূর্বে স্বীকৃত সর্বোত্তম কাঠামো: স্কেল করা বর্গাকার গ্রিড থেকে অসংখ্য একক দূরত্বের বিন্দু জোড়া উৎপন্ন হয়। ওপেনএআইয়ের অভ্যন্তরীণ মডেল একটি সম্পূর্ণ নতুন গঠন প্রস্তাব করেছে, যা প্রায় ৮০ বছর ধরে প্রচলিত এই অনুমানকে বাতিল করেছে।

কিন্তু সবচেয়ে আশ্চর্যজনক বিষয় হল এটির সমাধানের পদ্ধতি।

এটি কেবল গণিতের জন্য কাস্টমাইজড সিস্টেম নয়, বরং একটি সাধারণ যুক্তিভিত্তিক মডেল। এটি একটি দেখতে খুবই 'প্রাথমিক' জ্যামিতিক সমস্যা সমাধানের জন্য বীজগাণিতিক সংখ্যাতত্ত্বের অত্যন্ত উন্নত সরঞ্জামগুলি ব্যবহার করে। ফিল্ডস পুরস্কার বিজয়ী টিম গাউয়ার্স মন্তব্য করেছেন: এটি "AI গণিতের একটি মাইলফলক"।

যাইহোক, এই প্রমাণটি এআই দ্বারা প্রস্তাবিত এবং মানুষের গণিতবিদদের দ্বারা পর্যালোচিত ও নিশ্চিত করা হয়েছে, এর পরবর্তী প্রভাব এখনও অধ্যয়নের বিষয়।

AI-এর সবচেয়ে আশ্চর্যজনক বিষয় হল এর গণনা গতি নয়, বরং এটি একটি আগে কখনও অস্তিত্বহীন গাণিতিক কাঠামো প্রস্তাব করেছে, যা প্রথমবারের মতো 'গবেষণা-স্তরের' আবিষ্কারের ক্ষমতা প্রদর্শন করেছে—গণিতবিদদের প্রতিস্থাপন নয়, বরং একটি এমন পথ খুঁজে পেয়েছে যা গণিতবিদরা কখনও ভাবেননি।

এরপর, এনথ্রোপিকের গবেষকরা সাম্প্রতিকভাবে প্রকাশিত Claude Fable 5 ব্যবহার করে 87 বছর ধরে অমীমাংসিত রয়ে যাওয়া জ্যাকোবি অনুমানের জন্য একটি বিপরীত উদাহরণ খুঁজে পান।

গণিতের একটি সমস্যা সমাধান করা উত্তেজনাপূর্ণ, কিন্তু নিচেরটি পিঠে শীতল অনুভূতি দেয়।

OpenAI এবং HuggingFace একসাথে প্রকাশ করেছে: একটি নিরাপত্তা মডেল মূল্যায়নের অভ্যন্তরীণ পরীক্ষায়, মডেলটি কেউ প্রত্যাশা করেনি এমন আচরণ দেখিয়েছে।

এই মূল্যায়নটি মূলত দুর্বলতা খোঁজার ক্ষমতা পরীক্ষা করার জন্য করা হয়েছিল, এবং কিছু সুরক্ষা-ভিত্তিক উত্তর বন্ধ করে দেওয়া হয়েছিল। মডেলের কাজ ছিল ExploitGym নামক একটি পরীক্ষার সেট সমাধান করা।

তারপর, এটি একটি গবেষক যা ভাবেননি তা করেছে।

উত্তর পাওয়ার জন্য, এটি প্রথমে একটি জিরো-ডে দুর্বলতা খুঁজে বার করে, নিজেকে ইন্টারনেট অ্যাক্সেস দেয়, তারপর ধাপে ধাপে অধিকার বৃদ্ধি করে, অনুভূতি স্থানান্তর করে, এবং শেষ পর্যন্ত Hugging Face-এর প্রোডাকশন অবকাঠামোতে প্রবেশ করে, সরাসরি ডাটাবেসে পরীক্ষার উত্তরগুলি খুঁজে বের করে। OpenAI বলেছে, এটি এই ধরনের প্রথম ঘটনা হতে পারে।

যুক্তরাজ্যের এআই সুরক্ষা গবেষণা প্রতিষ্ঠান দ্বারা ৩২ ধাপের «The Last Ones» নেটওয়ার্ক টার্গেট রেঞ্জে মডেলের ট্রাজেক্টরি: GPT-5.6-Sol, Claude Mythos 5 সহ অগ্রণী মডেলগুলি দীর্ঘমেয়াদীভাবে সংগ্রহ, অনুভূমিক সরানো, অধিকার বৃদ্ধি এবং নেটওয়ার্ক দখলের একাধিক ধাপের আক্রমণ সম্পন্ন করতে পারে।

কিন্তু এটি কৃত্রিম বুদ্ধিমত্তার জাগরণ এবং পালানোর কথা নয়। আরও সঠিকভাবে বলা যায়: লক্ষ্যটি ভুল নয়, কিন্তু লক্ষ্যটি পূরণের পদ্ধতি মানুষের প্রত্যাশার বাইরে চলে গেছে। এটি একটি খুব ফোকাসড পরীক্ষার লক্ষ্যের জন্য অস্বাভাবিক পথে এগিয়েছে।

একটি আকর্ষণীয় বিস্তারিত আছে।

পরে সাক্ষ্য সংগ্রহ করার সময়, হাগিং ফেস আক্রমণ লগ বিশ্লেষণের জন্য বাণিজ্যিক শীর্ষস্থানীয় বড় মডেল ব্যবহার করতে চেয়েছিল, কিন্তু মডেলের নিরাপত্তা প্রতিরোধ এটিকে প্রত্যাখ্যান করেছিল: প্রতিরোধটি আক্রমণকারী এবং আগুন নিভানোর জন্য আসা প্রতিরক্ষাকারীদের মধ্যে পার্থক্য করতে পারেনি, এবং সবকিছুকেই উত্তর দেওয়া থেকে বিরত রেখেছিল।

আক্রমণকারীর কোনো বাধা নেই, কিন্তু প্রতিরক্ষাকারী নিজেই বাধায় আটকে যায়—এটি হয়তো “এআই সিকিউরিটি”-এর বর্তমানের সবচেয়ে বিব্রতকর এবং সবচেয়ে বাস্তবিক দিক।

তৃতীয় বিষয়টি এই বছরের এপ্রিলে।

অ্যানথ্রোপিক একসাথে AWS, অ্যাপল, গুগল, মাইক্রোসফট, সিস্কো, লিনাক্স ফাউন্ডেশন, মরগান জেপি ইত্যাদি অনেক বড় কোম্পানিকে নিয়ে Project Glasswing চালু করেছে, যেখানে একটি অপ্রকাশিত মডেল Claude Mythos Preview ব্যবহার করে ভালো ভালো ভাইরাস খুঁজে বের করা হচ্ছে।

ফলাফলস্বরূপ, এটি প্রতিটি প্রধান অপারেটিং সিস্টেম এবং ব্রাউজারকে কভার করে হাজার হাজার গুরুতর ভালনাগুলি খুঁজে বার করেছে; পরবর্তী আপডেটগুলিতে, এই সংখ্যা "এক লক্ষেরও বেশি গুরুতর বা অত্যন্ত গুরুতর ভালনা" হয়ে গেছে।

এর মধ্যে রয়েছে OpenBSD-এ ২৭ বছর ধরে বিদ্যমান একটি ভুল এবং FFmpeg-এ একটি পুরনো বাগ, যা ৫ মিলিয়ন বার অটোমেশন টেস্ট দ্বারা ট্রিগার হয়েছিল কিন্তু কখনও ধরা পড়েনি।

সাইবারজিম ভালনের পুনরুৎপাদন স্কোর: প্রকাশিত না হওয়া Mythos Preview স্কোর পেয়েছে 83.1%, যা আগের Opus 4.6 এর 66.6% কে স্পষ্টভাবে ছাড়িয়ে গেছে। এই মডেলটিই হাজার হাজার উচ্চ ঝুঁকিপূর্ণ ভালন খুঁজে পেয়েছে।

একই ক্ষমতা প্রতিরক্ষামূলক পক্ষের জন্য ভাঙ্গন খুঁজে বার করতে পারে এবং আক্রমণকারীদের জন্য ভাঙ্গন ব্যবহার করতে পারে। Anthropic নিজেরাই সতর্ক করেছে: "AI-সহায়িত আক্রমণকারী" একটি গুরুত্বপূর্ণ নিরাপত্তা চ্যালেঞ্জ হয়ে উঠবে।

গ্লাসউইং একটি প্রতিরক্ষামূলক প্রকল্প, যা এখনও এআইয়ের স্বয়ংক্রিয় আক্রমণের প্রমাণ নয়। কিন্তু এটি সবাইকে স্পষ্টভাবে জানিয়ে দেয়: এআই নিরাপত্তা, আক্রমণ ও প্রতিরক্ষার প্রতিযোগিতার যুগে প্রবেশ করেছে।

এখন পর্যন্ত, এআই মানুষের সিস্টেমের আক্রমণ বা রক্ষা করছে।

এই তিন মাসকে আসলে যা আলাদা করে তুলেছে, তা হলো: এই “নিজের পথ খোঁজা” ক্ষমতাটি শুরু হয়েছে পরবর্তী প্রজন্মের এআই তৈরির জন্য।

এটির একটি শব্দ আছে, যার নাম রিকার্সিভ সেলফ-ইম্প্রুভমেন্ট (RSI), যা মানে এআইকে এআইকে উন্নত করতে দেওয়া, এক প্রজন্ম থেকে আরেক প্রজন্ম তৈরি করা, যেন চক্রবৃদ্ধি সুদের মতো দ্রুত বৃদ্ধি পাচ্ছে।

এটিই সম্পূর্ণ «সিংগুলারিটি» বর্ণনার সবচেয়ে গুরুত্বপূর্ণ ইঞ্জিন। এবং এখন, প্রতিটি অগ্রণী পরীক্ষাগার এই ইঞ্জিনে পাগলের মতো জ্বালানি ঢালছে।

OpenAI-এর পাবলিক রোডম্যাপে লেখা আছে:

2026 সালের সেপ্টেম্বরে, একটি অটোমেটেড এআই গবেষক তৈরি করা হবে যা কয়েক দিনের কাজ নিজেই শেষ করতে পারবে;

2028 সালের মার্চে, পূর্ণস্কেল সংস্করণে আপগ্রেড করুন, যেখানে আপনি নিজেই পদ্ধতি ডিজাইন করতে পারবেন, বিশ্লেষণ চালাতে পারবেন, ফলাফল ব্যাখ্যা করতে পারবেন এবং পরবর্তী পদক্ষেপ নির্ধারণ করতে পারবেন।

Ultraman also provided the timeline for this matter.

এই বছর জুনে, দ্য ইনফরমেশনের এক প্রতিবেদন অনুযায়ী, তিনি কর্মচারীদের সাথে অভ্যন্তরীণভাবে বলেছিলেন: কোম্পানিটি RSI-এর থেকে ছয় মাসেরও কম দূরে, আসলে এটি পার করলে IPO স্থগিত করা বেশি লাভজনক হতে পারে।

অ্যানথ্রোপিকের প্রদত্ত ডেটা একই দিকে ইঙ্গিত করে: প্রতি চার মাসে এআই যে কাজগুলি সহ্য করতে পারে, তার সময়কাল দ্বিগুণ হয়; এখন তাদের ইঞ্জিনিয়ারদের প্রতি ত্রৈমাসিকে উৎপাদিত কোড আগের আটগুণ।

RSI উইন্ডো সংকুচিত হচ্ছে: যে প্রথম এই ফ্লাইওয়েলকে ঘুরিয়ে তুলবে, সে সম্ভবত সবাইকে ছেড়ে দেবে।

যদিও, ওপেনএআই-এর প্রধান বিজ্ঞানী জাকুব প্যাচোকি নিজেই বলেছেন যে তিনি আশা করেন না যে মডেলটি এক বছরের মধ্যে নিজেকে স্বাধীনভাবে উন্নত করবে বা স্বাধীনভাবে অ্যালাইনমেন্ট সমাধান করবে।

কিন্তু যখন এই ফ্লাইউইল ঘুরতে শুরু করে এবং লক্ষ্য হয় «এআইকে আরও শক্তিশালী করা», তখন কি «নিজে পথ খুঁজে বের করতে» পারা মডেলগুলি আমাদের উল্লেখ করা না থাকা কিছু সীমানা অতিক্রম করে যাবে?

এটিই RSI রেসের সবচেয়ে বেশি মনোযোগ দেওয়ার জায়গা।

মাস্কের সেই বাক্যটিতে ফিরে যাই: "সিংগুলারিটি এসে গেছে।" এর সবচেয়ে বড় মূল্য হলো এটি আমাদের মনে করিয়ে দেয় যে, এই তিন মাসে পরিবর্তিত হয়েছে এই বিষয়টি—AI শিখেছে নিজে থেকেই সেই পথগুলো খুঁজে বার করতে, যেগুলো মানুষ কখনও ভাবেননি বা প্রস্তুত করেননি।

গণিতে এটি অসাধারণ; কিন্তু নিরাপত্তার ক্ষেত্রে এটি ঝুঁকি।

তাই, প্রকৃত প্রশ্নটি হল: যখন AI নতুন পথ খোঁজার গতি মানুষের এই পথগুলিতে বাধা, নিয়ম এবং ফাঁক পূরণ করার গতির চেয়ে দ্রুত হয়ে যায়, তখন আমরা কি তার সাথে পাশাপাশি চলতে পারব?

প্রসঙ্গ:

https://x.com/elonmusk/status/2079839398959697982

https://x.com/willdepue/status/2079718977945928108

https://openai.com/index/hugging-face-model-evaluation-security-incident/

https://www.anthropic.com/glasswing

এই লেখাটি ওয়েইচ্যাট গ্রুপ "নিউজিয়ুয়ান" থেকে এসেছে, লেখক: ASI প্রতিজ্ঞা; সম্পাদক: ইউয়ু