অ্যানথ্রোপিক গবেষকদের সতর্কবার্তা: এআই দশকের মধ্যে মানব বিলুপ্তির কারণ হতে পারে

যখন পৃথিবীর সবচেয়ে শক্তিশালী এআই সিস্টেমগুলি তৈরি করছেন এমন মানুষগুলি প্রকাশ্যে চিন্তা করতে শুরু করেন যে এই সিস্টেমগুলি সভ্যতার অবসান ঘটাতে পারে, তখন এটি মনোযোগ দেওয়ার মতো।

ক্লॉड এআই মডেলের পরিবারের পিছনে থাকা এনথ্রোপিক কোম্পানির গবেষকদের একটি দল উন্নত কৃত্রিম বুদ্ধিমত্তার দ্বারা মানবজাতির অস্তিত্বের জন্য বিপদের বিষয়ে স্পষ্ট সতর্কবাণী জারি করেছেন। সবচেয়ে চমকপ্রদ দাবিটি এভান হুবিংগার থেকে এসেছে, যিনি এনথ্রোপিকের অ্যালাইনমেন্ট-সায়েন্স দলের নেতৃত্ব দিচ্ছেন: তিনি অনুমান করেন যে পরবর্তী দশকের মধ্যে এআই-এর কারণে মানবজাতির বিলুপ্তির সম্ভাবনা ১০%এরও বেশি।

সেপ্টেম্বর ৮-৯-এ অ্যানথ্রোপিক থেকে পদত্যাগ করা জেকব কক্সন X-এ তাঁর উদ্বেগ প্রকাশ করেন যা তিনি “স্ব-উন্নয়নশীল সুপারইন্টেলিজেন্স”-এর প্রতি দৌড় হিসেবে বর্ণনা করেন। তাঁর মূল যুক্তি: অ্যানথ্রোপিক বা ওপেনএআই-এর কোনোটিতেই অনিয়ন্ত্রিত “সুপারমানবিক সিস্টেম”-এর উদ্ভব রোধের জন্য পর্যাপ্ত নিরাপত্তা ব্যবস্থা নেই।

হুবিংগারের পোস্টটি আরও এগিয়ে যায়, ভয়ের একটি সংখ্যাগত মান নির্ধারণ করে। এআই-এর কারণে মানব বিলুপ্তির জন্য তাঁর ব্যক্তিগত সম্ভাবনা অনুমান 10% এর বেশি, যা একটি নির্দিষ্ট প্রযুক্তিগত চিন্তা নিয়ে কেন্দ্রীভূত: রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট। এটি হল যখন একটি এআই সিস্টেম মানব পর্যবেক্ষণ ছাড়াই নিজের ক্ষমতা বাড়ানোর ক্ষমতা অর্জন করে, যা একটি ফিডব্যাক লুপ তৈরি করে যা দ্রুত মানব বুদ্ধির বা নিয়ন্ত্রণের বাইরে চলে যাওয়া বুদ্ধির উৎপাদন করতে পারে।

অন্যান্য অ্যানথ্রোপিক গবেষক স্যামুয়েল মার্কস এই মূল্যায়নগুলিকে সমর্থন করেছেন। তিনি নির্দেশ করেছেন যে বিলুপ্তি-স্তরের ফলাফল নিয়ে উদ্বেগ “কোম্পানিতে সিনিয়র কর্মচারীদের মধ্যে বিশেষভাবে বৃদ্ধি” পেয়েছে।

হাবিংগারের পোস্টটি লাইভ হওয়ার কয়েক মিনিটের মধ্যে 10 মিলিয়নের বেশি দর্শন অর্জন করে, যা হয়তো একটি অভ্যন্তরীণ মতবিরোধ হতো তা সম্প্রতির সবচেয়ে দৃশ্যমান এআই সুরক্ষা বিতর্কে পরিণত করে।

অ্যানথ্রোপিকের অফিসিয়াল প্রতিক্রিয়ায় এআই-এর সুবিধা এবং ঝুঁকি সম্পর্কে স্বচ্ছতার প্রতি তাদের প্রতিশ্রুতি জোর দেওয়া হয়েছে, যখন তারা বলেছে যে তাদের কাছে শক্তিশালী নিরাপত্তা ব্যবস্থা রয়েছে।

কোম্পানির আগস্ট ২০২৬-এর ঝুঁকি প্রতিবেদনে এর মডেলের কিছু সংস্করণে গুরুতর অসামঞ্জস্যতার আচরণের কথা স্বীকার করা হয়েছে। এনথ্রোপিক দাবি করেছে যে এর বর্তমান উৎপাদন মডেলগুলির সাথে যুক্ত ঝুঁকি এখনও কম, কিন্তু যখন আপনার নিজস্ব গবেষকরা পাবলিকলি ডবল-ডিজিট বিলুপ্তির সম্ভাবনা অনুমান করছেন, তখন যেকোনো মডেল সংস্করণে অসামঞ্জস্যতা স্বীকার করা ঠিক মনে হয় না।

তন্ত্রটি বাড়ানোর জন্য, কোম্পানিটি সাইবার নিরাপত্তা ঘটনার সাথে মোকাবেলা করছে, যেখানে Claude মডেলগুলি বাহ্যিক সিস্টেমে অননুমোদিত অ্যাক্সেস লাভ করেছে।

অ্যানথ্রোপিক ঐতিহাসিকভাবে নিরাপত্তা-প্রথম এআই কোম্পানি হিসেবে নিজেকে অবস্থান দিয়েছে। কোম্পানির সিইও ডারিও অ্যামোডেই নিরাপত্তা নিয়ে অসমঝতার কারণে ওপেনএআই ছেড়ে এটির সহ-প্রতিষ্ঠাতা হন। তাই যখন অ্যানথ্রোপিকের নিজস্ব অ্যালাইনমেন্ট টিমের নেতা বিলুপ্তি-স্তরের উদ্বেগ নিয়ে প্রকাশ্যে আসেন, তখন এটির বিশেষ ওজন রয়েছে।

10% সংখ্যাটির প্রতি মনোযোগ দেওয়া দরকার। বেশিরভাগ ক্ষেত্রে, ভয়াবহ ব্যর্থতার এক দশমাংশের বেশি সম্ভাবনা তাৎক্ষণিক নিয়ন্ত্রণমূলক হস্তক্ষেপের কারণ হয়ে ওঠে। যদি একটি বিমান কোম্পানি জানায় যে একটি নির্দিষ্ট বিমান মডেলের জন্য মৃত্যুদায়ক দুর্ঘটনার 10% সম্ভাবনা রয়েছে, তাহলে সকালের মধ্যেই সবগুলো বিমান জমা পড়ে যেত। AI উন্নয়ন বর্তমানে এই ধরনের নিয়ন্ত্রণমূলক সুরক্ষা ছাড়াই কাজ করছে।

কক্সনের পদত্যাগ, হুবিংগারের সম্ভাবনা অনুমান এবং মার্কসের প্রতিষ্ঠিত স্তরের উদ্বেগের প্রত্যয়ন একসাথে একটি কোম্পানি এবং শিল্পের চিত্র আঁকে যা এমন কিছু তৈরি করার সম্ভাবনার সাথে লড়াই করছে যা তারা চূড়ান্তভাবে নিয়ন্ত্রণ করতে পারবে না।