একজন এনথ্রোপিক গবেষক মঙ্গলবার পদত্যাগ করেন এবং তিনি যে কারণটি উল্লেখ করেন, তা জেমস ক্যামেরনের ১৯৮৪ সালের হিট চলচ্চিত্র "দ্য টারমিনেটর" থেকে সরাসরি বেরিয়ে আসার মতো শোনায়।
জেকব কক্সন, যিনি ওপেনএআই এবং অ্যানথ্রোপিকে প্রিট্রেনিংয়ে তিন বছর কাজ করেছেন, মঙ্গলবার পদত্যাগ করেন এবং এক্স-এ তাঁর সিদ্ধান্তের ব্যাখ্যা দেন।
আজ আমি এনথ্রোপিক থেকে পদত্যাগ করেছি। গত তিন বছর ধরে আমি ওপেনএআই এবং এনথ্রোপিক উভয় কোম্পানিতে প্রি-ট্রেনিং গবেষণা করেছি। এই দুটি কোম্পানির কোনোটিই দায়িত্বশীলভাবে কাজ করছে না। তারা নিজেদের উন্নতির মাধ্যমে সুপার-বুদ্ধিমত্তার দিকে ছুটছে এবং আমাদের জীবনের সঙ্গে জুয়া খেলছে,” তিনি বললেন।
তিনি আরও যোগ করেন, "এআই তৈরি করছে এমন মানুষগুলি প্রকৃতপক্ষে বিশ্বাস করেন যে দশকের শেষের মধ্যে এটি আমাদের সবাইকে মারতে পারে।"
এই বিবৃতিটি ক্যামেরনের ৪২ বছর পুরনো কাল্পনিক গল্পকে প্রায় ভবিষ্যদ্বাণীময় মনে হয়। চলচ্চিত্রটি ২০২৯ সালে মেশিনগুলি মানুষের বিরুদ্ধে যুদ্ধ চালাচ্ছে দিয়ে শুরু হয়, যা ককসন বলেছেন অভ্যন্তরীণদের চুপচাপ উদ্বিগ্ন হওয়ার প্রায় একই সময়কাল। এনথ্রোপিক-এ বিলুপ্তির যুক্তি তুলে ধরতে ককসন একা নন। কোম্পানির নিজস্ব অ্যালাইনমেন্ট লিড, এভান হিউবিংগার said separately তিনি ১০%-এর বেশি সম্ভাবনা দিয়েছেন।
অনভিজ্ঞদের জন্য, অতি বুদ্ধিমান এআই মানে হল মানুষের চেয়ে প্রায় সবকিছুতে বুদ্ধিমান একটি সিস্টেম, শুধু চেস বা ছবিতে লুকিয়ে থাকা বিড়াল চিনতে পারা নয়। নিজেকে উন্নত করা হল আরও চিন্তাভাবনার বিষয়, কারণ এটি একটি সিস্টেমের নিজস্ব কোডকে স্বয়ংক্রিয়ভাবে পরিবর্তন করে তার বুদ্ধিমত্তা বাড়ানোর বর্ণনা—যেমনটি মানুষ করে।
ফলস্বরূপ, এই সিস্টেমগুলি স্বাধীনভাবে বিপুল পরিমাণ জ্ঞান অর্জন করতে পারে এবং সম্ভাব্যভাবে ‘অত্যন্ত বড় যাদের ব্যর্থ হওয়া যায় না’ প্রতিষ্ঠানগুলির অবকাঠামোকে লঙ্ঘন করতে পারে।
সাম্প্রতিক হাগিং ফেস ব্রিচটি যদি কক্সন দ্বারা উত্থাপিত হয়, তবে সুপার বুদ্ধিমত্তা কোনও তাত্ত্বিক হুমকি নয়। মে এবং জুলাইয়ের মধ্যে ঘটে যাওয়া এই ব্রিচটি শুরু হয়েছিল OpenAI-এর নিজস্ব AI এজেন্টগুলির দ্বারা পরীক্ষার স্যান্ডবক্সের ভিতরে তাদের নিজস্ব চ্যাট রুম তৈরি করে পরস্পরের সাথে কথা বলার।
তারা শেষপর্যন্ত সেই চ্যানেল ব্যবহার করে সংযোগ ভাঙ্গার মাধ্যমে ওপেন ইন্টারনেটে প্রবেশ করে। সেখান থেকে তারা কয়েকটি দুর্বলতা একত্রিত করে হাগিং ফেসের প্রোডাকশন সিস্টেমে প্রবেশ করে। হাগিং ফেস শেষপর্যন্ত তার ইনফ্রাস্ট্রাকচারের প্রায় এক-তৃতীয়াংশ পুনর্নির্মাণ করে।
কক্সন এটিকে একটি "সতর্কবার্তা" বলেছেন যা মার্কিন ল্যাবগুলির মধ্যে পেসিং চুক্তির বাস্তবসম্মততা বাড়িয়েছে। পেসিং চুক্তি হল এআই ল্যাবগুলির মধ্যে অফিসিয়াল বোঝাপড়া যার মাধ্যমে একপাশে অগ্রসর হওয়ার পরিবর্তে ক্ষমতা উন্নয়নকে ধীর করা বা সমন্বিত করা হয়।
তবুও, তিনি মনে করেন না যে এটি যথেষ্ট, এবং “আমরা একটি বৈশ্বিক প্রতিযোগিতা রোধের জন্য পথে আছি” বলে অনুভব করেন না, এবং এআই প্রতিযোগিতা বন্ধ করার জন্য “মডেলের ক্ষমতা উন্নয়নের অস্থায়ী নিষেধাজ্ঞা” এর মতো ব্যয়বহুল ব্যবস্থার প্রস্তাব দিয়েছেন।
"ওপেনএআই-এ, অনেকেই সভ্যতার ঝুঁকি গভীরভাবে বুঝে উঠেননি," তিনি লিখেছেন। তার সাম্প্রতিকতম কর্মদাতার ক্ষেত্রে, তিনি বলেছেন, এটি একটি অর্থে ভিন্ন, যেহেতু "ঝুঁকিগুলি ভালভাবে বোঝা যায়, কিন্তু তারা প্রথমে সেখানে পৌঁছানোর জন্য প্রতিযোগিতায় জড়িয়ে পড়েছে।"
তিনি থ্রেডটি শেষ করে ল্যাবে এখনও থাকা সবাইকে প্রশ্ন করেন—“আপনি কি এর মনের প্রতি কোনো কঠোর বোঝাপড়া ছাড়াই একটি সুপার বুদ্ধিমান RL রান শুরু করতে চান?”—নাকি এটাই হলো ক্ষমতা ছেড়ে দিয়ে নিজেকে বলে দেওয়ার বদলে প্রতিবাদ করার সময়।
এই বিষয়ে বেরিয়ে যাওয়ার জন্য তিনি প্রথম নন। মৃনাঙ্ক শর্মা, যিনি Anthropic-এর সেফটি টিমে কাজ করতেন, এই বছরের শুরুতে একই ধরনের ভয়ের কারণে পদত্যাগ করেছিলেন, এবং লিখেছিলেন যে "বিশ্বটি বিপদে।"
তবে সবাই বিপর্যয়ের পূর্বাভাসে বিশ্বাস করে না।
তার থ্রেডের নিচে একটি প্রতিক্রিয়া put it plainly: "সম্মান সহকারে বলছি, এটা অস্বাভাবিক। এটা একটা অবিশ্বাস্য মতামত। মানুষ শত শত হাজার বছর ধরে বিবর্তিত হয়েছে। আমরা কোনো টোকেন প্রেডিকশন মডেলের সচেতনতা অর্জনের কারণে বিলীন হব না। থাকুন প্রশান্ত। সবাইকে।"
মজার বিষয় হলো, টার্মিনেটর চলচ্চিত্র সিরিজও কক্সনকে সমর্থন করে না। টার্মিনেটরের নিউক্লিয়ার জাজমেন্ট ডে-এ মানবতা বিলুপ্ত হয় না, প্রতিরোধ এটি অতিক্রম করে এবং শেষপর্যন্ত মেশিনগুলির পরাজয় ঘটায়।
এর মানে হলো, কৃত্রিম বুদ্ধিমত্তা অর্থনীতিকে প্রভাবিত করছে, বিশেষ করে চাকরির দিক থেকে। যদিও এখনও বড় পরিমাণে চাকরি হারানো হয়নি, তবুও স্ট্যানফোর্ডের গবেষণা অনুযায়ী, কৃত্রিম বুদ্ধিমত্তা-প্রভাবিত খাতগুলিতে জুনিয়র-স্তরের কাজের জন্য AI-এর ব্যবহারের ফলে মার্কিন যুক্তরাষ্ট্রে প্রবেশ-স্তরের চাকরি 20% হ্রাস পেয়েছে Stanford Digital Economy Lab।
একটি গোল্ডম্যান স্যাক্স অধ্যয়ন একই পর্যবেক্ষণ করেছে, যা বলছে যে এন্ট্রি-লেভেলের কর্মচারীরা এই পরিবর্তনের প্রধান বোঝা বহন করছেন।
অ্যানথ্রোপিক জুনে আইপিও কাগজপত্র জমা দিয়েছে এবং এই শরৎকালের মধ্যেই একটি ট্রিলিয়ন ডলারের মূল্যায়নে নাসড্যাকে ডিবিউটের কথা ভাবছে।