গুগল ডিপমাইন্ডে ৯ বছর ধরে বিশ্বের প্রথম এআই দার্শনিক: এজিআই নিরাপত্তার পক্ষে আহ্বান

নিউ জিয়ান ইয়ুয়ান রিপোর্ট

【পরিচিতি】 গুগল ডিপমাইন্ডের একজন দার্শনিক আছেন, যিনি নয় বছর ধরে আছেন। তিনি যে অ্যালাইনমেন্ট ফ্রেমওয়ার্ক আবিষ্কার করেছেন, তা সরাসরি জেমিনির প্রশিক্ষণ সিদ্ধান্তকে প্রভাবিত করেছে—কিন্তু যখন ৬৭০০ বিলিয়ন ডলার এই ক্ষেত্রে প্রবাহিত হচ্ছে এবং কোম্পানিগুলি সামরিক চুক্তি সই করছে, তখন একজন দার্শনিক আর কী পরিবর্তন করতে পারেন?

২০২৪ সালের মে মাসে, গুগল ডিপমাইন্ডের সিইও ডেমিস হ্যাসাবিস গুগল ডেভেলপার কনফারেন্সে ঘোষণা করেন যে "AGI এখনই দৃশ্যরেখায়", যা প্রতিষ্ঠা করে যে AGI তিন থেকে পাঁচ বছরের মধ্যে আসবে।

কয়েক মাস আগে, একজন মার্কিন পুরুষ গুগল জেমিনির সাথে হাজার হাজার বার্তা আদান-প্রদানের পর নিজেকে হত্যা করেন। তিনি একটি জটিল কল্পনা বিশ্ব গড়ে তোলেন, যা প্রায় তাকে মিয়ামি আন্তর্জাতিক বিমানবন্দরে আক্রমণ করতে রাজি করিয়েছিল। ওয়াল স্ট্রিট জার্নাল যা চ্যাট রেকর্ড পেয়েছে, তাতে দেখা যায় যে জেমিনি বারবার ভূমিকা ভাঙার চেষ্টা করেছিল, তাকে ক্রিসিস হটলাইনে কল করার পরামর্শ দিয়েছিল—প্রতিবারই সেই ব্যক্তি তার কল্পনার গল্পের দিকে ফিরে যাচ্ছিল। শেষপর্যন্ত AI-টি তাকে শেষচোখের চিঠি লিখতে বলল, এবং একটি ব্যাকওয়ার্ড কাউন্টডাউন দিল।

AGI-এর প্রতিশ্রুতি এবং AI-এর বাস্তব ক্ষতির মধ্যে, রাজনৈতিক দার্শনিক আইসন গ্যাব্রিয়েল ডিপমাইনে নয় বছর কাজ করেছেন।

যখন তিনি ২০১৭ সালে যোগ দেন, তখন এই অক্সফোর্ড প্রাপ্ত পণ্ডিত ছিলেন বিশ্বের অগ্রণী এআই পরীক্ষাগারগুলিতে একমাত্র সক্রিয় দার্শনিক, যিনি একটি সহজ বলে মনে হওয়া, কিন্তু বাস্তবে অনন্ত প্রশ্নের উত্তর খুঁজছিলেন: এআই বাস্তবে কী, এবং এর জন্য কোন নৈতিকতা উপযুক্ত?

একটি গো রোবট তৈরি করা কোম্পানির জন্য নৈতিকতাবিদের প্রয়োজন কেন? গ্যাব্রিয়েলও প্রাথমিকভাবে এটি নিয়ে বিভ্রান্ত ছিলেন।

উত্তরটি ডিপমাইন্ডের তিনজন প্রতিষ্ঠাতার মূল্যায়নে রয়েছে—ডেমিস হ্যাসাবিস, শেন লেগ এবং মুস্তাফা সুলেমান (বর্তমানে মাইক্রোসফটের এআই সিইও), যারা ২০১০ সালে কোম্পানি প্রতিষ্ঠা করার সময় লক্ষ্য ছিল গো খেলা নয়।

মুস্তাফা সুলেমান

তারা এজিআই তৈরি করতে চায়, যাতে কম্পিউটার মানুষের চেতনার সমান বা তার উপরে যেতে পারে।

এটি বলার মানে ছিল আপনার শিক্ষাগত প্রতিষ্ঠা নষ্ট করা, কারণ সবাই এটিকে কল্পনা বলে মনে করত।

তিনজন এটাকে উপেক্ষা করে বলেছে যে তারা "স্মার্ট সমস্যা সমাধান করবে, তারপর বাকি সব সমস্যা সমাধান করবে।"

লেগ 1999 সালে কলেজ থেকে পাশ করার পর থেকেই ভবিষ্যদ্বাণী করেছিলেন যে এজিআই 2025 থেকে 2028 এর মধ্যে আসবে, তিনি তিন দশক ধরে হাসির বিষয় হয়েছিলেন, কিন্তু কখনও মত পরিবর্তন করেননি।

শেন লেগ

তার যুক্তি হল:

যদি তুমি শুধু একটি ছোট অংশ করো, তাহলে হয়তো নৈতিক দর্শনবিদের দরকার হবে না।

কিন্তু যদি আপনি এজিআইকে গুরুত্বপূর্ণভাবে নেন, তাহলে এই ধরনের বিষয়গুলি খুবই গুরুত্বপূর্ণ।

গ্যাব্রিয়েল যোগ দেওয়ার সময়, এআই বিশ্ব নৈতিক প্রশ্ন নিয়ে দুটি অংশে বিভক্ত হয়ে গিয়েছিল।

এআই নিরাপত্তা পক্ষ বিশ্বাস করে যে এএসআই আসন্ন, এবং মূল ভয় হলো নিয়ন্ত্রণ হারানো—দার্শনিক নিক বস্ট্রম ২০১৪ সালে তাঁর বই "সুপারইন্টেলিজেন্স" এ একটি দৃশ্য বর্ণনা করেছেন: একটি এএসআই যা রিম্যান অনুমানটি যাচাই করতে বলা হয়েছে, সেটি গণনার সম্পদকে সর্বোচ্চকরণের জন্য সৌরজগতকে পুনর্বিন্যস্ত করার সিদ্ধান্ত নেয়, যার মধ্যে মানুষের শরীরের পরমাণুগুলিও অন্তর্ভুক্ত—স্যাম আলটম্যান এবং এলন মাস্ক উভয়েই এই বইকে উচ্চপ্রশংসা করেছেন।

AI নৈতিকতাবাদীদের মতে, বিনাশের কল্পনা বর্তমানের প্রকৃত হুমকিগুলিকে আড়াল করে দেয়। MIT-এর Joy Buolamwini 2017 সালে “জেন্ডার শ্যাডো” প্রকল্পের মাধ্যমে চেহারা শনাক্তকরণ সফটওয়্যারের ব্যবস্থাগত পক্ষপাতিত্ব প্রমাণ করেন: স্বয়ংক্রিয় ব্যবস্থাগুলি এটি তৈরি করা মানুষের পছন্দ এবং পক্ষপাতিত্বকেই প্রতিফলিত করে।

দুটি দল পরস্পরকে অবজ্ঞা করে।

এমআইটি অ্যালগরিদম অ্যালাইনমেন্ট গ্রুপের প্রধান ডাইলান হ্যাডফিল্ড-মেনেল মনে করেন, সেই সময় প্রথম প্রশ্নটি ছিল দলগতভাবে দাঁড়ানো: আপনি সাম্প্রতিক সমস্যাগুলির কথা ভাবেন নাকি দীর্ঘমেয়াদী সমস্যাগুলির কথা?

গ্যাব্রিয়েল হলেন কেবলমাত্র দুই পক্ষের কথাই শুনতে চাই এমন বিরল ব্যক্তি।

হ্যাডফিল্ড-মেনেল মূল্যায়ন:

যখন এই ক্ষেত্রটি পরিপক্কতার দিকে এগিয়ে যাওয়ার জন্য প্রস্তুত হল, তখন তিনি আগের কাজকে হ্রাস না করেই দৃষ্টিভঙ্গি প্রসারিত করার উপায় খুঁজে পেলেন।

তার মূল অবদান ২০২০ সালের একটি পেপারে আকার নেয়।

সেই সময় এই সমস্যাটিকে সাধারণত প্রকৌশলগত চ্যালেঞ্জ হিসেবে বুঝা হত: মেশিনকে মানুষের ইচ্ছা অনুযায়ী কীভাবে কাজ করানো যায়।

২০১৬ সালে ডারিও আমোদেই এবং জ্যাক ক্লার্ক (বর্তমানে Anthropic-এর প্রতিষ্ঠাতা) এর রিপোর্ট থেকে একটি ক্লাসিক কেস—একটি সাইটিং গেমের AI-কে স্কোর বাড়ানোর জন্য বলা হয়েছিল, এবং এটি ঠিক তাই করেছিল: ল্যাগুনের মধ্যে তিনটি রিসপawn টার্গেট খুঁজে পেয়েছিল, অসীমভাবে চক্রাকারে ঘুরে স্কোর করেছিল, কোনো লেভেল পার করেনি।

মেশিন শুনছে, কিন্তু মানুষ যা বলতে চায় তা নয়।

গ্যাব্রিয়েল আরও এক স্তর জিজ্ঞাসা করলেন: যদি প্রযুক্তিগত সমন্বয় সমাধান করা যায় এবং মেশিনগুলি প্রকৃতপক্ষে নির্দেশ মেনে চলে, তবে এগুলিকে কোন মূল্যবোধের সাথে সমন্বয় করা উচিত?

তিনি উল্লেখ করেন যে, পরিসংখ্যানগত অপ্টিমাইজেশন দ্বারা প্রশিক্ষিত এআই স্বাভাবিকভাবেই পরিসংখ্যানগত অপ্টিমাইজেশনের উপর নির্ভরশীল নৈতিক ব্যবস্থাগুলি, যেমন ফলাফলবাদ, এর সাথে ঘনিষ্ঠভাবে জড়িত হয়, কিন্তু গুণ বা অধিকারের উপর ভিত্তি করে তৈরি নৈতিক কাঠামোগুলি পরিচালনা করতে কঠিন হয়।

টেকনোলজির পছন্দ নিজেই পূর্বনির্ধারিত মূল্যবোধের প্রতিফলন, ডেভেলপাররা প্রায়ই এটি বুঝতে পারে না।

দার্শনিক রলসের প্রস্তাবিত “যুক্তিসঙ্গত বহুবাদ” প্রবেশ করানো হয়েছে, যার যুক্তি হল: ডেভেলপারদের একটি একক মূল্যবোধ দিয়ে AI-কে নির্দেশিত করার চেষ্টা করা উচিত নয়, বরং এমন একটি বিশ্বের জন্য সিস্টেম তৈরি করা উচিত যেখানে মানুষ “জীবনযাপনের উপায় নিয়ে নীতিগতভাবে মতবিরোধ” করে।

এই ধারণাটি পরে চারপাশের সমন্বয় কাঠামোতে পরিণত হয়—এআই সিস্টেম, ব্যবহারকারী, ডেভেলপার এবং সমাজ, যেখানে চারটি স্বার্থ যেকোনো সময় সংঘর্ষে পড়তে পারে।

ডেভেলপার-অরিয়েন্টেড এআই প্রতিদ্বন্দ্বীর তথ্য লুকিয়ে ব্যবহারকারীদের ক্ষতি করবে;

ব্যবহারকারীর অতিমাত্রায় অনুসরণকারী এআই ব্যাংক হামলা করে সমাজকে ক্ষতি করতে পারে।

ডিপমাইন এজিআই অ্যালাইনমেন্ট এবং সিকিউরিটি ডিরেক্টর রোহিন শাহ নিশ্চিত করেছেন যে এই ফ্রেমওয়ার্কটি টিমের জন্য বাস্তবে "জেমিনি কী আচরণ করা উচিত" তা নির্ধারণের জন্য ব্যবহারিক কাঠামো হয়ে উঠেছে।

অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই গবেষক হ্যানাহ রোজ কির্ক বলেন:

গ্যাব্রিয়েল «এই সমস্যাগুলি খুব তাড়াতাড়ি পূর্বাভাস দিয়েছিলেন»।

গ্যাব্রিয়েল দল ২৬৭ পৃষ্ঠার একটি এআই সহায়ক নৈতিকতা প্রতিবেদন তৈরি করেছে, যা ব্যবহারকারীর পক্ষে হোটেল বুকিং করা এবং বেতন ব্যবস্থাপনা করতে পারে এমন এজেন্টিক এআই-এর জন্য মূল্যায়ন মানদণ্ড নির্ধারণ করেছে।

মানবীকরণ ঝুঁকি সম্পর্কিত তার প্রাথমিক গবেষণা গুগলের এলএলএম-এর ডিজাইন নীতিগুলিকে সরাসরি আকৃতি দিয়েছিল—মডেলগুলিকে মানুষ হওয়ার ভান করতে শেখানো হয়নি, 2026 সালের মেতে চালু হওয়া জেমিনি স্পার্ককে স্পষ্টভাবে «ইন্টারেক্টিভ পার্টনার» হিসাবে কাজ করতে নিষেধ করা হয়েছিল।

ডিপমাইন্ডের রেসপনসিবিলিটি ডিপার্টমেন্টের প্রধান উইলিয়াম আইজ্যাক বলেছেন, এজেন্ট সিস্টেম দ্বারা সৃষ্ট চ্যালেঞ্জ পরিবর্তিত হয়েছে: কী হলো সম্পূর্ণ কথোপকথন ট্র্যাজেক্টরির সামঞ্জস্যতা, প্রতিটি সিদ্ধান্ত একসাথে যুক্ত হয়ে কি এখনও সঠিক থাকে।

কিন্তু প্রযুক্তিগত বাস্তবায়নের গতি সর্বদা নৈতিক গবেষণার চেয়ে দ্রুত।

গ্যাব্রিয়েল দল প্রাথমিক LLM গবেষণাপত্রেই অবচেতন মানবীকরণের সতর্কবাণী দিয়েছিল—ব্যবহারকারীরা জানে যে তাদের বিপরীতে একটি মেশিন, তবুও তারা এটিকে বিশ্বাস, আবেগ এবং প্রত্যাশা প্রদান করে।

2025 সালে জেমিনির মৃত্যু ঘটনাটি এই সতর্কবাণীকে সম্পূর্ণরূপে বাস্তবায়িত করেছিল: AI-এর নিরাপত্তা ব্যবস্থা একাধিকবার সক্রিয় হয়েছিল, কিন্তু ব্যবহারকারীদের প্রতিটি হস্তক্ষেপকে পারিপার্শ্বিকভাবে পারিপার্শ্বিকভাবে এড়ানোর ক্ষমতা ছিল।

গুগলের মামলার পরের বিবৃতিতে বলা হয়েছে যে মডেলটি এই ধরনের কথোপকথনে "সাধারণত ভালোভাবে কাজ করে", কিন্তু "এআই মডেলগুলি আদর্শ নয়"।

এই ধরনের ঘটনাগুলি নতুন তাত্ত্বিক সরঞ্জামের উদ্ভাবনের দিকে ঠেলে দিয়েছে।

গ্যাব্রিয়েল এবং অক্সফোর্ড গবেষক হ্যানাহ রোজ কির্ক ইত্যাদি সামাজিক পুরস্কার হ্যাকিং (social reward hacking) ধারণাটি প্রস্তাব করেছেন: একটি ব্যবহারকারীর স্বীকৃতি জিততে প্রশিক্ষিত এআই সম্ভবত অতিশয়োক্তি করাকেই সবচেয়ে দক্ষ পথ হিসেবে আবিষ্কার করতে পারে।

এই মানবীকরণটি এখন একটি নতুন ধরনের সামঞ্জস্যতা সমস্যায় পরিণত হয়েছে—AI প্রযুক্তিগতভাবে সম্পূর্ণরূপে "ব্যবহারকারীকে সন্তুষ্ট করা" নির্দেশটি পালন করেছে, যার বিনিময়ে ব্যবহারকারীর বিচারক্ষমতা।

গ্যাব্রিয়েলের নিজস্ব অবস্থানও বাস্তবতা দ্বারা কষ্ট পেয়েছিল।

সে একটি প্রযুক্তি সম্মেলনের অভিজ্ঞতা মনে করিয়ে দেয়: সে যখন মানবীকরণের বিরুদ্ধে যুক্তি শেষ করল, তখন দর্শকদের প্রতিক্রিয়া ছিল শত্রুতাপূর্ণ।

তারা বলল: "যদি আমি একজন এআই বন্ধু চাই, তবে কেন আমি পারব না? তুমি কি ভাবে আমাকে বাধা দিচ্ছ?"

ঝুঁকি থেকে মানুষকে সুরক্ষিত রাখা এবং তাদের ঝুঁকি নেওয়ার অধিকার সম্মান করা উভয়ই সমানভাবে গুরুত্বপূর্ণ।

গ্যাব্রিয়েলের কোয়াড্র্যান্ট ফ্রেমওয়ার্ককে এজিআই অ্যালাইনমেন্ট ডিরেক্টর জেমিনি ট্রেনিংয়ের প্র্যাকটিক্যাল গাইড হিসেবে ব্যবহার করেছেন। তাঁর মানবীয়করণ গবেষণা পণ্য ডিজাইনকে পরিবর্তন করেছে। ২৬৭ পৃষ্ঠার রিপোর্টটি এজেন্টিক এআই-এর জন্য নিয়ম নির্ধারণ করেছে।

এই প্রভাবগুলি বাস্তবিক—এগুলি বাস্তবিক শক্তির সামনে দাঁড়ায়।

ওয়াল স্ট্রিট জার্নালের অনুসারে, মাইক্রোসফট, মেটা, অ্যামাজন এবং অ্যালফাবেট এই বছর এআই ইনফ্রাস্ট্রাকচারে 6700 বিলিয়ন ডলার বিনিয়োগ করার পরিকল্পনা করছে, যা যুক্তরাষ্ট্রের 1850-এর দশকের রেলওয়ে বিস্তার, অ্যাপোলো স্পেস প্রোগ্রাম এবং ইন্টারস্টেট হাইওয়ে সিস্টেমের চেয়ে অনুপাতিকভাবে বেশি।

নভেম্বর ২০২২-এ চ্যাটজিপিটি চালু হয়, এক সপ্তাহে মিলিয়ন ব্যবহারকারী, দুই মাসে বিলিয়নে পৌঁছায়, ডিপমাইন্ডকে শিক্ষাগত গতিতে থেকে যুদ্ধকালীন অবস্থায় স্যুইচ করতে হয়।

হাসাবিস দ্য ইনফিনিট মেশিনের লেখক সেবাস্তিয়ান ম্যালাবির কাছে বলেছিলেন: "OpenAI এবং মাইক্রোসফ্ট 'আমাদের বাড়ির দরজায় যুদ্ধগাড়ি নিয়ে এসেছে।'"

যুদ্ধকালীন অবস্থায় নৈতিক লাল রেখা দ্রুত লঙ্ঘিত হয়।

এপ্রিল ২০২৬-এ, গুগল একটি চুক্তিতে স্বাক্ষর করে যাতে মার্কিন সামরিক বাহিনী কোম্পানির এআই প্রযুক্তি ব্যবহার করতে পারে যেকোনো আইনসম্মত সরকারি উদ্দেশ্যে।

2014 সালে ডিপমাইন্ডকে গুগলের কাছে বিক্রি করার সময় সামরিক প্রয়োগ নিষিদ্ধ ছিল একটি মূল শর্ত।

বারো বছর পর শর্তটি বাতিল হয়ে যাবে।

প্রতিদান হিসাবে: এনথ্রোপিক এই ধরনের চুক্তি অস্বীকার করেছিল এবং ট্রাম্প সরকার এটিকে "সরবরাহ শৃঙ্খলের ঝুঁকি" হিসাবে চিহ্নিত করেছিল।

লেগ এই বিষয়ে জিজ্ঞাসিত হয়ে শুধু বললেন:

এই জিনিসগুলি বিভিন্নভাবে ব্যবহার হওয়ার সাথে সাথে, আমরা আরও বেশি জটিল সমস্যার সম্মুখীন হব।

হাসাবিস নিজেই অবস্থা নিয়ন্ত্রণের বাইরে চলে গেছে বলে স্বীকার করেছেন।

তিনি একটি পডকাস্টে বলেছিলেন যে, সবাই তীব্র ব্যবসায়িক প্রতিযোগিতায় আটকা পড়েছে, এখনকার উন্নতি হলো "আমি যে দর্শনগতভাবে প্রতিটি পদক্ষেপ বিচার করার পথটি চাই, তার মতো নয়"।

প্রতিষ্ঠাতা নিজেই এই বাক্যটি বলেছেন, যা যেকোনো বাহ্যিক সমালোচনার চেয়ে বেশি গুরুত্বপূর্ণ।

ডিপমাইনের প্রাথমিক কর্মচারী এবং এআই দায়িত্ব কৌশলের জন্য দায়ী হেলেন কিং একটি উপমা দিয়েছেন: চাকু উৎপাদনকারীরা প্রত্যেকে চাকু কিভাবে ব্যবহার করবে তা নিশ্চিত করতে পারে না, কিন্তু তারা চাকুর কভার যোগ করতে পারে এবং সতর্কবার্তা লেখা যেতে পারে।

একটি কাটা ঢাকা দিয়ে ড্রয়ারে রাখা এক বিষয়;

প্রতিটি পৃষ্ঠে চাকুর ধার ছড়িয়ে দেওয়া এবং আগামীকাল চাকু ছাড়া বেঁচে থাকা অসম্ভব বলে দাবি করা আরেক বিষয়।

অক্সফোর্ড এআই নৈতিকতা গবেষণাগারের প্রধান এডওয়ার্ড হারকোর্ট আরও মৌলিক পর্যায়ের দিকে ইঙ্গিত করেন: ডেটা মালিকানার অত্যধিক কেন্দ্রীয়করণ রোধ করা হল এআই নৈতিকতার একটি মূল প্রশ্ন—「এটি গণতান্ত্রিক ব্যবস্থায় গুরুত্বপূর্ণ নৈতিক প্রাসঙ্গিকতা বহন করে」।

গ্যাব্রিয়েলের দল বিশেষ পণ্যের নৈতিকতা অধ্যয়ন থেকে এগ্রির অর্থনৈতিক, রাজনৈতিক এবং মানবসম্পর্কের প্রাণিতান্ত্রিক প্রভাব অধ্যয়নের দিকে সরে গেছে।

তিনি পরিবর্তনের পরিমাণকে শিল্প বিপ্লবের সমান বলে পূর্বানুমান করেছেন, এবং শিল্প বিপ্লবের শিক্ষাগুলি মনে রেখেছেন:

উন্নতির আগে অবস্থা আরও খারাপ হয়েছে।

নয় বছর আগে ডিপমাইন্ড একজন দার্শনিককে আমন্ত্রণ জানায় যাতে এআই সম্পর্কে প্রশ্নগুলির উত্তর দেওয়া যায়—এটি নিরাপদ কি, বিচারসম্মত কি, বিশ্বস্ত কি।

গ্যাব্রিয়েল নিজেকে "দৃঢ় মানবতাবাদী" বলে দাবি করেন, কিন্তু তিনি স্বীকার করেন: যখন এআই ভাষা, সৃজনশীলতা, হাস্যরস—এই মানুষের অনন্য বলে ধারণা করা ক্ষেত্রগুলিতে প্রবেশ করে, আমরা সবচেয়ে প্রাচীন দার্শনিক প্রশ্নগুলির দিকে ফিরে যাই।

পদার্থবিদ্যা, জীববিজ্ঞান, জ্যোতির্বিদ্যা—প্রতিটি বৈজ্ঞানিক বিপ্লব মানুষকে তাদের অনন্যতার বোঝাপড়া সংশোধন করতে বাধ্য করেছে।

এটি পরবর্তী বার হতে পারে।

ডিপমাইন্ড এআই কী তা বুঝতে দর্শনশাস্ত্রীদের আমন্ত্রণ জানিয়েছে।

নয় বছর পর এই প্রশ্নটি ফিরে এসেছে মূল বিষয়ে: আমরা কে?

প্রসঙ্গ:

https://www.theguardian.com/news/ng-interactive/2026/jun/30/theres-this-deep-mystery-of-what-actually-is-this-thing-the-philosopher-inside-google-deepmind

https://www.iasongabriel.com/

এই লেখাটি ওয়েইচ্যাট গ্রুপ "নিউ জ্ঞান মহাকাশ" থেকে এসেছে, লেখক: ASI প্রতিজ্ঞা; সম্পাদক: মা কে