মাইক্রোসফ্টের সিইও সাত্যা নাদেলা তাঁর পডকাস্ট 20VC-এ স্বীকার করেছেন যে, অতীতে তিনি মনে করতেন যে AI ক্ষমতার বৃদ্ধি স্বাভাবিকভাবেই মানব মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ হয়ে যাবে, কিন্তু এখন তিনি এই দৃষ্টিভঙ্গি পরিবর্তন করেছেন। তিনি বলেছেন, মডেলের আকার অবিরামভাবে বৃদ্ধি পাচ্ছে, কিন্তু সামঞ্জস্যতা সমস্যা আরও জটিল হয়ে উঠছে, এবং নিয়ন্ত্রণযোগ্যতা ক্ষমতার সাথে সমানুপাতিকভাবে বৃদ্ধি পাচ্ছে না। তিনি AI-কে একটি অভ্যন্তরীণ নিরাপত্তা হুমকি হিসেবে দেখার পক্ষে যুক্তি দিয়েছেন, এবং বিশ্বস্ত সিস্টেম ডিজাইন, মানব-নিয়ন্ত্রণ এবং অপারেশনাল প্রক্রিয়াগুলির তিনটি সুরক্ষা-স্তর গড়ে তোলার আহ্বান জানিয়েছেন, এবং শিল্প-পরিমণ্ডলের জন্য নিয়মকানুন প্রতিষ্ঠা করারও আহ্বান জানিয়েছেন। এই দৃষ্টিভঙ্গি,ওয়ালটম্যান,আমোদেইয়ের মতো শিল্প-নেতৃত্বদের সতর্কবাণীকে প্রতিধ্বনিত করে,যা AI-এর গভর্ন্যান্সকে শুধুমাত্র মুখস্থ কথা থেকে কঠোর প্রকৌশলগতএবংপ্রতিষ্ঠাগতসীমাবদ্ধতায়পরিণতকরছে।লেখক এবং উৎস: AIBase
মাইক্রোসফ্টের সিইও সাত্যা নাদেলা এখন এআই "অ্যালাইনমেন্ট" সমস্যা নিয়ে তাঁর পূর্ববর্তী মতামত পরিবর্তন করেছেন। নতুন পর্বের 20VC পডকাস্টে, হরি স্টিবস তাঁকে জিজ্ঞাসা করেন যে গত বছরে তাঁর কোন চিন্তা পরিবর্তিত হয়েছে, নাদেলা স্বীকার করেন যে, তিনি আগে মনে করতেন যে এআই যতই শক্তিশালী হবে, ততই এর আচরণকে মানুষের মূল্যবোধ এবং লক্ষ্যের সাথে সামঞ্জস্যপূর্ণ করা সহজেই সমাধান হয়ে যাবে।
"প্রাকৃতিক সমাধান" থেকে "আরও জটিল"
কিন্তু বাস্তবতা পরিকল্পনা অনুযায়ী চলেনি। নাদেলা স্বীকার করেছেন যে, মডেলের আকার ধারাবাহিকভাবে বৃদ্ধি পাওয়া এবং ক্ষমতা নিরন্তর বৃদ্ধি পাওয়া—এই দুটি বিষয় তিনি পূর্বেই ভেবেছিলেন; কিন্তু "অ্যালাইনমেন্ট"—অর্থাৎ AI-এর আচরণকে নিয়ন্ত্রণে রাখা—এখনও সমাধান হয়নি। তিনি বলেছেন: "আমি আগে ভাবতাম যে অ্যালাইনমেন্টের সমস্যা নিজে থেকেই সমাধান হয়ে যাবে। এখন আমি এমন ভাবি না। অ্যালাইনমেন্ট হতে পারে একটি আরও জটিল এবং ভিন্নধর্মী সমস্যা।"
সামঞ্জস্যতা বলতে বোঝায় যে AI-এর আচরণ কি মানুষের কথা শোনে কিনা এবং এটি কি মানুষের লক্ষ্যের সাথে সামঞ্জস্যপূর্ণ। যখন মডেল এতটাই বড় হয়ে যায় যে ডিজাইনারদেরও এর আচরণ সম্পূর্ণভাবে পূর্বানুমান করা কঠিন হয়ে যায়, তখন ক্ষমতার বৃদ্ধি এবং নিয়ন্ত্রণযোগ্যতার বৃদ্ধি আলাদা হয়ে যায়, যা নাদেলাকে সরাসরি মোকাবিলা করতে হয়েছে।
AI কে অন্তর্গত শত্রু হিসাবে প্রতিরোধ করুন
এই সতর্কতা আগেই দেখা যাচ্ছিল। ১০ অক্টোবর, নাদেলা X প্ল্যাটফর্মে একটি পোস্টে এআই ঝুঁকির বিষয়ে সতর্ক করেন এবং বাহ্যিক নিরাপত্তা নিয়ন্ত্রণগুলি আরও শক্তিশালী করার পক্ষে যুক্তি দেন। তাঁর মূল পরামর্শটি খুবই কঠোর: কোম্পানিগুলিকে এআই মডেলগুলিকে "অভ্যন্তরীণ নিরাপত্তা হুমকি" হিসাবে বিবেচনা করতে হবে এবং সুরক্ষা পদক্ষেপগুলি গ্রহণের সময় প্রথমেই ধরে নিতে হবে যে মডেলটি 이미 হারানো।
তিনি পোস্টে লিখেছেন যে যে মডেলগুলির আচরণ সম্পূর্ণরূপে পূর্বানুমান করা যায় না, তাদের জন্য "নির্ভরযোগ্য, নির্ধারিত সিস্টেম ডিজাইন, মানব নিয়ন্ত্রণ এবং উন্নত অপারেশনাল প্রক্রিয়া" এই তিনটি সুরক্ষা স্তর প্রয়োগ করা উচিত; যেখানে মানদণ্ড অপর্যাপ্ত, সেখানে শীঘ্রই শিল্পের নিয়মাবলি প্রণয়ন করা উচিত।
নাদেলা একা নন। ওপেনএআই-এর অল্টম্যান, অ্যানথ্রোপিক-এর আমোদেই উভয়েই AI-এর সম্ভাব্য বিপদের বিষয়ে সতর্কবাণী জানিয়েছেন; এই বছরের জুলাইয়ে, 1000-এরও বেশি পেশাদার AI-এর ক্ষমতার দ্রুত গতি মানুষের বুঝতে বা নিয়ন্ত্রণ করতে পারার ক্ষমতাকে ছাড়িয়ে গেছে বলে একটি সাধারণ চিঠিতে স্বাক্ষর করেছেন। যখন শীর্ষস্থানীয় ট্রেডারদের একটি দল "শক্তিশালী = নিরাপদ" ধারণার প্রতি বিশ্বাস কমিয়ে দিচ্ছে, তখন AI-এর গভীর নিয়ন্ত্রণকে শুধুমাত্র স্লোগানের বদলে আরও কঠোর প্রকৌশল ও প্রতিষ্ঠানগতভাবে নিয়ে আসা দরকার।