OpenAI শিশু যৌন নির্যাতন উপাদান (CSAM) চিহ্নিতকরণের জন্য একটি নতুন টুলসের সেট ঘোষণা করেছে। এর কেন্দ্রীয় উপাদান হল একটি ইমেজ ক্লাসিফায়ার, যা AI দ্বারা তৈরি চিত্রসহ এই ধরনের কনটেন্ট শনাক্ত করতে তৈরি করা হয়েছে।
এই চালুকরণে চারটি অংশ রয়েছে: নতুন ইমেজ ক্লাসিফায়ার, চ্যাটজিপিটি-এর ভিতরে সতর্কবার্তা এবং অস্থায়ী ব্লক, ডেভেলপারদের জন্য একটি নতুন নির্দেশিকা, এবং আইনশৃঙ্খলা বাহিনীর জন্য একটি সেট টুল। এগুলি একসাথে ব্যবহারকারী, বিল্ডার এবং তদন্তকারীকে কভার করে।
ওপেনএআই কী বাস্তবে চালু করছে
শনাক্তকরণ দিয়ে শুরু করুন। ওপেনএআই তার সিস্টেমে বাহ্যিক ইমেজ ক্লাসিফায়ার একীভূত করেছে, যার মধ্যে শিশু নিরাপত্তা প্রযুক্তির উপর কেন্দ্রীভূত একটি অলাভজনক প্রতিষ্ঠান থর্ন থেকে আসা CSAM কন্টেন্ট ক্লাসিফায়ার অন্তর্ভুক্ত।
এই শ্রেণীবিভাজকটি দুটি পৃথক কাজ পরিচালনা করে। প্রথমটি হ্যাশ মিলিয়ে পরিচিত সিস্যাম ধরে ফেলা। দ্বিতীয়টি হল নতুন উপাদান, যেমন কখনও দেখা না হওয়া এআই-তৈরি ভেরিয়েন্টগুলিকে চিহ্নিত করা।
এই পার্থক্যটি যেমন শোনাচ্ছে তার চেয়ে বেশি গুরুত্বপূর্ণ। হ্যাশ মিলিয়ে দেওয়া কাজ করে একটি আঙ্গুলের ছাপ ডাটাবেসের মতো: একটি ছবি কে একটি অনন্য ডিজিটাল সিগনেচারে রূপান্তরিত করা হয়, এবং সেই সিগনেচারটি আগে থেকেই শনাক্তকৃত অপব্যবহারের উপাদানের তালিকার সাথে চেক করা হয়।
একটি সাম্প্রতিকভাবে তৈরি ছবির ফিঙ্গারপ্রিন্ট ফাইলে নেই, তাই শুধুমাত্র তালিকা পরীক্ষা করে চলা সিস্টেমটি এটিকে অতিক্রম করে যাবে। এই ফাঁক পূরণের জন্য নতুন-বিষয়বস্তু শ্রেণীবিভাজক বিদ্যমান, যা একটি ছবির ক্যাটালগকৃত হওয়ার পরিবর্তে এটি কী চিত্রিত করছে তা বিচার করে।
দ্বিতীয় অংশটি চ্যাটজিপিটির ভিতরে থাকে। যারা শিশুদের সাথে যৌনাচরণ করার বিষয়বস্তু তৈরি বা অ্যাক্সেস করার চেষ্টা করবে, তারা এখন স্বয়ংক্রিয় সতর্কবার্তা দেখতে পাবে, এবং পুনরাবৃত্তি বা গুরুতর চেষ্টা অস্থায়ীভাবে ব্লক বা অ্যাকাউন্ট স্থগিতের কারণ হতে পারে।
এই হস্তক্ষেপগুলি মধ্য-নভেম্বর ২০২৬-এ ব্যক্তিগত অ্যাকাউন্টগুলিতে ধীরে ধীরে বিশ্বব্যাপী চালু শুরু করে। এগুলি এখনও প্রতিষ্ঠানগত অ্যাকাউন্ট, শিক্ষামূলক অ্যাকাউন্ট বা কিছু ডেস্কটপ ইন্টারফেসে প্রযোজ্য নয়।
সতর্কবার্তাগুলির পিছনে একটি ব্যাপক স্তর রয়েছে যা টেক্সট, ইমেজ এবং অডিও কন্টেন্ট প্রক্রিয়াকরণ করতে পারে। এই টুলকিটে কনটেক্সট-অ্যাওয়্যার ক্লাসিফায়ার এবং প্রম্পট লেভেলে ডিটেকশনও অন্তর্ভুক্ত রয়েছে, অর্থাৎ একটি অনুরোধকে ব্যবহারকারী যা চায় তার ভিত্তিতে চিহ্নিত করা যেতে পারে, শুধুমাত্র মডেল যা উত্পাদন করে তার উপর নয়।
ডেভেলপারদের নিজস্ব নির্দেশাবলী প্রাপ্ত হয়। ১৫ নভেম্বর, ২০২৬-এ, ওপেনএআই এপিআই ডেভেলপারদের জন্য সিস্যাম গাইডলাইন প্রকাশ করে যা নতুন কনটেন্টের জন্য ক্লাসিফায়ারের পাশাপাশি পারসেপচুয়াল হ্যাশ ম্যাচিং একীভূতকরণের মাধ্যমে চলে।
পার্সেপচুয়াল হ্যাশিং হল স্ট্যান্ডার্ড হ্যাশিং-এর অধিক ক্ষমা করে দেওয়া সহোদর। এটি একটি নির্দিষ্ট মিলের প্রয়োজনীয়তা এড়িয়ে একটি ছবি চিনতে পারে যা পুনর্আকারিত, ক্রপ করা বা হালকা পরিবর্তিত হয়েছে।
শেষে, রিপোর্টিং পাইপলাইন রয়েছে। ওপেনএআই নিশ্চিত CSAM-এর রিপোর্ট করে মিসিং এবং শোষিত শিশুদের জাতীয় কেন্দ্রে (NCMEC), যা মার্কিন যুক্তরাষ্ট্রের একটি ক্লিয়ারিংহাউস যা এই রিপোর্টগুলিকে আইনশৃঙ্খলা বাহিনীর দিকে পাঠায়।
2025 সালে ওপেনএআই থেকে এনসিএমইসি-তে প্রতিষ্ঠিত CSAM রিপোর্টগুলি উল্লেখযোগ্যভাবে বৃদ্ধি পেয়েছে, যা কোম্পানিটি তার পণ্যগুলির বৃদ্ধির কারণে ব্যাখ্যা করে।
ওপেনএআই কিভাবে এখানে এলো
২০২৬ সালের ৮ এপ্রিল, ওপেনএআই এনসিএমইসি এবং অন্যান্য সংগঠনের সাথে সহযোগিতায় একটি শিশু নিরাপত্তা ব্লুপ্রিন্ট প্রকাশ করে।
সেই নথিটি নীতিগুলির উপর প্রচুর নির্ভর করেছিল। এটি জোর দিয়েছিল যে বিদ্যমান আইনগুলি যে বিষয়টি বিবেচনায় রাখেনি, সেই শ্রেণীর AI-তৈরি CSAM-এর সাথে মোকাবিলা করতে আইনি কাঠামোগুলিকে আধুনিকীকরণ করা প্রয়োজন।




