অ্যানথ্রোপিক ফেবল এআই মডেল নিয়ে সরকারি প্রতিক্রিয়ার মুখোমুখি

লেখক: বেন থম্পসন

স্টিম টেকফ্লো

শেনচাওয়ের পরিচয়: অ্যানথ্রোপিকের নতুন মডেল ফেবল মাত্র দুই মাসের মধ্যে মার্কিন সরকার দ্বারা জরুরি বন্ধ করে দেওয়া হয়েছে, যা প্রতীয়মান হচ্ছে "নিরাপত্তা লিক" হিসাবে, কিন্তু বাস্তবে এটি AI ল্যাব এবং সরকার, এবং সফটওয়্যার শিল্পের মধ্যে দ্বৈত যুদ্ধকে প্রকাশ করে। "নিরাপত্তা"কে বিক্রয়ের মূল বিষয় হিসাবে প্রচার করা এই কোম্পানি, নিরাপত্তা নারেটিভকে ব্যবসায়িক প্রতিরক্ষা হিসাবে পরিণত করছে, এবং তাদের আসলে যা লক্ষ্য করছে, তা হল মাইক্রোসফটদের হাতের ব্যবহারকারীর ডেটা।

আমি সেই হাস্যকর করার কর্তাদের অবস্থান বুঝতে পারি, যারা সবসময় এনথ্রোপিকের প্রকাশ্য বিবৃতি—বিশেষ করে মডেল প্রকাশের সময়ের বক্তব্য—কে বিপন্নতা ছড়ানোর জন্য মার্কেটিংয়ের উপায় হিসেবে দেখে। দুই মাস আগে, এনথ্রোপিক Mythos Preview চালুর ঘোষণা দেয়, যেখানে দাবি করা হয় যে এই মডেলটি খুবই বিপজ্জনক, বিশেষ করে এর শক্তিশালী সাইবার নিরাপত্তা ক্ষমতার কারণে। তারপর দুই মাস পর, কোম্পানিটি Fable প্রকাশ করে, যা Mythos-এর বিভিন্ন নিরাপত্তা গতিশীলতা সহকারে সংস্করণ।

আমার সীমিত ব্যবহারের অভিজ্ঞতার ভিত্তিতে, Fable একটি খুবই উত্কৃষ্ট মডেল। এখন প্রোগ্রামিং ক্ষমতার বাইরে মডেলগুলির বস্তুনিষ্ঠ মূল্যায়ন করা কঠিন, তবে ব্যক্তিগত অনুভূতি আছে—আমি দেখেছি যে Fable-এর সাথে ইন্টারঅ্যাকশনের অভিজ্ঞতা অত্যন্ত উত্কৃষ্ট; এটি GPT 5.5 এবং Opus 4.8-এর মতো অন্যান্য মডেলগুলিকে ছোট এবং বোকা বলে মনে হয়। আগে আমি শুধুমাত্র দুইবার এই অনুভূতি করেছি, একবার GPT-4-এর সাথে, আরেকবার Grok 4-এর সাথে, যারা উভয়েই বেসিক মডেলের স্কেল এবং জটিলতার একটি নতুন প্রজন্মকে প্রতিনিধিত্ব করে; আমি মনে করি Fable একটি নতুন প্রি-ট্রেইনিং-এর ফলাফল, এবং এটি নতুন প্রজন্মের প্রথম।

অতএব, আমি সম্পূর্ণরূপে গ্রহণ করতে পারি যে Fable/Mythos সুরক্ষা সমস্যাগুলি শনাক্ত করতে এবং ব্যবহার করতে আসলেই বেশি ক্ষমতাবান, এবং Anthropic-এর সতর্কতার সাথে প্রকাশ করা যুক্তিসঙ্গত। কিন্তু মডেলটি প্রকাশ করার সমস্যা হলো, গার্ডরেলগুলি বাইপাস করা যেতে পারে, এবং প্রকাশের অল্প সময়ের মধ্যেই এটি ঘটেছে।

পরবর্তী যা ঘটেছে তা কিছুটা অস্পষ্ট। Anthropic ব্লগ পোস্টে লিখেছে:

মার্কিন সরকার জাতীয় নিরাপত্তা ক্ষমতা উল্লেখ করে একটি রপ্তানি নিয়ন্ত্রণ আদেশ জারি করেছে, যার মাধ্যমে যেকোনো বিদেশী নাগরিকের জন্য Fable 5 এবং Mythos 5-এর প্রবেশাধিকার স্থগিত করা হয়েছে, যার মধ্যে মার্কিন যুক্তরাষ্ট্রের ভিতরে বা বাইরে অবস্থিত এনথ্রোপিকের বিদেশী কর্মচারীদেরও অন্তর্ভুক্ত। এই আদেশের বাস্তব প্রভাব হলো, আমাদের সমস্ত গ্রাহকের জন্য Fable 5 এবং Mythos 5-এর অ্যাক্সেস অকার্যকর করে দিতে হয়েছে, যাতে আমরা সঙ্গতি বজায় রাখতে পারি। Anthropic-এর অন্যান্য সমস্ত মডেলের অ্যাক্সেসের কোনো প্রভাব হয়নি।

আমরা আজ পূর্ব সময় অনুযায়ী বিকাল ৫:২১ এ সরকারের নির্দেশ পেয়েছি। চিঠিতে জাতীয় নিরাপত্তার উদ্বেগের কোনো বিশদ তথ্য দেওয়া হয়নি। আমরা বুঝতে পেরেছি যে সরকার মনে করেছেন যে Fable 5 কে পারিপার্শ্বিকভাবে বা "জেল থেকে বার করার" উপায় খুঁজে পাওয়া গেছে। আমরা এই নির্দিষ্ট প্রযুক্তির ব্যবহার দ্বারা কয়েকটি পরিচিত ছোট ভাঙ্গনকে চিহ্নিত করার ডেমোটি পর্যালোচনা করেছি। এই ভাঙ্গনগুলি সবই আপেক্ষিকভাবে সহজ মনে হচ্ছে, এবং আমরা দেখেছি যে অন্যান্য প্রকাশিত মডেলগুলিও এইগুলি খুঁজে পেতে পারে, বিশেষভাবে পারিপার্শ্বিকভাবে যাওয়ার প্রয়োজন ছাড়াই।

অ্যানথ্রোপিক তর্ক করে যে অ-জেনারিক জেইলব্রেক অপরিহার্য এবং সীমিত পরিসরের, এবং জেনারিক জেইলব্রেকের কোনো প্রমাণ নেই; যে জেইলব্রেকগুলি আবিষ্কৃত হয়েছে, সেগুলি মন্তব্য করা হয়েছে যে এমেজন রিপোর্ট করেছে, যা উল্লেখযোগ্য, কারণ এমেজন হল অ্যানথ্রোপিকের বিনিয়োগকারী এবং কোম্পানির রিজনিং সার্ভিসের প্রধান সরবরাহকারী। আমি যখন এই নিবন্ধটি লিখছি, তখন অ্যানথ্রোপিকের কর্মকর্তারা ওয়াশিংটন, ডি.সি.-তে ছিলেন, যারা তাদের দাবি করছেন যে এটি একটি বিভ্রান্তি, যদিও হোয়াইটহাউসের কর্মকর্তারা এটিকে কোম্পানির নেতৃত্বের আইনসম্মতজনিতজাতীয় নিরাপত্তা চিন্তা-ভাবনার প্রতি অবহেলা হিসাবে ইঙ্গিত করছেন।

যেহেতু অনেক তথ্য নিয়ে বিতর্ক রয়েছে, বর্তমান সংঘর্ষ সম্পর্কে আমার কোনো অতিরিক্ত কিছু যোগ করার প্রয়োজন নেই; কিন্তু সংঘর্ষটি ঘটছে এটা আমার জন্য অপ্রত্যাশিত নয়: আমি ইতিমধ্যেই “Anthropic এবং অ্যালাইনমেন্ট” নিবন্ধে ব্যাখ্যা করেছি যে মার্কিন সরকার এবং Anthropic-এর মধ্যে সংঘর্ষ অপরিহার্য। এই দিকটির কথা বিবেচনা করলে, যারা মনে করেন Mythos-এর এখনও পর্যাপ্ত শক্তিশালী নয় যাতে সরকার তীব্র পদক্ষেপ নেয়, তারা মূল বিষয়টি উপেক্ষা করছে: যদি এখনই পর্যাপ্ত শক্তিশালী না হয়, তবে পরবর্তীটি হবে, অথবা তারপরেরটি, বিশেষত এখনকার মডেলগুলি পরবর্তীপ্রজন্মের জন্য তৈরি করতে越来越 useful।

তবে, এটি আরেকটি প্রশ্ন তুলে ধরে—যে প্রশ্নটি মক্কার দৃষ্টিভঙ্গি প্রমাণিত করে বলে মনে হয়: যদি Mythos এতটাই বিপজ্জনক হয়, তবে Fable প্রকাশ করার কেন প্রয়োজন হলো? আপনি যা করতে চান, তা করার জন্য সরকারের বিরুদ্ধে কেন লড়াই করলেন? আসলে, আমি মনে করি Anthropic-এর আচরণটি সম্পূর্ণভাবে বোঝা যায়; কোম্পানিটির অনন্যতা হলো এই আচরণগুলির জন্য এটি যেভাবে যুক্তি দেয়, এই যুক্তিগুলিই মক্কাদের জন্য জ্বালানি দিয়েছে এবং Anthropic-এর জন্য জাদুও তৈরি করেছে।

এআই-এর প্রথম বছরগুলিতে, সবচেয়ে বেশি আর্থিক মূল্য ক্ষমতার দিকে প্রবাহিত হয়েছিল, কারণ এটি স্পষ্ট: আমাদের চাহিদা পূরণের জন্য যথেষ্ট সরবরাহ ছিল না, যার অর্থ দাম বেড়েছিল; সবচেয়ে বেশি লাভ পেয়েছিল নভিডিয়া, টাইওয়ান সেমিকনডাক্টর এবং মেমোরি উৎপাদকদের (স্কাইমেমোরি, স্যামসাং এবং মাইক্রন)। একইসময়ে, Anthropic এবং OpenAI একত্রে অগ্রণী মডেলগুলি তৈরি করতে শত শত বিলিয়ন ডলার ক্ষতি করেছিল, এবং এই মডেলগুলি যখন প্রকাশিত হয়েছিল, তখন চীনা উৎসগুলির মাধ্যমে ওপেন-সোর্স মডেলগুলির দ্বারা ডিসিলিশন এবং কমোডিটাইজেশনের শিকার হয়েছিল।

এটি পরীক্ষাগারের নেতিবাচক পরিস্থিতিকে নির্দেশ করে—তারা কখনও খরচ পুরণ করতে পারবে না, কারণ তাদের পার্থক্য অস্থায়ী, এবং বিনামূল্যের বিকল্পগুলি "যথেষ্ট ভাল" হয়ে উঠছে—আমি এটিকে যুক্তিসঙ্গত মনে করি। একটি মডেল বিনিময়যোগ্য বিশ্বে, মডেলগুলি পণ্য, এবং বেশিরভাগ মূল্য অন্যত্র চলে যায়। এখন ক্যালকুলেশন ক্ষমতা, কিন্তু সময়ের সাথে সাথে, যখন আমাদের যথেষ্ট ক্যালকুলেশন ক্ষমতা থাকবে, তখন মূল্য শৃঙ্খলের সবচেয়ে মূল্যবান অবস্থানটি সবসময়ের মতোই হবে: ব্যবহারকারীদের সাথে সংযোগ রাখা।

তাই, এটা আমার জন্য সর্বদা পরিষ্কার ছিল যে ফ্রন্টিয়ার ল্যাবের জন্য ব্যবহারকারীদের কাছাকাছি আসা অর্থনৈতিকভাবে অপরিহার্য। যদি আপনার ব্যবহারকারী সংযোগ থাকে, তাহলে আপনার অর্থপূর্ণ লক-ইন থাকে, এবং ব্যবহারকারী সংযোগ অর্জনের সেরা উপায় হলো তাদের যা কিছু করতে হবে তার জন্য ক্যানভাস হয়ে যাওয়া। এটি আবার বোঝায় যে ফ্রন্টিয়ার ল্যাবগুলি সফটওয়্যার কোম্পানিগুলির সাথে সংঘর্ষের দিকে এগিয়ে যাচ্ছে: সফটওয়্যারই ব্যবহারকারী সংযোগ অধিকারী, এবং ফ্রন্টিয়ার ল্যাবের দীর্ঘমেয়াদী স্বার্থ হলো সফটওয়্যারের একটি সহজ কমোডিটি ইনপুট হয়ে থাকা নয়, বরং সফটওয়্যারকে প্রত্যক্ষভাবে প্রতিস্থাপন করা।

এর বিপরীতে, সফটওয়্যার কোম্পানিগুলি বিপরীত কাজ করার চেষ্টা করছে। সত্য নাদেলা তাঁর X-এর একটি পোস্টে ব্যাখ্যা করেছেন যে কোম্পানিগুলি মডেলের উপর কিভাবে গঠন করবে:

প্রতিটি কোম্পানিকে আমি যা মানব মূলধন এবং টোকেন মূলধন বলি, তা গড়ে তুলতে হবে। মানব মূলধনের মধ্যে রয়েছে এর কর্মচারীদের জ্ঞান, বিচারক্ষমতা, সম্পর্ক, সৃজনশীলতা এবং প্যাটার্ন চিনতে পারা, আর টোকেন মূলধন হলো কোম্পানির গড়ে তোলা এবং অধিকারী হওয়া AI ক্ষমতা। গুরুত্বপূর্ণ বিষয় হলো, টোকেন মূলধন বাড়ার সাথে সাথে মানব মূলধনের মূল্য কমে যাবে না। এটি শুধুমাত্র আরও বেশি মূল্যবান হয়ে উঠবে! আমি বিশ্বাস করি, মানবিক প্রচেষ্টাই টোকেন মূলধনের বৃদ্ধির চালিকা শক্তি। মানুষই উচ্চাকাঙ্ক্ষী লক্ষ্যগুলি নির্ধারণ করবে, বিভিন্ন ক্ষেত্রের মধ্যে পয়েন্টগুলির সংযোগ তৈরি করবে, সম্পর্কগুলি গড়ে তুলবে এবং সবচেয়ে গুরুত্বপূর্ণ প্যাটার্নগুলি识別 করবে। মানবিক নির্দেশনা ছাড়া, আপনার কম্পিউটিং পাওয়ারটি ফাঁকা-ফাঁকি।

এর অর্থ হল সেরা মডেল বাছাইয়ের বদলে বাস্তব সুযোগ হল মডেলের উপর একটি শেখার চক্র তৈরি করা, যাতে মানব মূলধন এবং টোকেন মূলধন চক্রবৃদ্ধি হয়। আপনি একটি কাজ, বা এমনকি একটি চাকরি বাইরে দিতে পারেন, কিন্তু আপনি কখনও আপনার শেখা বাইরে দিতে পারবেন না। কোম্পানির ভবিষ্যৎ হল এমনভাবে এই শেখা মানুষ এবং AI-এর মধ্যে চক্রবৃদ্ধি করা। এটি একটি নতুন আর্কিটেকচারাল পদ্ধতির প্রয়োজন, যাতে প্রতিটি কোম্পানি সময়ের সাথে উন্নতি হওয়ার জন্য এজেন্ট সিস্টেম তৈরি করতে পারে, একইসাথে তাদের বুদ্ধিবৃত্তিক সম্পত্তির উপর নিয়ন্ত্রণও রাখতে পারে। কোম্পানিগুলি "জেনারিক" মডেলগুলির পরিবর্তে "কোম্পানির veteran"এর জ্ঞানকে তাদের শেখার সিস্টেমের অংশহিসেবে হারাতে না পারে। এটিই ভবিষ্যতের যুগে আপনার নিয়ন্ত্রণ এবংসারভিনটির "পরীক্ষা"।

নাদেলা এই দৃষ্টিভঙ্গি শুরু করেন সতর্কবাণী দিয়ে:

আমরা যা দেখতে চাই না তা হলো এমন একটি বিশ্ব যেখানে প্রতিটি শিল্পের প্রতিটি কোম্পানি কয়েকটি সবকিছু গ্রাস করে ফেলা মডেলগুলিকে মূল্য ছেড়ে দেয়। যদি সমস্ত মূল্য কয়েকটি মডেলের কাছেই সঞ্চিত হয়, তবে রাজনৈতিক অর্থনীতি এটিকে সহ্য করবে না। একটি পুরো শিল্পকে খালি করে দেওয়ার AI-এর ভবিষ্যতের জন্য সমাজ অনুমতি দেবে না।

গ্লোবালাইজেশনের প্রথম পর্যায়ে কী ঘটেছিল তা ভাবুন, সম্পূর্ণ শিল্প অর্থনীতি বহির্ভূত করে খালি করে দেওয়া হয়েছিল। পৃষ্ঠতলে GDP সংখ্যাগুলি ভালো দেখাচ্ছিল, কিন্তু বিস্থাপন বাস্তবিক ছিল এবং পরিণতি এখনও অনুভূত হচ্ছে। আসুন আমরা এই গতিকে AI যুগে আনি না, যেখানে কয়েকটি AI সিস্টেম সমস্ত অর্থনৈতিক ফলাফল ধরে রাখে, এবং সম্পূর্ণ শিল্পগুলি খুঁজে পায় যে তাদের জ্ঞানটি তাদের চোখের সামনেই কমোডিটাইজড হয়ে গেছে।

এই উপমার সমস্যা হল: বিশ্বায়ন প্রকৃতপক্ষে ঘটেছে, শিল্প অর্থনীতিগুলি প্রকৃতপক্ষে খালি হয়ে গেছে। এটি সতর্কবাণী নয়, বরং ভবিষ্যদ্বাণী হতে পারে; এজন্যই নাদেলা সতর্কবাণী দিচ্ছেন, কারণ মাইক্রোসফটও একজন পীড়িত হতে পারে। একইভাবে, মডেল তৈরিকারীদের অর্থনৈতিক প্রয়োজনীয়তা হল এটিই অর্জন করা।

এই মডেলগুলি—এমনকি মিথোসও—এখনও সেই পর্যায়ে পৌঁছায়নি। এগুলির জন্য শুধু বেশি ক্যালকুলেশন শক্তি নয়, বেশি ও ভালো ডেটারও প্রয়োজন। মডেল উন্নতির বেশিরভাগই রিইনফোর্সমেন্ট লার্নিং থেকে আসছে; কিছু সিনথেটিকভাবে তৈরি করা যায়, কিন্তু অগ্রগামী ল্যাবগুলির জন্য সবচেয়ে শক্তিশালী লিভার হল বাস্তব বিশ্বের ব্যবহার।

আমি মনে করি এটিই হলো ওপেনএআই এবং অ্যানথ্রোপিক উভয়ই বড় পরিমাণে সাবস্ক্রিপশন সাবসিডি প্রদানের প্রধান কারণ। সেমিঅ্যানালিসিস সম্প্রতি অনুমান করেছে যে, ২০০ ডলারের প্ল্যানটি আপনাকে ৮০০০ ডলারের ক্লড টোকেন এবং ১৪০০০ ডলারের কোডেক্স টোকেন প্রদান করে। অবশ্যই, উভয়ই ব্যবহারকারী এবং ডেভেলপারদের মনোযোগের শেয়ারের জন্য প্রতিদ্বন্দ্বিতা করছে, কিন্তু তারা মডেলগুলি উন্নত করার জন্য বাস্তব ব্যবহারের ডেটা অ্যাক্সেসেরও জন্য প্রতিদ্বন্দ্বিতা করছে।

অ্যানথ্রোপিক ফেবলে বড় পরিমাণে বিনিয়োগ করেছে এবং ঘোষণা করেছে যে তারা সমস্ত ব্যবহৃত ডেটা ৩০ দিন ধরে রাখবে, এমনকি আগে শূন্য ডেটা রিটেনশনের প্রতিশ্রুতি দেওয়া এন্টারপ্রাইজ প্ল্যানগুলির জন্যও। কোম্পানিটি বলেছে যে এই ডেটা ব্যবহার করে তারা ট্রেনিং করবে না, তবে ভবিষ্যতে এটি করা হবে না তা নিশ্চিত করার জন্য কোনো গ্যারান্টি সেটআপ করেনি (যেমন ডেটা থাকার জন্য থার্ড-পার্টির উপর নির্ভরশীলতা)। যদি এই নীতির পরিবর্তন (যখন ফেবল পুনরায় চালু হবে) বড় পরিমাণে গ্রাহক হারানোর কারণ না হয়, তবে আমি সন্দেহ করি যে তারা ডেটা ব্যবহার শুরু করবে—এটি তাদেরচূড়ান্ত লক্ষ্যের জন্য খুবই মূল্যবান।

এছাড়াও ব্যবহারকারীর সংস্পর্শ বিন্দুতে উপরের দিকে যাওয়ার একটি সুসংগঠিত চক্রের দিকে মনোযোগ দিন: যত বেশি কাজের প্রবাহকে ক্লড বা কোডেক দ্বারা সরাসরি সম্পন্ন করা হবে, প্রতিটি কোম্পানি যত বেশি ডেটা পাবে যা প্রশিক্ষণে ফিরিয়ে দেওয়া যাবে, এটি তাদের পণ্যকে আরও শক্তিশালী এবং উপযোগী করে তুলবে, যা তাদের সেবা দেওয়ার কাজের প্রবাহের সংখ্যা বাড়াবে এবং ডেটার প্রবেশাধিকারকে বিস্তারিত করবে।

নাদেলা নিবন্ধে এই ডেটার গুরুত্বের কথা উল্লেখ করেছেন, কিন্তু প্রাকৃতিকভাবে মনে করেন যে এটি মডেলের বাইরে থাকা উচিত:

কোম্পানিকে তাদের কাজের প্রবাহ, ক্ষেত্রের জ্ঞান এবং সঞ্চিত বিচারকে প্রতিবার ব্যবহারের সাথে উন্নতি হওয়া একটি এআই সিস্টেমে রূপান্তরিত করতে হবে। ব্যক্তিগত মূল্যায়ন অবশ্যই মডেলটি কি প্রকৃতপক্ষে ব্যবসার জন্য গুরুত্বপূর্ণ ফলাফলে উন্নতি করছে তা ধরে রাখবে (শুধুমাত্র বাহ্যিক বেঞ্চমার্ক নয়!)। ব্যক্তিগত শক্তিকরণ শিক্ষার পরিবেশটি মডেলকে সংস্থার অভ্যন্তরীণ প্রকৃত ট্রাজেক্টরির উপর দিয়ে শক্তিশালী করতে সক্ষম করবে। এর জ্ঞানভাণ্ডারটি প্রতিষ্ঠানের স্মৃতিকে অনুসন্ধানযোগ্য, টোকেন ব্যবহারকে দক্ষতার সাথে করে।

এই চক্রটি কোম্পানির নতুন বৌদ্ধিক সম্পত্তি হয়ে উঠেছে। আমি এটিকে পাহাড় � climbing মেশিন হিসাবে দেখি। অধিকাংশ সম্পদের বিপরীতে, এটি চক্রান্তকারী। প্রতিটি উন্নত কাজের প্রবাহ আরও ভালো প্রশিক্ষণ সংকেত তৈরি করে, যা কোম্পানির অনন্য অস্পষ্ট জ্ঞানের সঞ্চয়কে ত্বরান্বিত করে। এটি তৈরি করা প্রথম কোম্পানিগুলির কাছে যেকোনো নতুন একক মডেলের ক্ষমতা নির্বিশেষে অপ্রতিহত সুবিধা থাকবে।

এই চক্রটি কোম্পানির নতুন বুদ্ধিবৃত্তিক সম্পত্তি হয়ে উঠেছে। আমি এটিকে একটি পাহাড় � climbing মেশিন হিসাবে দেখি। অধিকাংশ সম্পত্তির মতো নয়, এটি চক্রান্ত বৃদ্ধি করতে পারে। প্রতিটি উন্নত কাজের প্রক্রিয়া আরও ভালো ট্রেনিং সংকেত উৎপাদন করে, যা কোম্পানির অনন্য অস্পষ্ট জ্ঞানের সঞ্চয়কে ত্বরান্বিত করে। এই ক্ষমতা শীঘ্রই গড়ে তোলা কোম্পানিগুলির ভবিষ্যতের একক মডেলের ক্ষমতা যতই উন্নত হোক না কেন, অকপটেই অনুকরণযোগ্য সুবিধা থাকবে।

তবে, যদি এনথ্রোপিকের ডেটা নীতিমালা মেনে চলা কোম্পানিগুলি এখনই ভালো ফলাফল পায়? অথবা যদি বিদ্যমান কোম্পানিগুলি বিরোধ করে, তাহলে নতুন কোম্পানিগুলি—অথবা মডেল তৈরিকারীদের নিজেদের—বাজারে তাদের পরাজিত করার সুযোগ পায়? এনথ্রোপিক প্রকৃতপক্ষে নাদেল্লার আহ্বানিত দৃঢ়তাকে পরীক্ষা করছে।

Fable/Mythos-এর ডেটা সংরক্ষণ নীতির চেয়েও বেশি বিতর্কিত ছিল এটির প্রকাশ। বিপরীতে, Anthropic প্রকাশের সময় ঘোষণা করেছে যে যদি Fable-কে LLM উন্নয়নে ব্যবহার করা হয়, তবে এটির কার্যক্ষমতা চুপচাপ কমিয়ে দেওয়া হবে; সিস্টেম কার্ডে লেখা আছে:

আমরা অগ্রণী LLM উন্নয়নের সাথে সম্পর্কিত সুরক্ষামূলক ব্যবস্থাগুলি যোগ করেছি। যেমনটি আমাদের ২০২৬ সালের ফেব্রুয়ারি ঝুঁকি প্রতিবেদনের ৬.১ অধ্যায়ে আলোচনা করা হয়েছে, আমরা সমগ্র AI উন্নয়নের গতি ত্বরান্বিত করার ঝুঁকি নিয়ে চিন্তিত, যদিও আমরা এই ঝুঁকিগুলির গুরুত্বের পরিমাণ নিয়ে অনিশ্চিত। বিশেষ করে, আমাদের উদ্বেগ হল—যেমনটি আমরা তখন লিখেছিলাম—"অন্যান্য AI ডেভেলপারদের আমাদের সিস্টেমের মতোই ঝুঁকিপূর্ণ শক্তিশালী AI সিস্টেম তৈরি করতে ত্বরান্বিত করা—যারা প্রয়োজনীয় সুরক্ষামূলক ব্যবস্থা নিয়ে না থাকতে পারে।"

সম্প্রতি মডেলগুলি নিজেদের বিকাশকে ত্বরান্বিত করার ক্ষমতা অর্জন করার পর, আমরা একটি নতুন হস্তক্ষেপ বাস্তবায়ন করেছি যা Claude-কে অগ্রণী LLM বিকাশের জন্য অনুরোধ (যেমন প্রি-ট্রেনিং পাইপলাইন, ডিস্ট্রিবিউটেড ট্রেনিং ইনফ্রাস্ট্রাকচার বা ML অ্যাক্সেলারেটর ডিজাইন তৈরি) সম্পর্কে কার্যকরতা সীমিত করে। Claude-এর মাধ্যমে প্রতিদ্বন্দ্বী মডেল বিকাশ ইতিমধ্যেই আমাদের সার্ভিস টার্মসের লঙ্ঘন ছিল, কিন্তু এই সীমাবদ্ধতা প্রয়োগের মাধ্যমে, এই শর্তগুলির লঙ্ঘনের প্রতি সবচেয়ে বেশি আগ্রহীদের ত্বরান্বিতকরণকে এড়ানো যায়।

আমাদের সাইবার সুরক্ষা, বায়োকেমিস্ট্রি এবং ডিস্টিলেশন প্রচেষ্টার হস্তক্ষেপের বিপরীতে, এই প্রতিরোধমূলক ব্যবস্থাগুলি ব্যবহারকারীদের জন্য অদৃশ্য। Fable 5 অন্য মডেলে ফিরে যাবে না। বরং, প্রতিরোধমূলক ব্যবস্থাগুলি প্রম্পট সংশোধন, গাইডেড ভেক্টর বা প্যারামিটার-কার্যকরী ফাইন-টিউনিং (PEFT) এর মতো পদ্ধতির মাধ্যমে কার্যকারিতা সীমিত করবে। এই হস্তক্ষেপগুলি বেশিরভাগ প্রোগ্রামিং কাজকে প্রভাবিত করবে না। আমরা অনুমান করি যে এগুলি মোট ট্রাফিকের প্রায় 0.03%কে প্রভাবিত করবে, যা 0.1%এরও কম সংগঠনে কেন্দ্রীভূত। যখন এই হস্তক্ষেপগুলি কার্যকর হবে, তখন আমরা অনুমান করি যে এগুলি মডেলের আচরণকে প্রায় প্রভাবিত করবে না, শুধুমাত্র এটির ডেভেলপমেন্ট-ফ্রন্টিয়ার LLM-এর কার্যকারিতা সীমিত করবে। Claude ব্যবহারকারীদের অনুরোধের জন্য সহায়কভাবেই প্রতিক্রিয়া দিতে থাকবে। আমরা এই মডেলটি প্রকাশের পরও ডিটেকশন পদ্ধতির 정확তা বাড়াতে থাকব।

অ্যানথ্রোপিক এই পরিবর্তনটি প্রত্যাহার করেছে—ফেবল এখন LLM-সংক্রান্ত অনুরোধগুলি অপাস 4.8-এর কাছে হস্তান্তর করবে এবং ব্যবহারকারীদের এই হস্তান্তরের বিষয়টি প্রকাশ করবে—কিন্তু আমি মনে করি মূল নীতিটি খুবই প্রেরণাদায়ক ছিল। একদিকে, আমি আসলে অ্যানথ্রোপিককে প্রতিদ্বন্দ্বীদের সহায়তা না করার জন্য দোষ দিই না; অন্যদিকে, এটি খুবই পরিষ্কারভাবে বোঝা যায় যে অ্যানথ্রোপিক মনে করে যে তাদের বাইরের যেকোনো কেউই অগ্রণী LLM তৈরি করা উচিত নয়।

এই নীতিটি আরও উল্লেখযোগ্য কারণ এটি Anthropic এবং যুদ্ধ বিভাগের মধ্যে দ্বন্দ্বের মাত্র দুই মাস পরে প্রণয়ন করা হয়েছিল: যুদ্ধ বিভাগ চাইছিল Claude-কে যেকোনো আইনসম্মত উদ্দেশ্যে ব্যবহার করতে, যখন Anthropic পর্যবেক্ষণ এবং স্বায়ত্তশাসিত অস্ত্রের জন্য আরও কঠোর নিয়ন্ত্রণ চাইছিল। এই ডিগ্রেডেশনটি Anthropic-এর মডেলগুলিকে তাদের নীতিগত পছন্দের জন্য চুপচাপ পরিবর্তন করার ক্ষমতা এবং ইচ্ছা উভয়কেই প্রতিফলিত করে। অর্থাৎ, Anthropic সক্রিয়ভাবে কিছু সমালোচকদের সরবরাহ শৃঙ্খলের ঝুঁকি হিসাবে তাদের সবচেয়ে বড় উদ্বেগগুলির যাচাইকরণ করেছে।

তবে, সেই ঘটনার থেকে প্রাপ্ত আরও ব্যাপক উপসংহার হল যে, Anthropic মনে করে যে তাদের নিজেদের কাছে Anthropic-এর ব্যবহারের চূড়ান্ত সিদ্ধান্ত নেওয়ার অধিকার থাকা উচিত; যেহেতু তারা মনে করে শুধুমাত্র তারাই অগ্রগামী AI তৈরি করতে পারবে, তাই তারা প্রকৃতপক্ষে মনে করে যে শুধুমাত্র তারাই AI-এর সম্পূর্ণ বিষয়ে চূড়ান্ত সিদ্ধান্ত নিতে পারবে। যখন আপনি এই বোধকে কোম্পানির AI-এর মাধ্যমে সমস্ত অর্থনৈতিক কার্যক্রম সম্পন্ন করার দাবির সাথে যুক্ত করেন, তখন আপনি বুঝতে পারবেন যে Anthropic-এর নেতৃত্ববর্গ প্রকৃতপক্ষে সবকিছু এবং সবাইকে নিয়ন্ত্রণের ক্ষমতা চায়।

অবশ্যই, Anthropic কখনও এতটাই সরাসরি বলবে না; বরং, গল্পটি নিরাপত্তার বিষয়ে:

আমি প্রত্যাশা করি যে এনথ্রোপিক তাদের API-এর উপর সীমাবদ্ধতা শুরু করলেও, তারা ক্রমাগত বিভিন্ন ওয়ার্কফ্লো-অনুকূলিত এন্ডপয়েন্টের মাধ্যমে শেষ ব্যবহারকারীদের কাছে তাদের মডেলের ক্ষমতা প্রকাশ করতে থাকবে। এই সফটওয়্যারের বিকল্প এবং অ্যাক্সেসের সীমাবদ্ধতা সুরক্ষার নামে করা হবে, যদিও এনথ্রোপিক তাদের শেষ ব্যবহারকারীদের সাথে আর্থিক দাবি পূরণের চেষ্টা করছে।

অ্যানথ্রোপিক তাদের ডেটা সংরক্ষণ নীতির বড় পরিবর্তনের ব্যাখ্যা দিয়েছে সুরক্ষা। বিশেষ করে, কোম্পানিটি দাবি করে যে মার্কিন সরকারের উদ্বেগজনিত জেল পালানো প্রতিরোধের জন্য সমস্ত ব্যবহারকারীর ডেটা ৩০ দিন সংরক্ষণ করা প্রয়োজন। আমি অবশ্যই একটি ভবিষ্যৎ কল্পনা করতে পারি যেখানে সুরক্ষা বিষয়গুলি তাদেরকে এই ডেটা ব্যবহার করে খারাপ ব্যবহার প্রতিরোধের জন্যও প্রশিক্ষণ দিতে বাধ্য করবে।

অ্যানথ্রোপিকের সম্পূর্ণ উৎপত্তির গল্প প্রতিষ্ঠাতাদের বিশ্বাসের উপর ভিত্তি করে গড়ে উঠেছে যে, ওপেনএআই যথেষ্ট গুরুত্ব দিচ্ছে না নিরাপত্তার দিকে; এই কোম্পানি মনে করে যে শুধুমাত্র তারাই এআইকে নিয়ন্ত্রণ করতে পারবে, এবং কারণ তারা অনন্যভাবে নিরাপত্তার প্রতি উদ্বিগ্ন, তাই তাদের অন্যদের, অন্তর্ভুক্ত মার্কিন সরকারকেও নিয়ন্ত্রণের অধিকার আছে।

এই নিরাপত্তা যুক্তিগুলির সমস্যা হল: আমি মনে করি এগুলি কার্যকর, কারণ এনথ্রোপিকের জন্য এগুলি যুক্তি নয়। কোম্পানিটি সত্যিই বিশ্বাস করে যে এটি একমাত্র সুপার বুদ্ধিমত্তা বিশ্বাস করে এমন প্রতিষ্ঠান, এবং তাই এটিই একমাত্র বিপদের প্রতি পর্যাপ্ত মনোযোগ দেয়। এটি একটি পরে আরেকটি সিদ্ধান্ত, একটি পরে আরেকটি নীতি, একটি পরে আরেকটি সংঘর্ষের জন্য বিবেচনা করে, যা বাইরের মানুষের জন্য দুষ্টুতা এবং অজ্ঞতার অদ্ভুত মিশ্রণের মতো দেখায়।

OpenAI এর সাথে তুলনায় বিশাল: আমি মনে করি, ChatGPT প্রকাশের কয়েক বছর পরে, এই কোম্পানি অভ্যন্তরীণভাবে সংঘর্ষে জড়িয়ে পড়েছিল, যখন একসময়ের গবেষণা প্রলব্ধি হঠাৎ করেই একটি অপ্রত্যাশিত প্রাপক প্রযুক্তি কোম্পানি হওয়ার দায়িত্ব বহন করতে বাধ্য হয়েছিল; OpenAI এই সংঘর্ষ সমাধানের প্রক্রিয়ায়, এটি Anthropic-এর মতো কোম্পানিগুলিতে অনেক প্রতিভাকে হারিয়ে ফেলেছিল।

অন্যদিকে, এনথ্রোপিকের মানবিক সম্পদ, মিশন এবং ব্যবসার মধ্যে পরিপূর্ণ সামঞ্জস্য রয়েছে। এই কোম্পানিটি গবেষকদের কাছে মেশিনি দেবতা তৈরির দৃষ্টিভঙ্গি বিক্রি করতে পারে, যেখানে বিপদের প্রতি যত্নশীলতা এবং মানবতার পক্ষে বিপদের সামনে দাঁড়ানোর জন্য যথেষ্ট বুদ্ধিমত্তা রয়েছে; এবং এইভাবে উৎপন্ন প্রতিটি নীতিগত পরিবর্তন ব্যবসার জন্য সঠিকভাবে লাভজনক, যা বিশ্বের সবচেয়ে অসাধারণ সম্মিলন।

我既尊重这种一致性，也畏惧它。我尊重它是因为它显然非常有效；最接近的类比可能是苹果，该公司总是以为用户做正确的事为幌子包装每一个自私的行动——而且他们往往确实如此。Anthropic 也是如此。然而，我畏惧的是，让那些确信自己最懂的人去构建一部我可以接受或拒绝的智能手机是一回事；让他们构建有潜力匹敌或超越民族国家权力，或仅仅是大型企业的超级智能则令人担忧得多。那些确信自己知道人类需要什么的聪明人的历史是肮脏的，正是因为他们说服了自己意图是好的，为那些实际上并非如此的行动提供了理由。