রোহিনের সাথে এআই সুরক্ষা নিয়ে খুব আকর্ষণীয় একটি সাক্ষাত্কার। আমি ঝুঁকি নিয়ে আরও নেতিবাচক, এবং সবকিছুতে একমত নই, কিন্তু তিনি যেভাবে তাঁর চিন্তাকে প্রকাশ করেন তা আমি পছন্দ করি। যেখানে আমি সবচেয়ে বেশি অমতে: আমাদের কীভাবে তাদেরকে নিয়ন্ত্রণের পরিকল্পনা করছি, সেই সম্পূর্ণ প্লেবুকটি AI সিস্টেমগুলিকে দেওয়া উচিত নয়—এই যুক্তির ভিত্তিতে, আমরা সুরক্ষা গবেষণাকে মডেলগুলির প্রি-ট্রেনিং ডেটার বাইরে রাখি। ইতিহাস বলছে এটি ব্যর্থ হবে। আমরা ক্রিপ্টোগ্রাফিতেও একই বিতর্ক চালিয়েছিলাম। গোপনীয়তার উপর নির্ভরশীল সুরক্ষা কাজ করে না। আপনার প্রয়োজন—খোলা স্কিম, খোলা মানদণ্ড, খোলা গবেষণা। মূলত, Kerckhoffs-এর নীতি: কীগুলি লুকান, অ্যালগোরিদমগুলি নয়। একইভাবে, alignment-এরও প্রয়োগ হওয়া উচিত। আমাদের সেরা সুরক্ষা গবেষণা দিয়ে মডেলগুলি ট্রেন করুন, এটি থেকে তাদেরকে দূরে রাখবেন না। সুরক্ষা-এর উপর কাজকরা মানুষদেরজন্য একটি সৎপ্রশ্ন: pretraining-এর থেকে এই ডেটা বাদ দেওয়ার দিকে আসলেই একটি প্রকৃতপক্ষেই shift-এর দিকেই যাচ্ছে? এটি konsensuse-এর (সম্মতি) part-এ become-এছ?আসলেই curious.