এই সপ্তাহে, আমি "If Anyone Builds It, Everyone Dies" বইটি এবং Lens Academy-এর "AI Risk Fundamentals" কোর্সটি শেষ করেছি। @So8res এবং @ESYudkowsky বইটির জন্য অসাধারণ কাজ করেছেন। গল্প এবং উদাহরণগুলি অত্যন্ত কঠিন একটি বিষয়কে অনেক বেশি বোঝা সহজ করে তুলেছে। মূল ধারণাটি খুব সরল: যদি আমরা বুঝতে না পারি যে আমরা বাস্তবে কী তৈরি করছি, তবে সুপারইন্টেলিজেন্ট AI-এর দিকে এগিয়ে যাওয়ার ফলে আমরা এটিকে ঠিক করার জন্য আরও একটি সুযোগ পাব না। লেখকদের মতে, যথেষ্ট উন্নত AI-এর সম্ভাব্যতা রয়েছে মানবজাতির বিলুপ্তির কারণ হওয়ার, অর্থাৎ আমরা চূড়ান্তভাবে এমন কিছু তৈরি করতে পারি যা মানবজাতিকেই শেষ করে দেবে। লেখকদের মতে, এটি শুধুমাত্র আরেকটি প্রযুক্তির ঢলের মতো নয়। এটি মৌলিকভাবে ভিন্ন, এবং এই সিস্টেমগুলির নির্মাণ বা নিয়ন্ত্রণের পদ্ধতিতে একটুওভুলভাবেই,আমরা । তাদের । আমার । আমাদের । ফ্রন্টিয়ার । আমরা । এই ।