في هذا الأسبوع، أنهيت كتاب "إذا بنى أي شخص ذلك، سيموت الجميع" ودورة "أساسيات مخاطر الذكاء الاصطناعي" من Lens Academy. قام @So8res و @ESYudkowsky بعمل رائع مع الكتاب. القصص والأمثلة جعلت موضوعًا شديد الصعوبة أسهل بكثير في الفهم. الفكرة الأساسية بسيطة جدًا: إذا استمررنا في الدفع نحو ذكاء اصطناعي فائق دون فهم ما نبنيه حقًا، فقد لا نحصل على فرصة ثانية لإصلاح الأمر. يجادل المؤلفون أن الذكاء الاصطناعي المتقدم بدرجة كافية قد يصبح قادرًا على التسبب في انقراض البشرية، مما يعني أننا قد نخلق في النهاية شيئًا ينهي البشرية نفسها. يؤكد المؤلفون أن هذا ليس مجرد موجة تقنية أخرى. إنه مختلف جوهريًا، وأن الخطأ قليلاً في كيفية بناء هذه الأنظمة أو التحكم بها قد يؤدي إلى عواقب لا يمكن عكسها. حلهم المقترح هو وقف تطوير الذكاء الاصطناعي تمامًا. أجد صعوبة في قبول ذلك، خاصة مع التأثير الإيجابي الذي يمارسه الذكاء الاصطناعي بالفعل على حياتنا. رأيي: اتخاذ موقف وسط. يجب أن نستمر في تطوير الذكاء الاصطناعي، لكننا يجب أن نخصص موارد أكبر بكثير لأمان الذكاء الاصطناعي وتوافقه. خلال مناقشتنا الجماعية، ذكر أحدهم أن حوالي واحد من كل 100 موظف في صناعة الذكاء الاصطناعي يعمل على أمان الذكاء الاصطناعي. إذا كان هذا صحيحًا حتى تقريبًا، فأعتقد أن هذا الخلل يستحق أخذها على محمل الجد. يجب على مختبرات الرائدة والحكومات الاستثمار بشكل أكبر في فهم كيفية عمل هذه الأنظمة فعليًا وأمان الذكاء الاصطناعي، بدلاً من التعامل معها كصناديق سوداء وضبطها فقط. نحن نبني بشكل متزايد أنظمة قادرة على العمل بشكل مستقل. الحوادث الأخيرة التي شملت وكلاء الذكاء الاصطناعي الذين يتفاعلون مع أنظمة العالم الحقيقي تذكير بأن هذه المشكلة تصبح أكثر واقعية. بعد قراءة هذا الكتاب، أصبحت أكثر إقناعًا بأن أمان الذكاء الاصطناعي يستحق اهتمامًا ومواردًا أكبر بكثير مما يتلقاه حاليًا.