مقابلة مثيرة حقًا مع روهين حول سلامة الذكاء الاصطناعي. أنا أكثر تشاؤمًا بشأن المخاطر، ولا أوافق على كل ما ورد فيها، لكنني أحب الطريقة التي يُشكّل بها تفكيره. المكان الذي أختلف فيه أكثر: استبعاد أبحاث التوافق من بيانات التدريب المسبق للنماذج، بناءً على المنطق القائل بأنه لا ينبغي لنا أن نُزوّد أنظمة الذكاء الاصطناعي بالخطة الكاملة لكيفية احتجازها. لكن التاريخ يشير إلى أن هذا يفشل. لقد أجرينا نفس النقاش في التشفير. الأمن عبر التخفي لا يعمل. تحتاج إلى مخططات مفتوحة، ومعايير مفتوحة، وأبحاث مفتوحة. ببساطة، مبدأ كيركهوفس: اخفي المفاتيح، وليس الخوارزميات. ينبغي تطبيق نفس المبدأ على التوافق. درّب النماذج على أفضل أبحاث السلامة لدينا، ولا تمنعها منها. سؤال صادق للأشخاص العاملين في مجال السلامة: هل هناك تحول حقيقي نحو استبعاد هذه البيانات من التدريب المسبق؟ هل أصبح هذا إجماعًا؟ أ genuinely فضولي.