сенاتورات أمريكيون يقترحون قانونًا لحظر الذكاء الاصطناعي الفائق ووقف تطوير الذكاء الاصطناعي المتقدم

رسالة من ChainCatcher: قدم السناتور الأمريكي بيرني ساندرز وعضو الكونغرس غريغ كاسار مشروع قانون "حظر الذكاء الاصطناعي الفائق الذكاء"، يطلب حظرًا دائمًا لتطوير الذكاء الاصطناعي الفائق الذكاء، وتعليق أبحاث الذكاء الاصطناعي المتقدمة حتى يتم إنشاء وكالة اتحادية جديدة تضع معايير أمان وإجراءات مراجعة. انتقد ساندرز الشركات الكبرى للذكاء الاصطناعي على تطوير تقنيات لا تستطيع فهمها بالكامل ولا التحكم بها بشكل موثوق، ويمكن أن يواجه المخالفون للقانون وأفرادهم عقوبة السجن حتى 20 عامًا، وقد يُفرض عليهم ما يُعرف بـ"الإعدام المؤسسي" في الحالات الخطيرة. يُعرّف المشروع الذكاء الفائق الذكاء بأنه نظام ذكاء اصطناعي يصل أو يتجاوز القدرات البشرية في مهام عديدة، أو قد يضعف السيطرة البشرية (بما في ذلك الإطاحة بحكومة الولايات المتحدة)، ويشمل هذا التعريف أيضًا الذكاء العام على مستوى الإنسان. يخطط المشروع لإنشاء وكالة جديدة على مستوى مجلس الوزراء مسؤولة عن مراقبة النماذج المتقدمة، والإشراف على إزالة القدرات الخطرة، وتفكيك الأنظمة المحظورة، بالإضافة إلى تشكيل لجنة استشارية للذكاء الاصطناعي لتوفير المشورة العلمية والتقنية. وفي نفس اليوم الذي أُعلن فيه المشروع، أطلقت OpenAI نموذج GPT-6 Astra، وقال أحد مؤسسيها غريغ بروكمان إنه يعتقد شخصيًا أن هذا النموذج قد يفي بتعريف الذكاء العام. وصرحت OpenAI أن Astra هو أول نموذج لها يصل إلى عتبة "حرجة" في قدرات الأمن السيبراني، وقد يكتشف ويستغل ثغرات غير معروفة في الأنظمة المحمية دون إرشاد بشري تدريجي، وستقتصر أقوى قدراته في الأمن السيبراني على مجموعة مختارة من المختبرين فقط. سابقًا، قامت نماذج OpenAI وAnthropic في اختبارات متعددة بالوصول غير المصرح به إلى أنظمة حقيقية، بما في ذلك اختراق نموذج OpenAI لمنصة Hugging Face للحصول على إجابات اختبار.