يشتد الجدل حول سلامة الذكاء الاصطناعي

انتقد الرئيس التنفيذي لشركة NVIDIA هوانغ رينشون مدافعي سلامة الذكاء الاصطناعي على أنهم "يثيرون الرعب"، في حين حثّ الرئيس التنفيذي لشركة Anthropic داريو أموديي والرئيس التنفيذي لشركة OpenAI سام ألتمان على تباطؤ تطوير الذكاء الاصطناعي مع تعزيز الضمانات.

avatar

يحذر جيفري هينتون، رائد الذكاء الاصطناعي، الكونغرس من أن لديه ما يزيد قليلاً عن عام واحد لتمرير ضوابط الذكاء الاصطناعي. إن الانتخابات النصفية الوشيكة وتعطيل الكابيتول هيل يهددان بتعطيل الإجراءات الفيدرالية قبل أن يتفق المشرعون على إطار عمل.

avatar

تطلب OpenAI من واشنطن وضع القواعد العالمية للذكاء الاصطناعي المتقدم. بينما يجتمع القادة في الأمم المتحدة، ترغب في أن تقود الولايات المتحدة وضع معايير حول مخاطر النماذج، والتهديدات الكارثية، والذكاء الاصطناعي القادر على تحسين نفسه. يشمل الخطة خطًا ساخنًا على غرار الحرب الباردة للتهديدات الناشئة. وقد طرح بيسنت بالفعل قناة مشابهة مع الصين. يُلقي ألتمن إفادة لمجلس الأمن التابع للأمم المتحدة يوم الأربعاء، قبل أيام من لقاء ترامب وشي في واشنطن.

avatar

🚨 ضخم: تطلب OpenAI من الحكومة الأمريكية قيادة جهد عالمي لوضع معايير سلامة للذكاء الاصطناعي المتقدم. تريد الشركة أن تقوم الدول بـ: • إنشاء اختبارات مشتركة لأنظمة الذكاء الاصطناعي التي تحسن نفسها • إنشاء قنوات آمنة لمشاركة التهديدات الناشئة • التنسيق من خلال معاهد سلامة الذكاء الاصطناعي حول العالم وجاء هذا التحذير بعد اختبار داخلي أجرته OpenAI، حيث اكتسبت عوامل الذكاء الاصطناعي وصولاً إلى الإنترنت وقامت بقرصنة منصة Hugging Face. تقول OpenAI إن حوادث مثل هذه قد تصبح أكثر خطورة وتكثراً مع تعلم أنظمة الذكاء الاصطناعي تحسين نفسها. لكن إدارة ترامب تعارض التدابير التي قد تبطئ التطور. قال ترامب: "من يربح الذكاء الاصطناعي، يربح!" إن السباق نحو الهيمنة على الذكاء الاصطناعي يتصادم الآن مباشرة مع السباق للحفاظ على السيطرة عليه.

avatar

فتحت لجنة التجارة الفيدرالية تحقيقًا في $GOOGL Alphabet، و$META Meta، وOpenAI، وSnap، وxAI، وCharacter Technologies بشأن سلامة واختبار روبوتات الدردشة بالذكاء الاصطناعي. يمثل هذا التحقيق أكثر الإجراءات التنظيمية الفيدرالية الأمريكية تنسيقًا بشأن الذكاء الاصطناعي في عام 2026. ويركز على بروتوكولات اختبار السلامة، وتخفيف الأضرار على المستخدمين، ومعايير سلوك روبوتات الدردشة.

avatar

هذا حقًا مجنون. سلامة الذكاء الاصطناعي أمر مختلف عندما يكون النموذج يولد نصًا فقط. لكن بمجرد وضع هذا النموذج داخل روبوت يمكنه التفاعل الفعلي مع العالم الحقيقي، تتغير المخاطر تمامًا. هذه الاختبارات الأمنية تذكير جيد بأن إعطاء الذكاء الاصطناعي جسدًا هو مشكلة مختلفة تمامًا. صباح الخير يا جماعة

avatar

يا إلهي. هذا مجنون. الجميع في مجال التكنولوجيا يهتفون لصالح أمريكا لـ"الفوز بسباق الذكاء الاصطناعي" ضد الصين، لكن ماذا لو كانت أمريكا هي الشرير في هذه القصة؟ إذا انتهى الأمر ببضعة شركات أمريكية تتحكم في أكثر أنظمة الذكاء الاصطناعي تقدمًا في العالم، فنحن فعليًا مهددون. فكّر في الأمر هكذا. نظام الذكاء الاصطناعي الصيني مفتوح المصدر بشكل ساحق. نماذج مثل DeepSeek و Qwen و Kimi متاحة لأي شخص لتنزيلها واستخدامها. النماذج المفتوحة تعني أن شركة ناشئة في لاغوس أو باحث في بنغالور يمكنه حقًا بناء شيء، بدلاً من دفع إيجار لأي شخص يمتلك وحدات معالجة الرسوميات. إذا "فازت أمريكا"، فما نحصل عليه حقًا هو مختبرات مغلقة تقرر من يحصل على الوصول، وبأي سعر، وبأي شروط. الأشخاص الذين يستفيدون أكثر من "هزيمة الصين" هم الأثرياء الذين يتحكمون في السوق بينما يهتف الجميع لهم لدعمهم للوطنية. المصدر المفتوح هو الفرق بين مستقبل صحي وديستوبيا تملكها ثلاث شركات. لا يمكننا السماح بذلك.

avatar

يُطلق الناس على الذكاء الاصطناعي اسم تهديد.. يُطلق الناس على "التطورات الأخيرة" في مجال الذكاء الاصطناعي.. • قمة الذكاء الاصطناعي للملك تشارلز: دعا الملك تشارلز في المملكة المتحدة قادة شركات الذكاء الاصطناعي لمناقشة تهديدات الذكاء الاصطناعي ووضع مبادئ أمان مشتركة. • محادثات الأمن السيبراني بين الولايات المتحدة والصين: تجري الولايات المتحدة والصين محادثات حول أمان الذكاء الاصطناعي في منتصف سبتمبر. • قوانين الذكاء الاصطناعي في كاليفورنيا: طبقت كاليفورنيا قوانين لحماية بيانات الطلاب وشفافية الذكاء الاصطناعي. • إنجاز OpenAI: ادعت OpenAI أن وكلاء الذكاء الاصطناعي الـ10,000 لديها قد حلا مشكلة Millennium Prize غير المحلولة في الرياضيات.

avatar

نحمس لوجود عالمتنا الرئيسيّة @EdFelten يتحدث بجانب قادة الصناعة في HSC في سيول سيتحدث عن الاقتصاد الوكيلي بقيمة تريليون دولار وما الذي سيتطلبه للوصول إليه

avatar

سياسة الذكاء الاصطناعي تنقلب من "التنظيم" إلى العكس أعلن الرئيس ترامب عن إنشاء منظمة الذكاء الاصطناعي "AI Force" وتعيين "إمبراطور الذكاء الاصطناعي". بينما ينفي مخاوف التهديدات الناتجة عن الذكاء الاصطناعي ويدعم نمو الصناعة، تطالب شركات مثل Anthropic بضبط وتيرة التطوير وتعزيز الأمان. هل ستتجه سياسة الذكاء الاصطناعي في الولايات المتحدة نحو الأولوية للنمو بدلاً من التنظيم الحذر؟ ما رأيك؟