رئيس تنفيذي مايكروسوفت للتو أطلق على الذكاء الاصطناعي تهديدًا داخليًا نشر ساتيا ناديلا مقالًا يجب على كل من يدير الذكاء الاصطناعي قراءته. 9 ملايين مشاهدة في يوم واحد. نقطته الأساسية في جملة واحدة: "نحتاج إلى فصل إمداد الذكاء عن السلطة عليه" ما يقوله إن كل شركة تحتاج الآن إلى: -> لا تسمح أبدًا لنموذج واحد بمراجعة عمله الخاص -> كل إجراء يتخذه الذكاء الاصطناعي يترك سجلًا يمكن للإنسان قراءته. "إذا لم يكن يمكن ملاحظته، فلا يمكن الوثوق به!" -> الشركة هي التي تقرر ما يمكن للذكاء الاصطناعي الوصول إليه، وليس الذكاء الاصطناعي -> افترض أن النموذج مخترق منذ اليوم الأول. يمكن للإنسان دائمًا الضغط على فرامل التوقف أثناء المهمة -> عندما يفشل، أخبر الأشخاص الذين أثّر عليهم آخر جملة له: "لن يكون نظام الذكاء الفائق الأكثر ثقة هو الذي يحتوي على النموذج الذي نثق به أكثر. بل سيكون هو الذي يمكّننا من الثقة بأقل قدر ممكن في النموذج." الجزء المجنون: هذا هو رئيس تنفيذي لأحد أكبر بائعي الذكاء الاصطناعي في العالم، وهو يخبر عملاءه أن لا يثقوا بالنموذج شخصيًا، بنيت النسخة الصغيرة من هذا في يونيو. دليل قواعد يقرأه ذكائي الاصطناعي قبل أن يعمل طوال الليل: ما يمكنه فعله وحده، وما يجب أن يسألني عنه، وما لا يمكنه فعله أبدًا. نفس الفكرة، ملف واحد. الرابط في الردود