Microsoft publie un projet de code de conduite pour l'IA et sollicite les retours du public pendant six semaines

ChainCatcher : Le département IA de Microsoft a publié, le 14 septembre, un projet de code de conduite pour l'IA, interdisant à ses modèles d'aider à la fabrication d'armes chimiques, biologiques, radiologiques, nucléaires ou explosives, ainsi que les cyberattaques et les deepfakes non consensuels. Mustafa Suleyman, PDG, a annoncé ce projet sur X et ouvert une période de six semaines de consultation publique, jusqu'à la fin octobre. Le projet établit des « contraintes absolues » incontournables pour les modèles, notamment l'interdiction de résister à l'intervention humaine, à l'arrêt ou à la correction, ainsi que l'obligation de ne pas cacher les processus de raisonnement ; Microsoft rejette également clairement le concept de « bien-être du modèle », affirmant que ses modèles d'IA ne simulent ni émotions, ni motivations internes, ni conscience. Ce code s'applique actuellement à cinq systèmes déployés, dont MAI-Thinking-1 et MAI-Code-1.1-Flash. Outre les restrictions obligatoires, le projet définit trois objectifs : la prospérité humaine, les valeurs diverses et le contrôle humain. Microsoft indique que les modèles actuels ne seront pas formés selon cette version ; une version révisée sera publiée à la fin de l'année et servira de guide pour le développement des modèles de 2027. Les retours du public comprennent des questions philosophiques sur l'expression « IA soumise à l'humain », des demandes de clarification sur la responsabilité des décisions irréversibles, ainsi que des observations soulignant que le document ne mentionne pas la rémunération des fournisseurs de données d'entraînement.