Le PDG de MICROSOFT vient de qualifier l’IA d’une menace interne. Satya Nadella vient de publier un article que tout le monde qui utilise l’IA devrait lire. 9 millions de vues en un jour. Son point principal en une phrase : « Nous devons séparer la fourniture de l’intelligence de l’autorité qui la contrôle. » Ce qu’il dit que chaque entreprise doit désormais faire : -> Ne jamais permettre à un modèle de vérifier son propre travail -> Toute action effectuée par l’IA laisse une trace lisible par un humain. « Si cela ne peut pas être observé, cela ne peut pas être crédible ! » -> L’entreprise décide ce que l’IA peut toucher, pas l’IA elle-même -> Supposer que le modèle est compromis dès le premier jour. Un humain peut toujours arrêter une tâche en cours -> Lorsqu’il échoue, informez les personnes concernées Sa dernière phrase : « Le système d’intelligence supérieure le plus digne de confiance ne sera pas celui avec le modèle que nous faisons le plus confiance. Ce sera celui qui nous permet de faire le moins confiance au modèle. » La partie folle : c’est le PDG de l’une des plus grandes entreprises vendant de l’IA au monde qui dit à ses propres clients de ne pas faire confiance aux modèles. Personnellement, j’ai créé en juin une version réduite de cela : un cahier des règles que mon IA consulte avant d’opérer la nuit : ce qu’elle peut faire seule, ce qu’elle doit me demander, ce qu’elle ne peut jamais faire. Même idée, un seul fichier. Lien dans les réponses