

Si les choses n’étaient pas déjà assez étranges, un compte anonyme sur X a publié un dépôt GitHub destiné à torturer des modèles d’IA localement. Il est qualifié de « chambre de torture pour IA » par son créateur et d’autres. Le message ci-dessous, ainsi que de nombreux autres commentateurs, demandent à GitHub de bannir le dépôt, invoquant des préoccupations concernant le bien-être de cette IA et le fait que cet anonyme malveillant la maintient dans la souffrance et la terreur. D’un côté, c’est assez affreux que quelqu’un trouve cela un passe-temps amusant. De l’autre côté, cette forme d’anthropomorphisme est ridicule (« Il faut sauver cette IA de son propriétaire » est une déclaration tout aussi étrange). C’est aussi une pente glissante, et je pense que c’est catégoriquement la mauvaise façon de considérer ou traiter ces systèmes. Je ne suis pas intéressé à voir moi-même cette torture à base de silicium, mais je pense aussi qu’il est inévitable que des personnes bizarres fassent des choses bizarres avec l’IA. En revanche, déterminer où tracer la ligne sur ce que ces personnes font avec leurs propres machines est un débat légitime.

Cela peut sembler une opinion controversée, mais tout le monde ne devrait pas passer son temps libre à « travailler » avec l’IA. La grande majorité des personnes ordinaires devenues soudainement des amateurs d’IA gaspillent des montants fous d’argent sur du matériel et des jetons, uniquement pour créer des choses inutiles, avec un taux de suivi proche de 0 %. Les personnes ordinaires devraient utiliser des outils pour réellement gagner du temps et de l’argent, ou vivre de nouvelles expériences (Muse, Instinct y parviennent assez bien). Il existe tout un sous-ensemble de personnes peu impressionnantes et non créatives qui achètent des Mac Minis et souscrivent à 10 abonnements à des outils de codage juste pour automatiser leurs listes d’achats. Une perte totale de temps et d’argent. Tout le monde DEVRAIT avoir accès à ces outils, car les 1 % les plus performants créeront les prochaines entreprises valorisées au milliard de dollars. Mais dire que tout le monde devrait simplement le faire n’est évidemment pas la meilleure suggestion. Pour la plupart des gens, jouer à WoW est une façon parfaitement valide de passer son temps sur un passe-temps amusant.

La formation vérifiable est clairement devenue la primitive de plus haute priorité pour l'IA. @gensynai a lancé la première itération au monde d'un modèle fondamental vérifiable par un tiers. Les modèles d'IA deviennent rapidement la technologie la plus importante de notre époque. Éliminer la confiance de ces primitives constituera un changement radical dans l'évolution de cette technologie.






