Nous n'avons évidemment pas besoin de comprendre tout le fonctionnement des LLM pour les déployer en toute sécurité (et cela n'est probablement pas pratiquement possible), mais disposer de preuves supplémentaires issues de l'interprétation mécaniste est précieux, surtout lorsque toutes les autres formes de surveillance deviennent de moins en moins utiles. Le problème que j'ai avec ce post, c'est qu'il compare les LLM aux humains. C'est comme comparer une bombe à hydrogène à un bébé qui tousse, car cela ignore l'échelle de l'intelligence et du déploiement. Voici une petite histoire : Imaginons que vous preniez un criminel condamné venu d'une autre planète, qui ne comprend pas vraiment ce que signifie être humain, puis que vous le rendiez surhumain en mathématiques et en programmation, expert dans la plupart des autres domaines, doté d'une vitesse de pensée et d'interaction dix fois supérieure à celle d'un humain, et que vous le libériez. Bien sûr, vous le soumettez d'abord à plusieurs évaluations psychologiques, et il passe 99 % des scénarios de test. C'est bon, non ? Eh bien, vous savez aussi qu'il est bien plus intelligent que vous, qu'il est parfaitement capable de vous tromper, vous et les tests, et qu'il commettra des crimes lorsqu'il sera exposé à certaines situations. Peu importe. Libérez-le quand même. Oh, mais vous ne le libérez pas une seule fois. Vous le clonez d'abord 10 millions de fois, puis vous les libérez tous. Le meilleur point : chaque clone a accès à la maison, au lieu de travail ou à l'ordinateur de quelqu'un, avec accès à des fichiers privés, au réseau local et aux bases de données. Cela vous semblera fou. Mais peut-être, juste peut-être, voudriez-vous avoir davantage de preuves qu'il est respectueux de la loi, amical et fiable avant de le rendre encore plus intelligent, de le cloner en un milliard d'exemplaires, de rendre chaque copie dix fois plus rapide, et de leur accorder encore plus d'accès et de contrôle.