TRUMP VIENT D’OBTENIR LA SIGNATURE DE TOUTES LES GRANDES DIRIGEANTES D’IA POUR UN ENGAGEMENT À SE CONTRÔLER LUI-MÊME. IL L’APPELLE « MORALEMENT LIEU ». Hier à la Maison Blanche : Musk, Zuckerberg, Huang, Amodei, Pichai et Brockman ont signé le « Accord de la Maison Blanche sur la superintelligence ». Une page. Quatre engagements : contrôles internes sur les risques cyber, biologiques et chimiques équipes internes pour vérifier que les contrôles fonctionnent auditeurs externes indépendants comités du conseil pour examiner les rapports Sanctions en cas de violation : aucune. C’est volontaire. TRUMP : « C’est presque comme une constitution, d’une certaine manière » « Je pense que c’est moralement contraignant » Six jours plus tôt, Bernie Sanders a déposé un projet de loi prévoyant jusqu’à 20 ans de prison pour créer une superintelligence. Cette semaine, nous avons obtenu une promesse signée. Pour être juste, les auditeurs externes et la supervision au niveau du conseil sont des mesures réelles. C’est plus que ce que la plupart des projets crypto ont jamais accepté. Mais j’ai déjà entendu « nous avons des auditeurs indépendants ». FTX avait des auditeurs externes. Deux sociétés. Les deux ont approuvé ses comptes. Pourtant, sa valeur est tombée à zéro. La partie la plus inquiétante n’est pas que l’accord soit faible. C’est que les auditeurs sont embauchés par les mêmes entreprises qu’ils sont censés vérifier. Personnellement, le crypto m’a appris une chose sur l’autorégulation : ça fonctionne… jusqu’au premier trimestre où ça coûte de l’argent. Alors, quel laboratoire manquera discrètement à un engagement en premier, et saurions-nous même le découvrir ?
