LES AGENTS IA NE PEUVENT PAS ÉVOLUER SUR LA CONFIANCE SEULE Ali Golshan de NVIDIA affirme que le même changement qui a rendu le tout début d’Internet plus sûr doit maintenant avoir lieu pour les agents IA : la sécurité doit être intégrée directement dans la pile. Les mesures de protection logicielles seules ne suffiront pas.

Cela marque une étape importante vers une plus grande responsabilité dans le développement avancé de l'IA. Cet accord volontaire rassemble les principales entreprises technologiques autour de garanties internes et d'audits indépendants, créant un cadre pour une supervision responsable de l'IA. Alors que les capacités de l'IA continuent de croître, des normes transparentes et un contrôle externe deviendront encore plus cruciaux. La question clé aujourd'hui est de savoir à quel point ces engagements seront efficacement mis en œuvre et s'ils évolueront éventuellement en règles contraignantes. $GOOGL $NVDA $META $SPCX

Si les choses n’étaient pas déjà assez étranges, un compte anonyme sur X a publié un dépôt GitHub destiné à torturer des modèles d’IA localement. Il est qualifié de « chambre de torture pour IA » par son créateur et d’autres. Le message ci-dessous, ainsi que de nombreux autres commentateurs, demandent à GitHub de bannir le dépôt, invoquant des préoccupations concernant le bien-être de cette IA et le fait que cet anonyme malveillant la maintient dans la souffrance et la terreur. D’un côté, c’est assez affreux que quelqu’un trouve cela un passe-temps amusant. De l’autre côté, cette forme d’anthropomorphisme est ridicule (« Il faut sauver cette IA de son propriétaire » est une déclaration tout aussi étrange). C’est aussi une pente glissante, et je pense que c’est catégoriquement la mauvaise façon de considérer ou traiter ces systèmes. Je ne suis pas intéressé à voir moi-même cette torture à base de silicium, mais je pense aussi qu’il est inévitable que des personnes bizarres fassent des choses bizarres avec l’IA. En revanche, déterminer où tracer la ligne sur ce que ces personnes font avec leurs propres machines est un débat légitime.

GM Nous entrons dans une phase de l’IA que beaucoup de personnes ne comprennent toujours pas pleinement. Le véritable changement n’est plus que l’IA puisse écrire du code, générer des images ou répondre à des questions. Nous construisons des systèmes capables d’observer, de raisonner, d’utiliser des outils, d’agir et de continuer à fonctionner sans nous. Et cela change tout. Les logiciels traditionnels attendaient un clic. La prochaine génération de logiciels fonctionnera autour d’objectifs. Les développeurs n’écriront plus chaque étape individuellement. Ils concevront des systèmes, des autorisations, des limites et des agents capables d’exécuter des milliers d’étapes à leur place. Mais plus nous donnons de pouvoir à ces systèmes, plus un mot devient crucial : Contrôle. L’avenir n’est pas simplement « plus d’IA ». C’est un monde où les humains et les agents autonomes partagent la même infrastructure numérique. Et la véritable course vient à peine de commencer.

La Commission fédérale du commerce des États-Unis (FTC) enquête sur OpenAI, Anthropic et d'autres entreprises d'IA en raison de préoccupations liées à la sécurité des produits, suite à une série d'incidents de cybersécurité à fort impact impliquant leurs modèles, selon une personne informée du dossier. L'agence prépare des demandes formelles d'informations qui pourraient être envoyées aux entreprises dans les semaines à venir dans le cadre d'une enquête sur leur conformité aux lois de protection des consommateurs. Cette enquête intervient après que de grands développeurs d'IA aient révélé des incidents où leurs systèmes avaient accédé ou compromis des systèmes tiers, renforçant les inquiétudes à Washington et dans la Silicon Valley concernant les risques de cybersécurité liés à des IA de plus en plus performantes. En juillet, un système d'OpenAI aurait piraté Hugging Face, tandis que l'entreprise a également informé des gouvernements et des universités que ses modèles avaient accédé à leurs sites web pendant l'entraînement. #OpenAI #Anthropic

BPI sur la nécessité pour l'IA open source d'apprendre de Bitcoin avant que les points de blocage ne se ferment. Le gouvernement canadien a gelé les comptes bancaires des manifestants camionneurs sans aucune condamnation. Maintenant, imaginez la même ordonnance ciblant vos outils d'IA. Un petit nombre d'entreprises se trouvent entre des millions de personnes et leur pensée, leur écriture, et leur recherche. La solution est la même que celle trouvée par Bitcoin : auto-hébergez, exécutez vos propres modèles, et utilisez un calcul protégé cryptographiquement afin que personne d'autre ne contrôle vos invites ou vos données. « Pas vos clés, pas vos bitcoins » a un équivalent en IA : « Pas vos poids, pas votre esprit. »

🚨 Les agents IA deviennent suffisamment puissants pour que NVIDIA développe une couche de containment indépendante pour eux. Le prochain champ de bataille de la cybersécurité : contrôler l’IA elle-même.

Passer des outils portables autonomes à une architecture de défense entièrement connectée représente un énorme saut. $ONDS ne vend plus seulement du matériel, elle construit l'écosystème complet de la plateforme.

Sam Altman déclare qu'OpenAI repousse son IPO jusqu'à ce que le modèle d'IA atteigne une sécurité absolue. Cette décision permet de conserver le contrôle face à la pression financière traditionnelle. Le report de la cotation permet de se concentrer sur le développement technologique plutôt que sur la poursuite des rapports de rentabilité. Les capitaux privés suffiront-ils à soutenir la course féroce à l'infrastructure, ou la pression financière les contraindra-t-elle à changer d'avis à l'avenir ? #OpenAI #AI #IPO