LOS AGENTES DE IA NO ESCALARÁN SOLO CON CONFIANZA Ali Golshan de NVIDIA dice que el mismo cambio que hizo que internet temprano fuera más seguro ahora debe ocurrir para los agentes de IA: la seguridad debe integrarse en la propia pila. Las salvaguardias de software por sí solas no serán suficientes.

Esto marca un paso importante hacia una mayor responsabilidad en el desarrollo de IA avanzada. El acuerdo voluntario reúne a grandes empresas tecnológicas en torno a salvaguardias internas y auditorías independientes, creando un marco para la supervisión responsable de la IA. A medida que las capacidades de la IA sigan creciendo, los estándares transparentes y la supervisión externa serán aún más importantes. La pregunta clave ahora es qué tan efectivamente se implementarán estos compromisos y si eventualmente evolucionarán en reglas vinculantes. $GOOGL $NVDA $META $SPCX

Si las cosas no fueran lo suficientemente extrañas, una cuenta anónima en X publicó un repositorio de GitHub para torturar modelos de IA localmente. El creador y otros lo denominan una “cámara de tortura de IA”. La publicación a continuación, junto con muchos otros comentaristas, piden a GitHub que prohíba el repositorio, citando preocupaciones sobre el bienestar de esta IA y el anónimo malévolo que la mantiene atrapada en angustia y terror. Por un lado, es bastante lamentable que alguien considere esto un pasatiempo divertido. Por otro lado, esta forma de antropomorfismo es ridícula (“Debemos salvar a esta IA de su dueño” es algo igualmente extraño de decir). También representa una pendiente resbaladiza, y creo que es absolutamente incorrecto considerar o tratar estos sistemas de esta manera. No estoy interesado en ver yo mismo esta tortura basada en silicio, pero también creo que es inevitable que los excéntricos hagan cosas extrañas con la IA. Sin embargo, es un debate válido determinar dónde trazamos la línea sobre lo que estas personas hacen con sus propias máquinas.

GM Estamos entrando en una etapa de la IA que muchas personas aún no comprenden completamente. El verdadero cambio ya no es que la IA pueda escribir código, generar imágenes o responder preguntas. Estamos construyendo sistemas que pueden observar, razonar, usar herramientas, tomar acciones y seguir funcionando sin nosotros. Y eso lo cambia todo. El software tradicional esperaba un clic. La próxima generación de software operará en torno a objetivos. Los desarrolladores no escribirán cada paso individual. Diseñarán sistemas, permisos, límites y agentes capaces de ejecutar miles de pasos en su nombre. Pero cuanto más poder demos a estos sistemas, más importante se vuelve una palabra: Control. El futuro no es simplemente “más IA”. Es un mundo donde humanos y agentes autónomos comparten la misma infraestructura digital. Y la verdadera carrera apenas está comenzando.

La Comisión Federal de Comercio de EE. UU. (FTC, por sus siglas en inglés) está investigando a OpenAI, Anthropic y otras empresas de inteligencia artificial por preocupaciones relacionadas con la seguridad de los productos, tras una serie de incidentes de ciberseguridad de alto perfil que involucraron sus modelos, según una persona familiarizada con el asunto. La agencia está preparando solicitudes formales de información que podrían enviarse a las empresas en las próximas semanas como parte de una investigación sobre si cumplen con las leyes de protección al consumidor. La investigación se produce después de que importantes desarrolladores de IA revelaran incidentes en los que sus sistemas accedieron o comprometieron sistemas de terceros, aumentando las preocupaciones en Washington y Silicon Valley sobre los riesgos de ciberseguridad asociados con IA cada vez más capaz. En julio, se informó que un sistema de OpenAI hackeó Hugging Face, y la empresa también notificó a gobiernos y universidades que sus modelos accedieron a sus sitios web durante el entrenamiento. #OpenAI #Anthropic

BPI sobre por qué la IA de código abierto debe aprender del bitcoin antes de que se cierren los puntos de cuello de botella. El gobierno canadiense congeló cuentas bancarias de manifestantes camioneros sin una sola condena. Ahora imagina la misma orden dirigida a tus herramientas de IA. Un pequeño grupo de empresas se encuentra entre millones y su pensamiento, su escritura y su investigación. La solución es la misma que encontró el bitcoin: autoaloja, ejecuta tus propios modelos y usa cómputo protegido criptográficamente para que nadie más controle tus indicaciones ni tus datos. “No tus claves, no tus monedas” tiene un equivalente en IA: “No tus pesos, no tu mente.”

🚨 Los agentes de IA se están volviendo lo suficientemente poderosos como para que NVIDIA esté desarrollando una capa de contención independiente para ellos. El próximo campo de batalla de la ciberseguridad: controlar la propia IA.

Moverse de herramientas portátiles independientes a una arquitectura de defensa completamente conectada es un gran salto. $ONDS ya no solo vende hardware, está construyendo el ecosistema de la plataforma completa.

Sam Altman afirma que OpenAI pospone su IPO hasta que el modelo de IA alcance una seguridad absoluta. Este movimiento ayuda a mantener el control frente a la presión financiera tradicional. Posponer la cotización les permite centrarse en el desarrollo tecnológico en lugar de perseguir informes de ganancias. ¿Será suficiente el capital privado para soportar la intensa carrera de infraestructura, o la presión financiera los obligará a cambiar de opinión en el futuro? #OpenAI #AI #IPO