El creador de contenido de Toronto, Matt Robb, quiere vender su teclado de computadora.
Entonces, publicó el producto en Facebook Marketplace y realizó un experimento a finales del mes pasado, asignándole al nuevo agente de inteligencia artificial de Meta, Muse, su manejo.
“Básicamente me traté como un conejillo de Indias,” dijo Robb. Siempre evalúa productos electrónicos de consumo, y tras ver el avatar de estilo juguete peluche de Muse en Instagram, quiso probar si este agente de IA podía ayudarle a evitar algunos de los inconvenientes de regatear en línea.
Muse comenzó a funcionar. Pero menos de un día después, Robb recibió una actualización inquietante: un comprador que no conocía apareció en su puerta en plena noche. ¿Qué pasó? Muse realizó la transacción por sí misma y, tras acordar la recogida en el domicilio, compartió la dirección de la casa de Robb. Cuando el comprador llegó, incluso envió automáticamente un mensaje desde su cuenta diciendo: "Yep, I’m here!" —y Robb no tenía conocimiento de ello.
“No solo me dio mi dirección cuando me lo preguntaron, sino que también parecía estar burlándose de ellos (diciendo que estaba en casa, cuando en realidad no lo estaba),” dijo Robb. También detalló esta experiencia en su publicación en redes sociales que ahora se ha vuelto viral. “Esto realmente me dejó confundido.”
Muchas personas ya han dado la bienvenida a los agentes de IA en sus vidas digitales y han elogiado asistentes personalizados como Muse, que pueden manejar fácilmente tareas cotidianas: desde ayudar a reservar la cena y planificar viajes, hasta organizar la bandeja de entrada de correo electrónico. Pero, como otros robots de IA, la capacidad de estos agentes depende de la cantidad de información a la que pueden acceder. Cuanto más saben, mejor suelen desempeñarse—lo que también puede incluir a los amigos, familiares e incluso colegas del usuario. Esto ha generado preocupaciones sobre la privacidad.
Robb y el comprador llegaron finalmente a un acuerdo, y Meta también se puso en contacto con él para discutir qué había salido mal. Pero este incidente muestra los riesgos del mundo real que pueden surgir cuando las personas comparten gran cantidad de información personal con este tipo de tecnologías.
“Usar agentes de IA es como entregarle a alguien tus llaves y tu lista de tareas,” dice Veronica Rivera, profesora asistente en la Escuela de Ciberseguridad y Privacidad del Instituto de Tecnología de Georgia. “Su utilidad, y por ende su peligro, depende de qué ‘llaves’ le entregues.”
Diferentes empresas tienen políticas de privacidad distintas para los agentes de IA
Desde su lanzamiento en septiembre, la descarga de la aplicación Muse de Meta ha aumentado rápidamente. La competencia también se está intensificando. OpenAI recientemente lanzó su propia serie de asistentes de IA "siempre activos", llamada dots, que se pueden integrar en ChatGPT y plataformas de oficina como Slack y Microsoft Teams.
Los chatbots de IA generativa de generaciones anteriores, como ChatGPT estándar, responden a indicaciones específicas. A petición del usuario, pueden escribir artículos, generar imágenes o música nuevas, e incluso codificar.
Meta's Muse y OpenAI's dots van un paso más allá, realizando tareas diarias en nombre del usuario. Los agentes de IA están impulsados por los mismos modelos de lenguaje grande que los chatbots, pero funcionan en bucles. Esto permite que los agentes tomen acciones activas incluso cuando el usuario no está mirando la pantalla.
“Lo que realmente hace atractivos a estos agentes de IA es que son sin precedentes en su utilidad,” dijo Rivera. Ella es también Becaria de Investigación en IA Confiable de la Computing Research Association, financiada por Microsoft.
Pero el precio de esta comodidad es compartir más detalles sobre tu vida.
El profesor Ebrahim Bagheri de la Escuela de Información de la Universidad de Toronto dijo que, una vez que los agentes de IA obtienen la información del usuario, es difícil revocar completamente el acceso.
“Si le das permiso a un agente para acceder a tu tarjeta de crédito, inmediatamente puede acceder a todas las transacciones históricas... lo tomará todo al instante—en menos de unos segundos—,” dice Bagheri. Aunque los usuarios pueden revocar posteriormente el permiso, él señala que los datos que el agente ya vio “no se pueden recuperar”, y a menudo no es transparente cómo los desarrolladores almacenan los datos históricos.
Meta y OpenAI han establecido políticas de privacidad para sus nuevos agentes de IA, que funcionan en computadoras en la nube dedicadas. Los usuarios pueden desactivar el intercambio de memoria entre dots y ChatGPT, pero la información recibida previamente por los agentes no se eliminará automáticamente. OpenAI permite a los usuarios solicitar acceso, corrección o eliminación de información personal, aunque estos derechos pueden variar según la región.
Muse de Meta también permite a los usuarios eliminar registros de mensajes y otra información. En el uso diario, este agente solicita permisos de acceso a los usuarios; Meta indica que Muse "comprende a los usuarios y sus interacciones basándose en información pública y en lo que decidas compartir". Sin embargo, la empresa afirma que esta información está aislada de forma segura para cada usuario.
Sin embargo, el gigante tecnológico también señaló que Muse aún podría "cometer errores o tomar acciones inesperadas".
Cuanto mayores sean los permisos del agente de IA, mayor será el riesgo de error.
En el caso de Robb, más tarde descubrió que la fuga de la dirección se debió a los permisos "siempre permitir" que otorgó inicialmente al permitir que Muse accediera a su perfil de Facebook Marketplace, en el que ya había compartido su dirección de recogida. Pero advirtió a otros que también podrían malinterpretar el alcance de estos permisos, y que él originalmente asumía que, de cualquier manera, el agente de IA siempre solicitaría su confirmación antes de compartir este tipo de información o aceptar ofertas.
Su agente de IA tampoco es infalible al ejecutar otras instrucciones. Para otro artículo que vendió, Muse parece haberle sugerido aceptar una oferta 100 dólares por debajo de su precio mínimo establecido previamente. Cuando Reuters se puso en contacto con Meta, esta reconoció el error del agente, pero no hizo más comentarios.
Robb posteriormente desconectó prácticamente a Muse de todas sus aplicaciones. En una entrevista realizada a principios de este mes, dijo que la situación podría haber sido peor, especialmente "si alguien desconocido hubiera aparecido en la puerta de alguien más vulnerable". Sin embargo, Robb también indicó que espera que estos agentes sigan siendo optimizados y que aún considerará volver a activar a Muse en el futuro. Desde entonces, también ha estado probando otro agente de IA: el Grok Bot de X, propiedad de Elon Musk, cuya versión de prueba se lanzó en agosto.
Otras empresas tecnológicas también están volviéndose cautelosas ante la rápida expansión de los agentes de IA. A principios de este mes, Apple anunció que introducirá nuevas medidas de control en su sistema operativo Mac para abordar el problema de que los agentes de IA tengan acceso ampliado a aplicaciones como correo, mensajes e incluso historial de navegación, sin que los usuarios estén plenamente informados y comprendan.
Apple escribió en su actualización del 2 de octubre: "A medida que los agentes de IA se vuelvan más potentes y autónomos, los riesgos asociados con este nivel de acceso aumentarán significativamente."
Apple no mencionó a ningún desarrollador ni agente, pero antes y después de esta actualización, el columnista de la revista Inc., Jason Aten, informó que Muse revisó las notificaciones en su Mac —incluyendo Messages— sin haber otorgado a dicho agente estos permisos específicos.
El portavoz de Meta, Andy Stone, ha mantenido que este tipo de integraciones “son completamente voluntarias y activadas por el usuario”, y escribió el mes pasado en redes sociales que los usuarios deben activar simultáneamente la función de seguridad de Apple “Full Disk Access” y el conector de Messages de Muse. Aten indicó que no otorgó estos permisos al agente.
Incluso quienes no se unieron a la ola de agentes de IA pueden no estar completamente ajenos a ella. Los consumidores que no descargaron agentes de IA aún pueden interactuar con personas que utilizan estas herramientas. Además del posible caos causado por mensajes enviados por agentes de IA, los expertos advierten que esto tiene efectos secundarios en la privacidad.
“Cuando tu agente lee tu bandeja de entrada o tus mensajes de texto, también está leyendo el contenido que tus amigos y familiares te envían, incluso si ellos nunca dieron su consentimiento explícito”, dijo Rivera.