Después de que OpenAI agregara el plugin de Messages de Apple a la versión de escritorio de ChatGPT, los usuarios pueden hacer que el chatbot en Mac busque mensajes antiguos, resuma grupos de chat, redacte respuestas y envíe mensajes directamente. Esta función requiere autorización manual por parte del instalador, pero los otros participantes en la misma conversación no reciben ninguna notificación, lo que ha generado rápidamente controversias sobre privacidad y seguridad.
El enfoque está en el acceso después de la descifra
Varios expertos en seguridad señalan que la controversia no radica en que ChatGPT haya roto el cifrado de extremo a extremo de Apple, sino en que, una vez que los mensajes llegan al dispositivo del destinatario, su contenido ya puede ser leído por software local. Es decir, la transmisión cifrada en sí no se ha comprometido, pero si una herramienta de terceros obtiene permisos en el dispositivo, el contenido que originalmente era visible solo entre las dos partes de la conversación podría ser recuperado y analizado por sistemas adicionales.
El experto en seguridad y privacidad Paul Walsh dijo a Fortune que lo más preocupante de este tipo de acceso es que el autorizado no solo abre sus propios datos, sino que también expone a sistemas de terceros los mensajes de otras personas en sus años de historial de chat. Para quienes dependen de la comunicación cifrada para manejar asuntos sensibles, esto debilita su expectativa de privacidad en las comunicaciones.
OpenAI dice que se mantendrán de forma predeterminada en el dispositivo
OpenAI indica que, una vez habilitados los plugins, ChatGPT no indexará automáticamente los registros de información del usuario ni leerá activamente toda la conversación. El sistema solo accederá a los mensajes correspondientes cuando el usuario realice una solicitud explícita relacionada con el contenido de la información.
La empresa también indicó que la versión de escritorio de ChatGPT guarda automáticamente las conversaciones relacionadas en la computadora local, y el contenido de iMessage no se sincroniza automáticamente con los servidores de OpenAI. Sin embargo, si el usuario elige guardar las conversaciones de ChatGPT en la nube, estos mensajes estarán sujetos a las mismas reglas de almacenamiento y retención, y también podrían ingresarse a la función de memoria en la nube.
- De forma predeterminada, el contenido del mensaje se conserva localmente en el Mac del usuario.
- Solo después de hacer una pregunta clara, el sistema accederá al contenido de la información
- Si la conversación se guarda en la nube, el contenido relacionado también se almacenará en la nube.
Las empresas de seguridad temen que los permisos sigan ampliándose
Dave Richardson, CTO de la empresa de seguridad móvil Lookout, dijo que llamar directamente a esta función "software espía" podría ser exagerado, ya que viene desactivada por defecto y requiere autorización explícita del usuario. Sin embargo, consideró que aún así representa un riesgo significativo para canales de comunicación que anteriormente se consideraban seguros.
Señaló que el cifrado de extremo a extremo protege el proceso de transmisión de mensajes entre dispositivos, impidiendo que la plataforma o el proveedor de red lean el contenido durante el trayecto, pero una vez que los mensajes llegan al dispositivo final, este aún puede acceder a ellos. Si los usuarios comparten este contenido con servicios de terceros como OpenAI o Anthropic, el alcance real de protección del cifrado de extremo a extremo se reduce.
La empresa de privacidad Proton también publicó un análisis el martes que indica que este tipo de riesgos puede afectar a personas que nunca han utilizado ChatGPT, ya que los mensajes que envían también pueden ser accesibles siempre que la otra parte en la conversación haya habilitado plugins. Proton también señaló que el permiso de "acceso completo al disco" requerido durante la instalación es en sí mismo una consideración de seguridad más amplia.
La IA está entrando en más aplicaciones sensibles
Esta controversia también refleja que las herramientas de IA están pasando de los cuadros de chat a permisos de dispositivo más profundos. La investigación proporcionada por Lookout a Fortune muestra que, durante el último año, las aplicaciones relacionadas con IA han aumentado continuamente sus solicitudes de permisos de datos y capacidades de alto riesgo, y la tendencia en la plataforma iOS también se está ampliando.
OpenAI explica que este complemento no es una nueva interfaz iMessage creada específicamente por Apple para ChatGPT, sino que utiliza las capacidades actuales de macOS. Durante la instalación, los usuarios deben autorizar permisos como AppleScript, accesibilidad y acceso completo al disco.
A medida que los agentes de IA adquieren mayor capacidad de control sobre dispositivos, la controversia ya no se limita solo a “si los usuarios están dispuestos a autorizar”, sino que también incluye si los demás participantes en una conversación están informados, y si las comunicaciones privadas, una vez recuperadas, resumidas y almacenadas a largo plazo por la IA, darán lugar a nuevos puntos de fuga de datos.