La presidenta de Signal, Meredith Whittaker, al ser entrevistada por Bloomberg sobre chatbots como ChatGPT y Claude, afirmó que los usuarios no deberían considerar estos sistemas como "amigos" ni como entidades con conciencia subjetiva. Ella centró la discusión en cuestiones de privacidad y permisos, argumentando que el riesgo se amplifica rápidamente cuando estas herramientas se integran profundamente en servicios personales.
Whittaker sobre los límites del uso de IA
Whittaker indicó que ella misma utiliza herramientas de IA en pocos escenarios, como organizar el formato de documentos, pero no confía en los modelos para manejar el proceso de hacer preguntas, pensar y escribir. Ella dijo que no desea que un sistema que genera respuestas a partir de información existente reemplace el proceso de reflexión que debería realizarse personalmente.
Preocupación por obtener permisos sensibles entre aplicaciones
Ella también respondió a una idea previamente planteada por Mustafa Suleyman, director de la división de IA de Microsoft, según la cual los usuarios podrían hacer que Microsoft Copilot realice las compras de Navidad por ellos. Whittaker consideró que, para lograr este escenario, el sistema necesitaría acceder a una gran cantidad de información personal y realizar operaciones entre múltiples servicios.
- Tarjetas de crédito e información de pago
- Historial de navegación
- Contenido y contactos de Signal
Además de la información anterior, estos sistemas también pueden acceder a direcciones residenciales, calendarios y enviar mensajes en nombre del usuario a familiares y amigos. Ella considera que esto ya no es un uso auxiliar de una sola herramienta, sino un acceso amplio a múltiples aplicaciones y servicios.
Signal considera este tipo de acceso como un riesgo de puerta trasera
Whittaker agregó que, si se introducen capacidades similares en productos de comunicación cifrada como Signal, desde el punto de vista de la seguridad del producto, es casi equivalente a establecer una "puerta trasera". Con esto, enfatizó que cuanto más cerca estén las funciones de asistentes de IA de realizar tareas y actuar como agentes, más atención los usuarios deben prestar a qué permisos realmente han adquirido.
Esta declaración también refleja una controversia persistente en la competencia de asistentes de IA: cuando los productos pasan de responder preguntas a reemplazar a los usuarios en la gestión de tareas, el conflicto entre conveniencia y protección de la privacidad se vuelve más directo.