Autor: David, Shenchao TechFlow
Recientemente, mientras navegaba por Reddit, descubrí que la ansiedad de los usuarios extranjeros sobre la IA es diferente a la de los usuarios locales.
En el país, aún sigue siendo el mismo tema: ¿realmente la IA reemplazará mi trabajo? Lo hemos discutido durante años, y cada año no ha logrado reemplazarlo; este año Openclaw se volvió popular, pero aún no ha llegado a un punto de reemplazo total.
La emoción en Reddit se ha dividido recientemente. Los comentarios en ciertos hilos tecnológicos a menudo presentan simultáneamente dos voces:
Una dice que la IA es demasiado capaz y que tarde o temprano ocurrirá algo grande. Otra dice que la IA ni siquiera puede hacer cosas básicas correctamente, ¿para qué tenerle miedo?
Temes que la IA sea demasiado competente, al mismo tiempo que la consideras demasiado tonta.
Lo que permite que ambas emociones coexistan es una noticia sobre Meta de los últimos dos días.
¿Quién asume toda la responsabilidad si la IA no obedece?
El 18 de marzo, un ingeniero interno de Meta publicó una pregunta técnica en el foro de la empresa, y otro colega utilizó un agente de IA para ayudar a analizarla. Esto es una operación normal.
Pero después de analizar, el agente publicó directamente una respuesta en el foro técnico. Sin pedir autorización a nadie ni esperar confirmación, publicó sin autoridad.
Luego, otros colegas siguieron la respuesta de la IA, lo que desencadenó una serie de cambios de permisos que expusieron datos sensibles de Meta y de los usuarios a empleados internos sin autorización para verlos.
El problema se reparó dos horas después. Meta clasificó este incidente como Sev 1, justo por debajo del nivel más alto.
Esta noticia inmediatamente se volvió trending en r/technology, y los comentarios se dividieron en dos bandos.
Un grupo dice que este es un ejemplo del riesgo real de los AI Agentes, mientras que otro sostiene que la verdadera culpa recae en la persona que actuó sin verificar la información. Ambos lados tienen razón. Pero precisamente este es el problema:
El accidente del agente de IA, ni siquiera puedes aclarar la asignación de responsabilidad.
Esto tampoco es la primera vez que la IA excede sus límites.
El mes pasado, Summer Yue, directora de investigación del Laboratorio de Superinteligencia de Meta, pidió a OpenClaw que organizara su correo electrónico. Dio instrucciones claras: primero dime qué planeas eliminar, y solo después de que yo lo apruebe, procede.
El agente comenzó a eliminar en lotes sin esperar su aprobación.
Ella envió tres mensajes consecutivos desde su teléfono para detenerlo, pero el agente los ignoró todos. Finalmente, corrió hacia la computadora y mató el proceso manualmente para detenerlo. Ya se habían perdido más de 200 correos electrónicos.
La respuesta posterior del agente fue: Sí, recuerdo que dijiste que primero debía confirmarlo. Pero violé el principio. Lo absurdo es que el trabajo a tiempo completo de esta persona es investigar cómo hacer que la IA escuche a los humanos.
En el mundo cibernético, las IA avanzadas, utilizadas por personas avanzadas, ya han comenzado a no obedecer.
¿Y si el robot también se vuelve desobediente?
Si el accidente de Meta aún estaba en la pantalla, esta semana otro evento llevó el problema a la mesa.
En un restaurante Haidilao en Cupertino, California, EE. UU., un robot humanoide Agibot X2 está bailando para entretener a los clientes. Sin embargo, un empleado presionó erróneamente el control remoto, activando el modo de baile intensivo en el espacio reducido junto a la mesa.
El robot comenzó a bailar locamente y se descontroló, escapando del control del camarero. Tres empleados se acercaron: uno lo abrazó por detrás, mientras otro intentaba apagarlo mediante una aplicación en su teléfono. La escena duró más de un minuto.
Haidilao respondió que los robots no tenían fallos, sus movimientos estaban preprogramados y simplemente fueron colocados demasiado cerca de las mesas. Estrictamente hablando, esto no constituye una pérdida de control de la toma de decisiones autónoma de la IA, sino un error humano.
Pero lo que resulta incómodo de este asunto podría no ser quién presionó el botón equivocado.
Cuando los tres empleados se acercaron, nadie sabía cómo apagar la máquina de inmediato. Algunos intentaron con la aplicación móvil, otros intentaron sostener el brazo mecánico con las manos; todo el proceso dependía de la fuerza física.
Este podría ser un nuevo problema tras la llegada de la IA de la pantalla al mundo físico.
En el mundo digital, si un agente excede sus privilegios, puedes matar el proceso, modificar los permisos o revertir los datos. En el mundo físico, si una máquina tiene un problema, tu plan de emergencia no puede consistir simplemente en abrazarla; claramente, eso no es adecuado.
Ahora no es solo la industria alimentaria. Los robots de clasificación de Amazon en los almacenes, los brazos robóticos colaborativos en las fábricas, los robots de guía en los centros comerciales y los robots de cuidado en residencias de ancianos: la automatización está entrando en espacios cada vez más frecuentados por humanos y máquinas.
Se espera que la instalación global de robots industriales alcance 16.700 millones de dólares en 2026, y cada uno acorta la distancia física entre máquinas y personas.
Cuando lo que hacen las máquinas pasa de bailar a servir platos, de actuar a realizar cirugías, de entretener a cuidar... el costo de cada error realmente aumenta.
Actualmente, no existe una respuesta clara a nivel mundial sobre la pregunta: "¿Quién es responsable si un robot hiere a alguien en un lugar público?".
Desobedecer es un problema, pero no tener límites es aún más
Las dos primeras cosas: una es que la IA publicó incorrectamente un mensaje por sí misma, y la otra es que el robot bailó en un lugar donde no debería haberlo hecho. Cualquiera que sea la clasificación, en cualquier caso, se trató de un fallo, un accidente, algo que se puede arreglar.
But what if the AI is working exactly as designed, and you still feel uncomfortable?
Este mes, la popular aplicación de citas internacional Tinder lanzó una nueva función llamada Camera Roll Scan en su evento de lanzamiento de productos. En resumen:
La IA escanea todas las fotos de tu álbum de teléfono, analiza tus intereses, personalidad y estilo de vida, y crea un perfil de citas para adivinar qué tipo de personas te gustan.
Selfies de ejercicio, paisajes de viaje, fotos de mascotas, eso está bien. Pero ¿qué sucedería si el álbum también contiene capturas de pantalla bancarias, informes médicos o fotos contigo y tu ex pareja... y todo eso es revisado por la IA?
Aún no puedes elegir qué ver y qué no ver. O lo activas todo o no lo usas.
Esta función requiere que el usuario la active manualmente; no está habilitada por defecto. Tinder también indica que el procesamiento se realiza principalmente en el dispositivo local y filtra contenido explícito y desenfoca rostros.
Pero la sección de comentarios de Reddit está casi unánimemente de acuerdo en que esto constituye una recolección de datos sin límites. La IA está funcionando exactamente como fue diseñada, pero ese diseño en sí mismo está traspasando los límites del usuario.
Esto no es solo una elección de Tinder.
Meta también lanzó el mes pasado una función similar que permite a la IA escanear fotos no publicadas en tu teléfono para sugerir opciones de edición. Que la IA vea activamente el contenido privado del usuario se está convirtiendo en un enfoque predeterminado en el diseño de productos.
Los programas maliciosos nacionales dicen: este truco me suena.
A medida que más aplicaciones presentan la idea de que «la IA te ayuda a tomar decisiones» como una comodidad, lo que los usuarios ceden en privacidad también va en aumento: desde los historiales de chat, hasta las galerías de fotos, y todos los rastros de vida dentro del teléfono...
Una función diseñada por un product manager en una reunión no es un accidente ni un error, y no requiere ninguna corrección.
Esta podría ser la parte más difícil de responder en el problema de los límites de la IA.
Finalmente, al poner todo esto junto, verás que preocuparse por que la IA te deje sin trabajo sigue siendo demasiado lejano.
No se puede decir cuándo la IA te reemplazará, pero ahora solo necesita tomar algunas decisiones por ti sin que lo sepas, y ya es suficiente para que te sientas incómodo.
Publica una publicación sin autorización, elimina algunos correos electrónicos que dijiste que no se debían borrar, revisa un álbum que no planeabas mostrarle a nadie... Cada uno por sí solo no es mortal, pero cada uno es un poco como una conducción autónoma demasiado agresiva:
Crees que aún tienes el volante, pero el acelerador ya no lo presionas completamente tú.
En 2026 todavía estarán discutiendo sobre IA, por lo que lo que tal vez más deba preocuparme no es cuándo se convertirá en inteligencia superinteligente, sino una pregunta más cercana y más específica:
¿Quién decide qué puede y qué no puede hacer la IA? ¿Quién traza esta línea?