Los peligros de reducir el trabajo humano a habilidades de IA

Artículo | Sleepy.md

Desafortunadamente, en esta era, cuanto más comprometido y serio sea tu trabajo, más rápido te convertirás en una habilidad que puede ser reemplazada por IA.

En los últimos dos días, las listas de tendencias y los canales de medios han sido invadidos por «colleague.skill». Cuando este evento continuó desarrollándose en diversas plataformas sociales, el foco del público fue casi inevitablemente arrastrado por ansiedades más amplias como el «despido por IA», la «explotación capitalista» y la «inmortalidad digital del trabajador».

Esto ciertamente genera ansiedad, pero lo que más me preocupa es que en el archivo README del proyecto aparece una sugerencia de uso:

La calidad de los materiales primos determina la calidad de la skill: se recomienda recopilar primero sus ensayos largos escritos por sí mismo > respuestas de toma de decisiones > mensajes cotidianos.

Los que trabajan más seriamente son precisamente los que el sistema puede destilar perfectamente y reproducir píxel por píxel.

Son aquellos que, tras finalizar cada proyecto, siguen sentados escribiendo documentos de revisión; son aquellos que, ante desacuerdos, están dispuestos a dedicar media hora a escribir largos mensajes en el chat, analizando con sinceridad su lógica de toma de decisiones; son aquellos extremadamente responsables que confían meticulosamente todos los detalles de su trabajo al sistema.

Serio, esta virtud laboral que antes era más valorada, ahora se ha convertido en un catalizador que acelera la transformación de los trabajadores en combustible para IA.

Necesitamos volver a considerar una palabra: contexto.

En contextos cotidianos, el contexto es el trasfondo de la comunicación. Pero en la IA, especialmente en el mundo de los Agentes de IA que crecen desenfrenadamente, el contexto es el combustible que impulsa el motor, la sangre que mantiene el pulso, y el único ancla que permite al modelo realizar juicios precisos en medio del caos.

La IA descontextualizada, por mucho que posea parámetros asombrosos, no es más que un motor de búsqueda con amnesia. No reconoce quién eres, no percibe las corrientes ocultas bajo la lógica de negocio y no tiene forma de saber qué largas tensiones y equilibrios has atravesado en esta red tejida por restricciones de recursos y博弈 interpersonal al tomar una decisión.

Y el hecho de que «colleague.skill» haya generado una reacción tan enorme se debe a que ha identificado con una frialdad y precisión extremas la mina que alberga una gran cantidad de contextos de alta calidad: el software de colaboración empresarial moderno.

En los últimos cinco años, el entorno laboral en China ha experimentado una transformación digital silenciosa pero profunda. Herramientas como Feishu, DingTalk y Notion se han convertido en vastas bases de conocimiento empresarial.

Tomando Feishu como ejemplo, ByteDance ha declarado públicamente que la cantidad de documentos generados diariamente en su interior es masiva, y estos densos caracteres guardan fielmente cada momento de inspiración, cada discusión intensa en reuniones y cada compromiso estratégico asumido por más de cien mil empleados.

Esta penetración digital supera con creces cualquier era anterior. En otro tiempo, el conocimiento tenía calor; se alojaba en la mente de los empleados experimentados y flotaba en las conversaciones casuales de la sala de descanso; ahora, toda la sabiduría y experiencia humana se secan forzosamente y se depositan sin compasión en las frías matrices de servidores en la nube.

En este sistema, si no escribes documentación, tu trabajo no se puede ver y los nuevos compañeros no pueden colaborar contigo. El funcionamiento eficiente de las empresas modernas se basa en el ciclo diario en que cada empleado aporta contexto al sistema.

Los trabajadores serios llevan consigo diligencia y bondad, revelando sin reservas sus trayectorias de pensamiento en estas plataformas frías. Lo hacen para que los engranajes del equipo encajen más suavemente, para esforzarse por demostrar su valor al sistema, y para buscar desesperadamente un lugar propio dentro de esta compleja bestia comercial. No están entregando activamente su ser; simplemente están adaptándose, con torpeza y esfuerzo, a las reglas de supervivencia del mundo laboral moderno.

Pero precisamente estos contextos dejados para la colaboración humana se convierten en el combustible perfecto para la IA.

La consola de administración de Feishu tiene una función que permite a los administradores principales exportar por lotes documentos y registros de comunicación de los miembros. Esto significa que tu proyecto de tres años de trabajo, con innumerables noches en vela y lógicas de toma de decisiones, puede ser empacado en cuestión de minutos en un archivo comprimido sin vida, simplemente con una interfaz API.

Con el auge de «colleague.skill», en la sección de Issues de GitHub y en diversas plataformas sociales han comenzado a aparecer productos derivados que resultan extremadamente incómodos.

Alguien creó «la habilidad.ex-pareja», intentando alimentar con los historiales de chat de WeChat de los últimos años a una IA para que continúe discutiendo o siendo tierna con él en ese tono familiar; alguien más creó «la habilidad.luz blanca», reduciendo el悸动 inalcanzable a un frío simulacro interpersonal, reiterando meticulosamente frases de prueba en busca de la solución emocional óptima; y otros crearon «la habilidad.jefe-patrón», masticando anticipadamente en el espacio digital esas palabras opresivas de PUA para construirse una triste defensa psicológica.

Los escenarios de uso de estas habilidades han trascendido por completo el ámbito de la eficiencia laboral. Originalmente, sin darnos cuenta, ya nos habíamos familiarizado con aplicar la lógica fría hacia las herramientas para desmembrar y objetivar a personas vivas y plenas de humanidad.

El filósofo alemán Martin Buber propuso que los fundamentos de las relaciones humanas se reducen a dos modelos completamente distintos: «yo y tú» y «yo y ello».

En el encuentro entre "yo y tú", trascendemos los prejuicios y miramos al otro como un ser humano completo y digno. Este vínculo se abre sin reservas, lleno de una vitalidad impredecible, y precisamente por su sinceridad, resulta particularmente frágil; sin embargo, una vez caídos en la sombra de "yo y ello", la persona viva se reduce a un objeto que puede ser descompuesto, analizado y etiquetado. Bajo esta mirada extremadamente utilitaria, lo único que nos importa es: "¿Qué utilidad tiene esto para mí?".

La aparición de productos como «la habilidad anterior» marca que la racionalidad instrumental de «yo y ello» ha invadido por completo el ámbito más íntimo de las emociones.

En una relación real, las personas son tridimensionales, llenas de arrugas, y fluyen constantemente con contradicciones y bordes irregulares; sus reacciones cambian según el contexto específico y la interacción emocional. La reacción de tu ex al despertar por la mañana puede ser completamente diferente a la que tiene después de trabajar hasta tarde en la noche ante la misma frase.

Pero cuando reduces a una persona a una habilidad, lo que extraes es meramente el residuo funcional de esa persona en esa relación específica, aquello que resultó «útil» para ti y que podía «generar utilidad». La persona original, cálida, con sus propias alegrías y tristezas, es completamente agotada en esta cruel purificación, transformándose en una «interfaz funcional» que puedes conectar o desconectar a voluntad.

Hay que reconocer que la IA no inventó de la nada esta frialdad aterradora. Antes de la aparición de la IA, ya estábamos acostumbrados a etiquetar a los demás y a medir con precisión el «valor emocional» y el «peso de la red» de cada relación. Por ejemplo, en el mercado de citas cuantificamos las condiciones de las personas en tablas; en el lugar de trabajo clasificamos a los colegas como «capaces de trabajar» y «perezosos». La IA simplemente hizo explícita esta extracción funcional implícita entre personas.

La persona fue aplastada, quedando solo la sección que dice: «¿Qué me sirve a mí?»

En 1958, el filósofo húngaro-británico Michael Polanyi publicó "Personal Knowledge". En este libro, introdujo el concepto profundamente perspicaz del conocimiento tácito.

Polanyi tiene una famosa afirmación: «Sabemos más de lo que podemos decir».

Él dio el ejemplo de aprender a andar en bicicleta. Un ciclista experimentado que domina el viento puede mantener el equilibrio perfectamente en cada inclinación por la gravedad, pero no puede describir con precisión, mediante fórmulas físicas secas o palabras vacías, la sutil intuición corporal en ese momento. Sabe cómo andar en bicicleta, pero no puede explicarlo. Este tipo de conocimiento que no puede ser codificado ni expresado verbalmente es el conocimiento tácito.

En el entorno laboral abundan este tipo de conocimientos implícitos. Un ingeniero experimentado, al diagnosticar un fallo en el sistema, puede identificar el problema con solo echar un vistazo a los registros, pero le resulta difícil documentar esa «intuición» construida sobre miles de ensayos y errores; un vendedor excelente, al quedar en silencio repentinamente durante una negociación, genera una presión y un sentido del momento que ningún manual de ventas puede capturar; un profesional de RRHH con experiencia, durante una entrevista, puede detectar inconsistencias en el currículum solo por medio de una fracción de segundo en la que el candidato evita el contacto visual.

「同事.skill» solo puede extraer el conocimiento explícito que ya ha sido escrito o dicho. Puede capturar tus documentos de revisión, pero no puede capturar las dudas que tuviste al escribirlos; puede copiar tus respuestas de decisión, pero no puede copiar la intuición que tuviste al tomarlas.

Lo que se extrae del sistema es siempre solo la sombra de una persona.

Si la historia terminara aquí, sería solo otra imitación torpe de la tecnología sobre la humanidad.

Pero cuando una persona se reduce a una habilidad, esa habilidad no permanece estática. Se utiliza para responder correos electrónicos, escribir nuevos documentos y tomar nuevas decisiones. Es decir, estas sombras generadas por IA comienzan a crear nuevos contextos.

Y estos contextos generados por IA se almacenarán en Feishu y DingTalk, convirtiéndose en material de entrenamiento para la siguiente ronda de destilación.

Ya en 2023, un equipo de investigación de la Universidad de Oxford y la Universidad de Cambridge publicó conjuntamente un artículo sobre el «colapso del modelo». El estudio demostró que cuando los modelos de IA se entrenan iterativamente con datos generados por otras IA, la distribución de los datos se vuelve cada vez más estrecha. Aquellas características humanas raras, marginales pero extremadamente auténticas se eliminan rápidamente. Tras solo unas pocas generaciones de datos sintéticos, los modelos olvidan por completo los datos humanos reales de cola larga y complejos, y comienzan a generar contenido extremadamente mediocre y homogéneo.

La revista Nature también publicó un artículo de investigación en 2024 que indica que entrenar modelos de aprendizaje automático de las próximas generaciones con conjuntos de datos generados por IA contaminará gravemente sus salidas.

Es como esas imágenes de memes que circulan en internet, originalmente una captura de pantalla en alta definición, compartida y comprimida una y otra vez por innumerables personas. Cada transmisión pierde un poco de píxeles y añade algo de ruido. Al final, la imagen se vuelve borrosa y se cubre de patina digital.

Cuando se agota el contexto humano real con conocimiento implícito, y el sistema solo puede entrenarse con sombras envejecidas, ¿qué quedará al final?

Lo que queda es solo el conocimiento obvio.

Cuando el río del conocimiento se seca en una interminable reiteración y masticación de IA sobre IA, todo lo que el sistema exhala y absorbe se vuelve extremadamente estándar, extremadamente seguro, pero irremediablemente vacío. Verás innumerables informes semanales con estructura perfecta, innumerables correos electrónicos sin errores, pero en ellos no hay rastro de vida humana, ninguna verdadera visión valiosa.

Este gran colapso del conocimiento no se debe a que el cerebro humano se haya vuelto más tonto; la verdadera tristeza radica en que hemos externalizado el derecho a pensar y la responsabilidad de mantener el contexto a nuestro propio reflejo.

Pocos días después de que «colleague.skill» se volviera viral, en GitHub apareció silenciosamente un proyecto llamado «anti-distill».

El autor de este proyecto no intentó atacar los modelos grandes ni escribió ningún manifiesto grandioso. Simplemente proporcionó una pequeña herramienta que ayuda a los empleados a generar automáticamente en Feishu o DingTalk textos largos que parecen razonables, pero que en realidad están llenos de ruido lógico.

Su objetivo es sencillo: esconder sus conocimientos fundamentales antes de que el sistema lo destile. Como al sistema le gusta capturar «artículos largos escritos activamente», le dará una gran cantidad de basura sin sentido.

Este proyecto no ha alcanzado el mismo éxito que «colleague.skill»; de hecho, parece algo pequeño e insignificante. Usar la magia para vencer la magia sigue siendo, en esencia, girar dentro de las reglas establecidas por el capital y la tecnología. No puede cambiar la tendencia creciente del sistema hacia una mayor dependencia de la IA y una menor atención hacia los seres humanos reales.

Pero esto no impide que este proyecto se convierta en el momento más trágicamente poético y profundamente simbólico de toda la absurda obra.

Nos esforzamos enormemente por dejar huellas en el sistema, escribir documentación detallada y tomar decisiones cuidadosas, intentando demostrar en esta enorme máquina corporativa moderna que alguna vez existimos y que éramos valiosos. Sin embargo, no sabemos que estas huellas tan serias terminarán siendo la goma de borrar que nos eliminará.

Pero, desde otra perspectiva, esto tampoco tiene por qué ser un callejón sin salida absoluto.

Porque lo que borra esa goma de borrar es siempre «el tú del pasado». Una habilidad empaquetada como un archivo, sin importar cuán ingeniosa sea su lógica de extracción, es esencialmente solo una instantánea estática. Queda congelada en el segundo exacto de la exportación y solo puede depender de nutrientes obsoletos, girando infinitamente dentro de procesos y lógicas predeterminadas. No posee el instinto de enfrentar el caos desconocido ni la capacidad de evolucionar a través del fracaso en el mundo real.

Cuando entregamos esas experiencias altamente estandarizadas y consolidadas, justo nos liberamos las manos. Mientras sigamos explorando hacia afuera y continuemos rompiendo y reconstruyendo nuestros propios límites cognitivos, esa sombra que permanece en las nubes solo podrá seguirnos de cerca, siempre tras nuestra espalda.

Las personas son algoritmos móviles.

Haz clic para conocer los puestos disponibles en BlockBeats

¡Bienvenido a la comunidad oficial de律动 BlockBeats!

Grupo de suscripción de Telegram: https://t.me/theblockbeats

Grupo de Telegram: https://t.me/BlockBeats_App

Cuenta oficial de Twitter: https://twitter.com/BlockBeatsAsia