Les dangers de réduire le travail humain à des compétences d'IA

Article | Sleepy.md

Malheureusement, à cette époque, plus vous travaillez avec sérieux et sans réserve, plus vous vous accélérez à être réduit à une compétence remplaçable par l'IA.

Ces deux derniers jours, les tendances et les chaînes médiatiques ont été inondées par « collègue.skill ». Alors que cet événement continuait de se propager sur les principales plateformes sociales, l'attention du public a été presque inévitablement entraînée par des préoccupations plus vastes telles que les « licenciements par l'IA », l'« exploitation capitaliste » et la « vie numérique éternelle des employés ».

Cela est effectivement anxiogène, mais ce qui me rend le plus anxieux, c’est une recommandation d’utilisation mentionnée dans le fichier README du projet :

La qualité des matières premières détermine la qualité du skill : il est recommandé de collecter en priorité ses longs articles écrits activement > ses réponses décisionnelles > ses messages quotidiens.

Ceux qui travaillent le plus sérieusement sont précisément ceux que le système peut le mieux distiller et restituer pixel par pixel.

Ce sont ceux qui, après la fin de chaque projet, restent à leur bureau pour rédiger des documents de rétrospective ; ceux qui, face à un désaccord, prennent trente minutes pour taper un long message dans la boîte de discussion, exposant honnêtement leur logique décisionnelle ; ceux qui sont extrêmement responsables et confient scrupuleusement tous les détails de leur travail au système.

Sérieux, autrefois la vertu la plus admirée au travail, est désormais un catalyseur qui accélère la transformation des employés en carburant pour l'IA.

Nous devons réapprendre un mot : contexte.

Dans un contexte quotidien, le contexte constitue le cadre de la communication. Mais dans le monde de l'IA, en particulier celui des IA Agent en croissance exponentielle, le contexte est le carburant qui fait rugir le moteur, le sang qui maintient le pouls, et le seul ancrage permettant au modèle de faire des jugements précis au milieu du chaos.

L'IA dépourvue de contexte, aussi impressionnante soit-elle en termes de paramètres, n'est qu'un moteur de recherche atteint d'amnésie. Elle ne reconnaît pas qui vous êtes, ne perçoit pas les courants souterrains cachés sous la logique métier, et ne peut en aucune façon saisir les longues négociations et les équilibres délicats que vous avez traversés sur ce réseau tissé de contraintes de ressources et de jeux relationnels lors de la prise d'une décision.

Et le fait que « collègue.skill » ait suscité une telle vague, c'est parce qu'il a ciblé avec une extrême rigueur et précision la mine regorgeant de quantités massives de contextes de haute qualité : les logiciels de collaboration des entreprises modernes.

Au cours des cinq dernières années, le milieu professionnel chinois a subi une transformation numérique silencieuse mais profonde. Des outils comme Feishu, DingTalk et Notion sont devenus de vastes bases de connaissances d'entreprise.

À titre d'exemple avec Feishu, ByteDance a déclaré publiquement que le nombre de documents générés quotidiennement en interne est énorme, et que ces caractères serrés capturent fidèlement chaque moment de créativité, chaque débat animé lors des réunions, et chaque compromis stratégique avalé de force des plus de 100 000 employés.

Cette puissance numérique dépasse de loin celle de toute ère précédente. Il n’y a pas si longtemps, les connaissances étaient vivantes, enfouies dans l’esprit des employés expérimentés, flottant dans les conversations informelles de la cuisine ; aujourd’hui, toute la sagesse et l’expérience humaines sont systématiquement déshydratées et impitoyablement stockées dans les matrices froides de serveurs en nuage.

Dans ce système, si vous ne rédigez pas de documentation, votre travail ne peut être vu et les nouveaux collègues ne peuvent pas collaborer avec vous. Le fonctionnement efficace des entreprises modernes repose sur le cycle quotidien où chaque employé « offre » du contexte au système.

Les travailleurs sérieux, porteurs de diligence et de bienveillance, exposent sans retenue leurs réflexions sur ces plateformes froides. Ils le font pour que les rouages de l'équipe s'engrènent plus harmonieusement, pour tenter de prouver leur valeur au système, pour tenter désespérément de trouver leur place au sein de cette énorme et complexe machine commerciale. Ils ne cèdent pas activement leur être ; ils s'adaptent simplement, avec maladresse et détermination, aux règles de survie du monde professionnel moderne.

Mais précisément ces contextes laissés pour la collaboration humaine deviennent le meilleur carburant pour l'IA.

L'interface d'administration de Feishu dispose d'une fonction permettant à l'administrateur principal d'exporter en lot les documents et les historiques de communication des membres. Cela signifie que tout le travail que vous avez accompli pendant trois ans, les innombrables nuits blanches passées à rédiger des analyses de projets et des logiques de décision, ne nécessitent qu'une seule interface API pour être regroupées en quelques minutes dans une archive sans aucune chaleur.

Avec la popularité de « colleague.skill », des dérivés extrêmement dérangeants commencent à apparaître sur la section Issues de GitHub et sur les principales plateformes sociales.

Quelqu’un a créé le « skill. ex », essayant de nourrir l’IA avec les historiques de discussions WeChat des dernières années, afin qu’elle continue à discuter ou à chérir avec ce ton familier ; quelqu’un d’autre a créé le « skill. lumière blanche », transformant l’émotion intouchable en un froid jeu de simulation relationnelle, répétant sans cesse des phrases d’essai, avançant pas à pas pour chercher la solution émotionnelle optimale ; et quelqu’un d’autre encore a créé le « skill. patron paternel », anticipant dans l’espace numérique la dégustation de ces discours PUA oppressants, construisant ainsi une défense psychologique triste.

Les scénarios d'utilisation de ces compétences ont complètement dépassé le cadre de l'efficacité au travail. En réalité, sans nous en rendre compte, nous sommes déjà familiers avec l'application d'une logique impitoyable envers les outils pour démanteler et objectifier des êtres humains vivants et pleins de chair.

Le philosophe allemand Martin Buber a proposé que les relations humaines se réduisent à deux modèles fondamentalement différents : « Moi et Toi » et « Moi et Il ».

Dans la rencontre « moi et toi », nous dépassons les préjugés et regardons l'autre comme un être vivant complet et digne. Ce lien est ouvert sans réserve, rempli d'une vitalité imprévisible, et c'est précisément en raison de sa sincérité qu'il apparaît particulièrement fragile ; cependant, dès que nous tombons sous l'ombre de « moi et cela », l'être vivant est réduit à un objet pouvant être décomposé, analysé et catégorisé. Dans ce regard extrêmement utilitaire, ce qui nous intéresse uniquement, c'est : « À quoi ce truc peut-il bien me servir ? »

L'apparition de produits tels que « l'ancien.skill » marque l'invasion totale de la rationalité instrumentale « moi et lui » dans le domaine le plus intime des émotions.

Dans une relation réelle, les gens sont tridimensionnels, pleins de plis, en constante évolution avec leurs contradictions et leurs arêtes vives ; leurs réactions varient en fonction des circonstances spécifiques et des interactions émotionnelles. La réaction de votre ex à la même phrase peut être totalement différente lorsqu'il se réveille le matin par rapport à lorsqu'il rentre du travail tard dans la nuit.

Mais lorsque vous distillez une personne jusqu’à en faire une compétence, ce que vous éliminez n’est que la partie résiduelle de ses fonctions, qui, dans ce lien spécifique, vous semblait « utile » ou capable de vous « produire un effet ». La personne originale, chaleureuse, avec ses propres joies et peines, voit son âme complètement vidée dans cette purification cruelle, se transformant en un « interface fonctionnel » que vous pouvez brancher ou débrancher à votre guise.

Il faut reconnaître que l’IA n’a pas inventé de toutes pièces cette froideur glaçante. Avant l’arrivée de l’IA, nous étions déjà habitués à étiqueter les autres et à mesurer avec précision la « valeur émotionnelle » et le « poids relationnel » de chaque lien. Par exemple, sur les plateformes de rencontres, nous quantifions les critères des personnes sous forme de tableaux ; au travail, nous classons nos collègues en « ceux qui travaillent » et « ceux qui traînent ». L’IA n’a fait que rendre explicite cette extraction fonctionnelle implicite entre individus.

L'homme est écrasé, ne laissant que la section « À quoi ça me sert ? ».

En 1958, le philosophe d'origine hongroise et britannique Michael Polanyi a publié "Personal Knowledge". Dans cet ouvrage, il a introduit un concept extrêmement percutant : le savoir tacite.

Polanyi a une célèbre déclaration : « Nous savons plus que nous ne pouvons le dire. »

Il a donné l'exemple d'apprendre à faire du vélo. Un cycliste expérimenté qui glisse au vent peut parfaitement maintenir son équilibre à chaque inclinaison due à la gravité, mais il ne peut pas décrire avec précision, à l'aide de formules physiques sèches ou de mots vagues, l'intuition corporelle subtile ressentie à cet instant précis. Il sait comment faire du vélo, mais il ne peut pas l'expliquer. Ce type de connaissance qui ne peut être codifiée ni exprimée verbalement est appelé connaissance tacite.

Le milieu professionnel regorge de ce type de savoir implicite. Un ingénieur expérimenté, lorsqu'il investigue une panne système, peut identifier le problème en un coup d'œil sur les journaux, mais il lui est difficile de documenter cette « intuition » construite sur des milliers d'essais et d'erreurs ; un excellent vendeur, lors d'une négociation, peut soudainement se taire — ce silence, son intensité et son timing, ne peuvent être capturés par aucun manuel de vente ; un RH expérimenté, lors d'un entretien, peut détecter des inexactitudes dans le CV simplement en remarquant un demi-second de fuite du regard du candidat.

« Colleague.skill » ne peut extraire que les connaissances explicites qui ont déjà été écrites ou exprimées. Il peut capturer vos documents de rétrospective, mais pas les hésitations que vous avez eues en les rédigeant ; il peut copier vos réponses décisionnelles, mais pas l'intuition qui vous a guidé lors de la prise de décision.

Ce qui est distillé par le système n'est jamais qu'une ombre d'une personne.

Si l'histoire s'arrêtait ici, ce ne serait qu'une autre imitation maladroite de l'humain par la technologie.

Mais quand une personne est réduite à une compétence, cette compétence ne reste pas statique. Elle est utilisée pour répondre aux e-mails, rédiger de nouveaux documents et prendre de nouvelles décisions. Autrement dit, ces ombres générées par l’IA commencent à créer de nouveaux contextes.

Ces contextes générés par l'IA seront ensuite stockés dans Feishu et DingTalk, servant de matériel d'entraînement pour la prochaine itération de distillation.

Déjà en 2023, une équipe de recherche de l'Université d'Oxford et de l'Université de Cambridge a publié un article sur le « effondrement des modèles ». L'étude montre que lorsque les modèles d'IA sont entraînés itérativement sur des données générées par d'autres IA, la distribution des données devient de plus en plus étroite. Les traits humains rares, marginaux mais extrêmement authentiques sont rapidement effacés. Après seulement quelques générations de données synthétiques, les modèles oublient complètement les données humaines réelles, longues et complexes, pour produire des contenus extrêmement banals et homogènes.

La revue Nature a également publié en 2024 un article de recherche indiquant que l'entraînement des modèles d'apprentissage automatique des générations futures avec des jeux de données générés par l'IA polluera gravement leurs sorties.

C’est comme ces images mèmes qui circulent sur Internet, initialement une capture d’écran en haute définition, transmise et compressée à maintes reprises. À chaque diffusion, une partie des pixels est perdue et du bruit est ajouté. À la fin, l’image devient floue, recouverte de patine électronique.

Lorsque le contexte humain réel, porteur de connaissances implicites, est épuisé et que le système ne peut plus s'entraîner qu'avec des ombres patinées, qu'reste-t-il en fin de compte ?

Ce qui reste, ce sont seulement des évidences.

Lorsque le fleuve de la connaissance se réduit à une répétition infinie et à une digestion autocentrée entre IA, tout ce que le système exhale deviendra extrêmement standardisé, extrêmement sécurisé, mais aussi irrémédiablement vide. Vous verrez des rapports hebdomadaires parfaitement structurés, des courriels impeccables, mais aucun souffle d’humanité, aucune véritable insight de valeur.

Cette grande défaite de la connaissance ne s'explique pas par une baisse de l'intelligence humaine ; le véritable malheur réside dans le fait que nous avons externalisé le droit de penser et la responsabilité de préserver le contexte à notre propre ombre.

Quelques jours après la popularité de « colleague.skill », un projet nommé « anti-distill » est apparu discrètement sur GitHub.

L'auteur de ce projet n'a pas cherché à attaquer les grands modèles, ni à écrire de déclarations grandioses. Il a simplement mis à disposition un petit outil permettant aux employés de générer automatiquement des textes longs, apparemment raisonnables, mais remplis de bruit logique sur Feishu ou DingTalk.

Son objectif est simple : cacher ses connaissances essentielles avant d’être蒸馏 par le système. Puisque le système aime extraire les « longs textes écrits activement », il lui fournira une quantité de charabia sans aucun intérêt.

Ce projet n'a pas connu le même succès fulgurant que « collègue.skill » ; il semble même assez petit et faible. Utiliser la magie pour combattre la magie, c'est toujours rester dans le cadre des règles du jeu établies par le capital et la technologie. Il ne change pas la tendance croissante du système à devenir de plus en plus dépendant de l'IA et à négliger les êtres humains.

Mais cela n'empêche pas ce projet de devenir la scène la plus tragiquement poétique et profondément métaphorique de toute cette pièce absurde.

Nous nous efforçons avec une grande diligence de laisser des traces dans le système, d’écrire des documents détaillés, de prendre des décisions réfléchies, dans l’intention de prouver notre existence et notre valeur au sein de cette immense machine d’entreprise moderne. Mais nous ignorons que ces traces si sérieuses deviendront finalement la gomme qui nous effacera.

Mais d'un autre point de vue, cela n'est pas nécessairement une impasse totale.

Parce que ce que cette gomme efface, c’est toujours « l’ancien vous ». Une compétence empaquetée sous forme de fichier, aussi sophistiquée soit sa logique d’extraction, n’est au fond qu’une capture statique. Elle est figée à la seconde de son exportation, ne pouvant puiser son énergie que dans des ressources obsolètes, tournoyant sans fin dans des processus et des logiques prédéfinis. Elle ne possède pas l’instinct de faire face au chaos inconnu, ni la capacité de s’auto-évoluer à travers les échecs du monde réel.

Lorsque nous abandonnons ces expériences hautement standardisées et figées, nous libérons précisément nos mains. Tant que nous continuons à explorer à l'extérieur et à briser constamment nos propres limites cognitives, cette ombre suspendue dans les nuages ne pourra jamais faire que nous suivre de loin.

Les humains sont des algorithmes fluides.

Cliquez pour découvrir les postes ouverts chez BlockBeats

Rejoignez la communauté officielle de律动 BlockBeats :

Groupe Telegram abonné : https://t.me/theblockbeats

Groupe Telegram : https://t.me/BlockBeats_App

Compte officiel Twitter : https://twitter.com/BlockBeatsAsia