Чому працівники, які добросовісно працюють, найбільш вразливі до заміни штучним інтелектом

На жаль, у цю епоху чим більше ви вкладаєтеся в свою роботу, тим швидше перетворюєте себе на навичку, яку може замінити ШІ.

Протягом останніх двох днів стрічка трендів і медіа-канали були заповнені «колегою.skill». Коли ця подія продовжувала розвиватися на всіх соціальних платформах, громадська увага майже без винятків була захоплена величезними тривогами щодо «AI-звільнень», «експлуатації капіталу» та «цифрового бессмерття працівників».

Це, безумовно, викликає тривогу, але найбільше мене хвилює рядок із рекомендаціями в файлі README проекту:

Якість сировини визначає якість skill: рекомендується збирати спочатку його довгі статті, написані самостійно, > відповіді з рішеннями > повсякденні повідомлення.

Найкраще відтворені системою та піксельно відновлені — це саме ті, хто найбільш серйозно працює.

Це ті, хто залишається за столом, щоб написати звіт про кожен завершений проект; це ті, хто, зіткнувшись із розбіжностями, готовий витратити півгодини, щоб у діалозі написати довгу відповідь, щиро розібравши свою логіку прийняття рішень; це ті, хто надзвичайно відповідальний і до найдрібніших деталей покладає свою роботу на систему.

Серйозність, колись найбільше цінена риса на робочому місці, зараз стала каталізатором, що прискорює перетворення працівників на паливо для ШІ.

Нам потрібно переглянути значення одного слова: контекст.

У повсякденному контексті контекст є фоном комунікації. Але в ІІ, особливо у світі AI-агентів, які швидко розвиваються, контекст — це паливо для роботи двигуна, кров, що підтримує пульс, і єдине якір, яке дозволяє моделі робити точні висновки в хаосі.

Штучний інтелект, відірваний від контексту, навіть із найбільш захопливими параметрами, — це лише апарат з амнезією. Він не розпізнає, хто ви, не відчуває підводних течій, прихованих у бізнес-логіці, і не може зрозуміти, як довгий внутрішній конфлікт і компроміси ви пережили, приймаючи рішення, у цьому мережевому полотні, сплетеному з обмежень ресурсів і людських інтересів.

А «колега.skill» викликала такий величезний резонанс саме тому, що дуже холодно та точно визначила ту шахту, де зберігається величезна кількість якісних контекстів — програмне забезпечення для співпраці сучасних підприємств.

За останні п’ять років китайські робочі місця пройшли тиху, але глибоку цифрову трансформацію. Інструменти, такі як Feishu, DingTalk, Notion, перетворилися на величезні корпоративні бази знань.

Наприклад, у Feishu компанія ByteDance публічно зазначала, що щодня виникає надзвичайно велика кількість документів, і ці щільно заповнені символи відображають кожен інтелектуальний вибух, кожен запеклий обговорення на зустрічах та кожен стратегічний компроміс, який прийняли понад сто тисяч співробітників.

Ця цифрова проникність перевершує будь-який попередній епоху. Колись знання мали тепло — вони сховувалися в головах досвідчених працівників, розсіювалися в непритомній розмові біля кавоварки; зараз усе людське розуміння та досвід насильно висушуються й безжально опиняються на холодних серверних матрицях у хмарі.

У цій системі, якщо ти не пишеш документи, твоя робота залишається невидимою, а нові колеги не можуть з тобою співпрацювати. Ефективна робота сучасних компаній ґрунтується на щоденному циклі, коли кожен працівник «принесе» контекст до системи.

Серйозні працівники, сповнені працелюбства та доброти, на цих холодних платформах без залишку розкривають свій хід міркувань. Вони роблять це, щоб шестерні команди краще зчеплювалися, щоб довести вартість себе системі та в цьому складному комерційному чудовиську вибити собі місце. Вони не віддають себе добровільно — вони лише неуклюже, але наполегливо підкоряються сучасним правилам виживання на роботі.

Але саме цей контекст, залишений для людської співпраці, стає найідеальнішим паливом для ШІ.

У панелі адміністрування Feishu є функція, яка дозволяє суперадміністраторам пакетно експортувати документи та історію спілкування членів. Це означає, що ваші три роки напруженої роботи, безліч нічних сессій, вкладених у аналіз проектів та логіку прийняття рішень, можуть бути за кілька хвилин безжально зібрані в один бездушний архів через просто API-запит.

З поширенням «колеги.skill» у розділі Issues GitHub та на великих соціальних платформах з’явилися деякі дуже неприємн деривативи.

Хтось створив «skill колишнього», намагаючись накормити ШІ чатами з Вейчіна за останні роки, щоб він продовжував суперечити або ласкавитися з вами тією ж знайомою манерою; хтось створив «skill білої місячної світлоти», знизивши нездійсненну тривогу до холодної ігрової дошки, де повторно моделюються дослідні фрази, крок за кроком шукаючи оптимальне емоційне рішення; хтось створив «skill боса-папи», заздалегідь пережовуючи в цифровому просторі ті слова ПУА, що викликають тиск, і будує собі сумну психологічну бар’єр.

Сценарії використання цих навичок повністю вийшли за межі продуктивності праці. Виявляється, що ми незамітно для себе вже добре звикли застосовувати холодну логіку стосовно інструментів, щоб розчленовувати й об’єктивувати живих, реальних людей.

Німецький філософ Мартін Бубер стверджував, що основою людських відносин є лише дві абсолютно різні моделі: «Я ти» і «Я воно».

У зустрічі «Я і Ти» ми подолуємо передумови, сприймаючи іншого як цілісну й гідну існуючу особистість. Цей зв’язок відкритий без залишків, він наповнений живою, непередбачуваною енергією, і саме через свою щирість він дуже хрупкий; однак, коли ми потрапляємо у тінь «Я і Воно», живу людину знижують до рівня об’єкта, який можна розбирати, аналізувати та класифікувати за мітками. У цьому надзвичайно корисливому погляді єдине, що нас цікавить — це: «Що це річ може дати мені?»

Виникнення продуктів, таких як «колишній.skill», свідчить про те, що інструментальна раціональність «я та воно» повністю вторглась у найбільш особисту сферу емоцій.

У справжніх стосунках люди є багатовимірними, повними зморшок, постійно змінюються зі своїми суперечностями та нерівностями; їхні реакції постійно змінюються залежно від конкретної ситуації та емоційної взаємодії. Ваш колишній може по-різному відреагувати на ту саму фразу, коли прокидається вранці, ніж коли повертається після нічної роботи.

Але коли ви витискаєте людину до рівня навички, ви відокремлюєте лише ту функціональну оболонку, яка в певних стосунках була для вас «корисною» та «ефективною». Той справжній, теплий, з власними радістю й стражданнями людина, у цьому жорстокому процесі очищення повністю втрачає душу й перетворюється на «інтерфейс функцій», який можна будь-коли підключити або відключити.

Треба визнати, що ШІ не вигадав цього леденячого холоду з нізвідки. До появи ШІ ми вже давно звикли наклеювати ярлики на інших і точно вимірювати «емоційну цінність» та «вагу контактів» кожної стосунку. Наприклад, на шлюбних ринках ми перетворюємо умови людей на таблиці; у робочому середовищі ми класифікуємо колег як «тих, хто працює», і «тих, хто лінується». ШІ лише зробив цей прихований, міжлюдський функціонал повністю явним.

Людину розтиснуло, залишився лише переріз «а що мені від цього користі?».

У 1958 році угорсько-британський філософ Майкл Поляні опублікував книгу «Особисте знання». У цій книзі він запровадив надзвичайно проникливу концепцію: тактичне знання.

Полані має відому тезу: «Ми знаємо більше, ніж можемо сказати».

Він навів приклад навчання їзди на велосипеді. Досвідчений велосипедист, який керує вітром, ідеально зберігає рівновагу під час кожного нахилу, але не може точно описати початківцю тонкі тілесні інтуїтивні відчуття того моменту за допомогою сухих фізичних формул або блідих слів. Він знає, як їхати, але не може це пояснити. Таке знання, яке не можна закодувати або висловити словами, називається неявним знанням.

У робочому середовищі повно таких прихованих знань. Досвідчений інженер, виявляючи несправності в системі, може за кілька секунд визначити проблему, дивлячись на логи, але йому важко описати цю «інтуїцію», сформовану тисячами спроб і помилок, у вигляді документації; чудовий продавець, раптово замовкаючи під час переговорів, створює тиск і вловлює правильний момент — це неможливо зафіксувати в жодному посібнику з продажів; досвідчений HR-спеціаліст під час співбесіди може виявити неправду в резюме лише за півсекунди, коли кандидат уникнув зорового контакту.

«Колега.skill» може витягувати лише ті явні знання, які вже були записані або сказані. Він може збирати ваші аналітичні документи, але не може захопити ваші сумніви під час їх написання; він може копіювати ваші відповіді щодо прийняття рішень, але не може скопіювати інтуїцію, яка стояла за цими рішеннями.

Система, відфільтрована звідси, завжди є лише тінню людини.

Якби історія закінчувалася тут, це було б просто ще однією поганою імітацією людської природи технологією.

Але коли людину зведено до навички, ця навичка не залишається нерухомою. Її використовують для відповідей на листи, написання нових документів, прийняття нових рішень. Іншими словами, ці тіні, створені ШІ, починають генерувати нові контексти.

Ці контексти, згенеровані ШІ, зберігаються в Feishu та DingTalk і стають навчальними матеріалами для наступного раунду дистиляції.

Ще у 2023 році дослідницькі команди Оксфордського та Кембриджського університетів спільно опублікували статтю про «збій моделі». Дослідження показало, що коли AI-моделі навчаються ітеративно на даних, згенерованих іншими AI, розподіл даних стає все вужчим. Ті рідкісні, маргінальні, але надзвичайно справжні людські риси швидко зникають. Лише після кількох поколінь синтетичних даних модель повністю забуває про довгі хвилі, складні справжні людські дані і починає генерувати надзвичайно посередні та однорідні вихідні дані.

У 2024 році журнал «Природа» також опублікував дослідницьку статтю, яка вказує, що навчання майбутніх поколінь моделей машинного навчання на даних, згенерованих за допомогою ШІ, серйозно забруднить їх вихідні дані.

Це наче ті меми, що поширюються в інтернеті: спочатку це була чітка скріншот, яку безліч людей пересилали, стискали та знову пересилали. Кожен раз при передачі втрачалася частина пікселів і додавалися шуми. У підсумку зображення ставало розмитим і покривалося електронною патиною.

Коли справжній людський контекст із прихованими знаннями вичерпано, а система змушена навчатися лише на затертіх тінях, що залишиться в кінці?

Залишилося лише правильні банальності.

Коли річка знань висихає до нескінченної жування та пережовування AI AI, все, що система випускає та вдихає, стане надзвичайно стандартним, надзвичайно безпечним, але безнадійно порожнім. Ви побачите безліч ідеально структурованих щотижневих звітів, безліч листів, у яких неможливо знайти недолік, але в них немає ніякого дихання живої людини, жодних справді цінних інсайтів.

Цей великий провал знань не пов’язаний із тим, що людський мозок став менш розумним; справжня трагедія полягає в тому, що ми передали право мислити та відповідальність за збереження контексту нашій власній тіні.

Кілька днів після вибухової популярності «colleague.skill» на GitHub з’явився проект під назвою «anti-distill».

Автор цього проекту не намагався атакувати великі моделі чи писати величезні декларації. Він просто створив невеликий інструмент, який допомагає працівникам автоматично генерувати довгі, на перший погляд логічні, але насправді повні логічного шуму, непотрібні тексти в Feishu або DingTalk.

Його мета була проста: приховати свої ключові знання до того, як систему їх витягне. Оскільки системі подобається збирати «довгі тексти, написані користувачами», він просто накормив її купою безглуздого сміття.

Цей проект не став таким же хітом, як «колега.skill», він навіть здається невеликим і безсилим. Використання магії проти магії суттєво залишається в межах ігрових правил, встановлених капіталом і технологіями. Він не може змінити загальну тенденцію до все більшої залежності від ШІ та зменшення уваги до реальних людей.

Але це не заважає цьому проекту стати найбільш трагічно поетичною та глибоко метафоричною сценою всієї абсурдної п'єси.

Ми надзвичайно старанно залишали сліди в системі, писали детальні документи, приймали обдумані рішення, намагаючись довести в цій величезній сучасній корпоративній машині, що ми коли-небудь існували і були корисними. Але не знали, що ці надзвичайно серйозні сліди стануть гумкою, яка витре нас.

Але, з іншого боку, це не обов’язково повний мертвий пункт.

Бо та гумка витирає лише «минулу версію тебе». Навичка, упакована у файл, незалежно від того, наскільки досконалий її логічний алгоритм, за суттю є лише статичною знімком. Вона зафіксована на момент експорту і змушена безкінечно кружляти в межах застарілих даних, визначених процесів і логіки. Вона не має інстинкту зустрічі з невідомим хаосом і не здатна еволюціонувати через невдачі в реальному світі.

Коли ми віддаємо ті високостандартизовані, вкорінені досвіди, ми саме собі звільняємо руки. Доки ми продовжуємо розширювати свої межі та постійно руйнуємо та перебудовуємо свої уявлення, тінь, що залишилася в хмарах, завжди буде слідкувати за нашими спинами.

Людина — це рухомий алгоритм.