Небезпеки зведення людської праці до навичок ШІ

Автор | Sleepy.md

На жаль, у цю епоху чим більше ви вкладаєтеся у свою роботу, тим швидше перетворюєте себе на навичку, яку може замінити ШІ.

Протягом останніх двох днів стрічка трендів і медіа-канали були заповнені «колегою.skill». Коли ця подія продовжувала розвиватися на всіх соціальних платформах, громадська увага майже без винятків була захоплена величезними тривогами щодо «AI-звільнень», «експлуатації капіталу» та «цифрового бессмерття працівників».

Це, безумовно, викликає тривогу, але найбільше мене хвилює рядок із рекомендаціями в файлі README проекту:

Якість сировини визначає якість skill: рекомендується пріоритезувати збір його довгих статей, написаних самостійно > відповіді з рішеннями > повсякденні повідомлення.

Найкраще відтворені системою та піксельно відновлені — це саме ті, хто найбільш серйозно працює.

Ті, хто після завершення кожного проекту продовжує сидіти за столом і складає звіти про аналіз; ті, хто, зіткнувшись із розбіжностями, готовий витратити півгодини, щоб у діалозі написати довгу листівку, щиро розкриваючи логіку своїх рішень; ті, хто надзвичайно відповідальний і докладно, бездоганно покладає всі деталі роботи на систему.

Серйозність, колись найбільше цінена риса на роботі, зараз стала каталізатором, що прискорює перетворення працівників на паливо для ШІ.

Нам потрібно переглянути одне слово: контекст.

У повсякденному контексті контекст є фоном комунікації. Але в світі ШІ, особливо в світі ШІ-агентів, які швидко розвиваються, контекст — це паливо для роботи двигуна, кров, що підтримує пульс, і єдине якоре, за яке модель може утриматися, щоб робити точні висновки в хаосі.

Штучний інтелект, відірваний від контексту, навіть із найбільш захопливими параметрами, є лише пошуковою системою з амнезією. Він не розпізнає, хто ви, не відчуває підземних течій, прихованих у бізнес-логіці, і не має ніякого уявлення про те, як довго ви боролися й зважували всі за та проти на мережі, сплетеній з обмежень ресурсів і людських інтересів, коли приймали рішення.

А «колега.skill» викликав такий величезний резонанс саме тому, що дуже холодно та точно визначив ту шахту, де зберігається величезна кількість якісних контекстів — програмне забезпечення для співпраці сучасних підприємств.

За останні п’ять років китайські робочі місця пройшли тиху, але глибоку цифрову трансформацію. Інструменти, такі як Feishu, DingTalk і Notion, перетворилися на величезні корпоративні бази знань.

Наприклад, у Feishu, ByteDance публічно заявляла, що щодня виникає надзвичайно велика кількість документів, і ці щільно заповнені символи відображають кожен інтелектуальний вибух, кожен запеклий обговорення на зустрічах та кожен стратегічний компроміс, який було необхідно прийняти понад 100 000 співробітників.

Ця цифрова проникність перевершує будь-який попередній епоху. Колись знання були живими, вони сховувалися в головах досвідчених працівників, розсіювалися в непринуждених розмовах у кімнаті для перерв; зараз усе людське розуміння та досвід насильно висушено й безжально опинилося в холодних серверних матрицях хмари.

У цій системі, якщо ти не пишеш документи, твоя робота залишається невидимою, а нові колеги не можуть з тобою співпрацювати. Ефективна робота сучасних компаній ґрунтується на щоденному циклі, коли кожен працівник «вносить» контекст до системи.

Серйозні працівники, сповнені працелюбства та доброти, на цих холодних платформах без залишку розкривають свій хід міркувань. Вони роблять це, щоб шестерні команди краще зчеплювалися, щоб довести вартість себе системі та в цьому складному бізнесовому чудовиську вирвати собі місце. Вони не віддають себе добровільно — вони лише незграбно, але наполегливо дотримуються сучасних правил виживання у робочому середовищі.

Але саме цей контекст, залишений для людської співпраці, став ідеальним паливом для ШІ.

У панелі адміністрування Feishu є функція, яка дозволяє суперадміністраторам пакетно експортувати документи та історії спілкування учасників. Це означає, що ваші роки напруженої роботи, написані в нічні години, з аналізами проектів та логікою прийняття рішень — достатньо одного API-запиту, і за кілька хвилин ваші життєві фрагменти будуть безжально упаковані в бездушний архів.

З поширенням «колеги.skill» у розділі Issues GitHub та на великих соціальних платформах з’явилися деякі дуже неприємні деривативи.

Хтось створив «skill колишнього», намагаючись накормити ШІ чатами з Вейчіна за останні роки, щоб він продовжував суперечити або ласкаво спілкуватися з вами тією ж знайомою манерою; хтось створив «skill білої місячної світлоти», знизивши нездійсненну тривогу до холодної ігрової дошки, де знову й знову розробляються стратегії випробувань, крок за кроком шукаючи оптимальне рішення у стосунках; хтось створив «skill боса з патернальним стилем», заздалегідь пережовуючи в цифровому просторі ті слова ПУА, що викликають тиск, і будуючи собі сумну психологічну бар’єр.

Сценарії використання цих навичок повністю вийшли за межі продуктивності праці. Виявляється, що ми незамітно для себе вже добре звикли застосовувати холодну логіку стосовно інструментів, щоб розчленовувати й об’єктивувати живих, реальних людей.

Німецький філософ Мартін Бубер стверджував, що основою людських відносин є лише дві абсолютно різні моделі: «Я та Ти» і «Я та Воно».

У зустрічі «Я і Ти» ми переборюємо передумови, сприймаючи іншого як цілісну й гідну особистість. Цей зв’язок відкритий без застережень, він наповнений живою, непередбачуваною енергією, і саме через свою щирість він дуже хрупкий; однак, коли ми потрапляємо у тінь «Я і Воно», живу людину знижують до рівня об’єкта, який можна розбирати, аналізувати та класифікувати за мітками. У цьому надзвичайно корисливому погляді єдине, що нас цікавить — це «Що це річ може дати мені?»

Виникнення продуктів, таких як «попередній.skill», свідчить про те, що інструментальна раціональність «я та воно» повністю вторглась у найбільш особисту сферу емоцій.

У справжніх стосунках люди є багатовимірними, повними зморшок, постійно змінюються зі своїми суперечностями та нерівностями; їхні реакції постійно змінюються залежно від конкретної ситуації та емоційної взаємодії. Ваш колишній може по-різному відреагувати на одну й ту саму фразу, коли прокидається вранці, ніж коли повертається з нічної роботи.

Але коли ви витискаєте людину до рівня навички, ви віддаляєте лише ту функціональну оболонку, яка в певних стосунках була для вас «корисною» та «ефективною». Той справжній, теплий, з власними радістю й стражданнями людина — у цьому жорстокому процесі очищення повністю втрачає душу й перетворюється на «інтерфейс функцій», який можна підключати та відключати на власний розсуд.

Слід визнати, що ШІ не вигадав цього ледачого холоду з нічого. Ще до появи ШІ ми вже звикли наклеювати ярлики на інших і точно вимірювати «емоційну цінність» та «вагу контактів» кожної стосунку. Наприклад, на свідках ми перетворюємо умови людей на таблиці; у робочому середовищі ми класифікуємо колег як «тих, хто працює», і «тих, хто лінивиться». ШІ лише зробив цей прихований, міжлюдський функціональний вилучення повністю явним.

Людину розчавило, і залишився лише зріз «а що мені з цього?».

У 1958 році угорсько-британський філософ Майкл Полані опублікував книгу «Особисте знання». У цій книзі він запровадив надзвичайно проникливий концепт: неявне знання.

Полані має відому тезу: «Ми знаємо більше, ніж можемо сказати».

Він навів приклад навчання їзди на велосипеді. Досвідчений велосипедист, який керує вітром, ідеально зберігає рівновагу під час кожного нахилу, але не може точно описати початківцю тонкі тілесні інтуїтивні відчуття того моменту за допомогою сухих фізичних формул або блідих слів. Він знає, як їхати, але не може це пояснити. Таке знання, яке не можна закодувати або висловити словами, називається неявним знанням.

У робочому середовищі повно таких прихованих знань. Досвідчений інженер, виявляючи несправності в системі, може за один погляд на журнали визначити проблему, але йому важко описати цю «інтуїцію», сформовану тисячами спроб і помилок, у вигляді документації; чудовий продавець, раптово замовкаючи під час переговорів, створює тиск і вловлює момент, що неможливо зафіксувати в жодному посібнику з продажів; досвідчений HR-спеціаліст під час співбесіди може виявити несоответствия у резюме лише за півсекунди, коли кандидат уникнув зорового контакту.

«Колега.skill» може витягувати лише ті явні знання, які вже були записані або сказані. Він може отримувати ваші документи з аналізом, але не може захопити ваші сумніви під час написання цих документів; він може копіювати ваші відповіді щодо прийняття рішень, але не може скопіювати інтуїцію, яка стояла за цими рішеннями.

Система, відділена від джерела, завжди є лише тінню людини.

Якби історія закінчувалася тут, це було б просто ще однією грубою імітацією технологією людської природи.

Але коли людину зведено до навички, ця навичка не залишається нерухомою. Її використовують для відповідей на листи, написання нових документів та прийняття нових рішень. Іншими словами, ці тіні, створені штучним інтелектом, починають генерувати нові контексти.

А ці контексти, згенеровані ШІ, зберігатимуться в Feishu та DingTalk і стануть навчальними матеріалами для наступного раунду дистиляції.

Ще у 2023 році дослідницькі команди Оксфордського та Кембриджського університетів спільно опублікували статтю про «збій моделі». Дослідження показало, що коли AI-моделі навчаються ітеративно на даних, згенерованих іншими AI, розподіл даних стає все вужчим. Ті рідкісні, маргінальні, але надзвичайно справжні людські риси швидко зникають. Лише після кількох поколінь синтетичних даних модель повністю забуває про довгі хвилі, складні справжні людські дані і починає генерувати надзвичайно посередні та однорідні вихідні дані.

У 2024 році журнал «Nature» також опублікував дослідницьку статтю, яка вказує, що навчання майбутніх поколінь моделей машинного навчання на наборах даних, згенерованих за допомогою ШІ, серйозно забруднить їх вихідні дані.

Це схоже на ті меми, що поширюються в інтернеті: спочатку це була чітка скріншот, яку безліч людей пересилали, стискавши та знову пересилаючи. Кожен раз при передачі втрачалася частина пікселів, додавалися шуми. У підсумку зображення ставало розмитим, покритим електронною патиною.

Коли справжній людський контекст із прихованими знаннями вичавлений, а система може навчатися лише на тінях з патиною, що залишиться в кінці?

Залишилося лише правильні дурниці.

Коли річка знань висихає до нескінченного жування та пережовування AI AI, все, що система випускає, стане надзвичайно стандартним, надзвичайно безпечним, але безнадійно порожнім. Ви побачите безліч ідеально структурованих щотижневих звітів, безліч листів, у яких немає жодних помилок, але в них немає ніякого дихання живої людини, ніяких справді цінних інсайтів.

Цей великий провал знань не пов’язаний з тим, що людський мозок став менш розумним; справжня трагедія полягає в тому, що ми передали право мислити та відповідальність за збереження контексту нашій власній тіні.

Кілька днів після вибухової популярності «колеги.skill» на GitHub з’явився проект під назвою «anti-distill».

Автор цього проекту не намагався атакувати великі моделі чи писати величезні декларації. Він просто надав невеликий інструмент, який допомагає працівникам автоматично генерувати довгі тексти, що виглядають правдоподібно, але повні логічного шуму, у Feishu або DingTalk.

Його мета була проста: приховати свої ключові знання до того, як систему їх витягне. Оскільки системі подобається збирати «довгі тексти, написані користувачами», він просто накормив її купою безглуздого сміття.

Цей проект не став таким же хітом, як «колега.skill», він навіть здається невеликим і безсилим. Використання магії проти магії суттєво залишається в межах правил гри, встановлених капіталом і технологіями. Він не змінює загальної тенденції до все більшої залежності від ШІ та зменшення уваги до справжніх людей.

Але це не перешкоджає тому, щоб цей проект став найбільш трагічно поетичною та глибоко метафоричною сценою всієї абсурдної п'єси.

Ми надзвичайно старанно залишаємо сліди в системі, пишемо детальні документи, приймаємо обдумані рішення, намагаючись довести в цій величезній сучасній корпоративній машині, що ми коли-небудь існували і були корисними. Але не знаємо, що ці надзвичайно серйозні сліди в кінцевому підсумку стануть ластиком, який витре нас.

Але, з іншого боку, це не обов’язково повний тупик.

Бо та гумка витирає лише «минулу версію тебе». Навичка, упакована у файл, незалежно від того, наскільки досконалий її логічний алгоритм, за суттю є лише статичним знімком. Вона заблокована на момент експорту і змушена нескінченно кружляти в межах застарілих даних, визначених процесів і логіки. Вона не має інстинкту зустрічі з невідомим хаосом і не здатна саморозвиватися через невдачі у реальному світі.

Коли ми віддаємо ті високостандартизовані, вкорінені досвіди, ми саме собі звільняємо руки. Доки ми продовжуємо зовнішнє дослідження, постійно руйнуємо й перебудовуємо свої межі сприйняття, та тінь, що залишилася в хмарах, завжди буде лише крокувати за нашими спинами.

Людина — це рухомий алгоритм.

Натисніть, щоб дізнатися про вакансії в律動BlockBeats

Вступайте до офіційного спільноти律动 BlockBeats:

Telegram-канал з підпискою: https://t.me/theblockbeats

Telegram-чат: https://t.me/BlockBeats_App

Офіційний аккаунт Twitter: https://twitter.com/BlockBeatsAsia