Опасности превращения человеческого труда в навыки ИИ

Статья | Sleepy.md

К сожалению, в эту эпоху чем более искренне и серьезно вы работаете, тем быстрее превращаете себя в навык, который может заменить ИИ.

В последние два дня тенденции и медиа-каналы были заполнены «коллегой.skill». Когда этот инцидент продолжал развиваться на различных социальных платформах, общественное внимание почти без исключения было захвачено крупными тревогами, такими как «AI-увольнения», «эксплуатация капиталом» и «цифровая бессмертность работника».

Это действительно вызывает тревогу, но то, что вызывает у меня наибольшую тревогу, — это рекомендация по использованию, указанная в файле README проекта:

Качество сырья определяет качество skill: рекомендуется в первую очередь собирать его длинные статьи, написанные самостоятельно > ответы, связанные с принятием решений > повседневные сообщения.

Наиболее идеально отфильтровываемые и пиксельно воспроизводимые системой — это именно те, кто работает наиболее серьезно.

Это те, кто после завершения каждого проекта продолжает сидеть за столом и писать отчеты об анализе; те, кто при возникновении разногласий готов потратить полчаса, чтобы набрать в чате длинное сообщение и откровенно проанализировать свою логику принятия решений; те, кто чрезвычайно ответственно относится к работе и безупречно доверяет все детали процесса системе.

Серьезность, когда-то самая ценимая добродетель на рабочем месте, теперь стала катализатором, ускоряющим превращение работников в топливо для ИИ.

Нам нужно заново понять слово: контекст.

В повседневном контексте контекст — это фон общения. Но в мире ИИ, особенно среди стремительно развивающихся ИИ-агентов, контекст — это топливо, питающее двигатель, кровь, поддерживающая пульс, и единственный якорь, позволяющий модели делать точные суждения в хаосе.

Искусственный интеллект, лишенный контекста, даже с самым впечатляющим количеством параметров, — всего лишь поисковая система с амнезией. Он не узнает, кто вы, не чувствует скрытые течения под бизнес-логикой и не может понять, какие долгие колебания и компромиссы вы пережили на этой сети, сплетенной из ограничений ресурсов и человеческих игр, прежде чем принять решение.

И именно то, что «коллега.skill» с чрезвычайной жестокостью и точностью направил свой взгляд на гору, наполненную огромным количеством качественного контекста — корпоративное программное обеспечение для сотрудничества, — вызвало столь мощную волну.

За последние пять лет китайские рабочие места пережили тихую, но глубокую цифровую трансформацию. Инструменты, такие как Feishu, DingTalk и Notion, превратились в огромные корпоративные базы знаний.

На примере Feishu, ByteDance ранее открыто заявляла, что ежедневно в компании генерируется огромное количество документов, и эти плотно заполненные символы точно сохраняют каждую интеллектуальную вспышку, каждую оживленную дискуссию на совещаниях и каждое стратегическое уступство, сдерживаемое зубами, более чем ста тысяч сотрудников.

Эта цифровая проникающая сила превосходит любую предыдущую эпоху. Когда-то знания были живыми — они скрывались в головах опытных сотрудников, рассеивались в случайных разговорах в кухне; теперь вся человеческая мудрость и опыт высушены и безжалостно оседают на холодных серверных матрицах в облаке.

В этой системе, если вы не пишете документы, ваша работа остается невидимой, и новые коллеги не могут с вами сотрудничать. Эффективная работа современных предприятий основана на цикле, в котором каждый сотрудник ежедневно «приносит в жертву» системе контекст.

Серьезные работники, полные трудолюбия и доброты, без остатка раскрывают свои мысли на этих холодных платформах. Они делают это, чтобы шестеренки команды лучше сцеплялись, чтобы доказать системе свою ценность и найти свое место внутри этой сложной коммерческой чудовищной машины. Они не сознательно отдают себя — они просто неуклюже и усердно следуют законам выживания в современном рабочем мире.

Но именно этот контекст, оставленный для человеческого взаимодействия, становится идеальным топливом для ИИ.

В административной панели Feishu есть функция, позволяющая суперадминистратору массово экспортировать документы и журналы общения участников. Это означает, что ваши проектные анализы и логика принятия решений, написанные за три года и множество бессонных ночей, могут быть за несколько минут упакованы в безжизненный архив с помощью всего лишь одного API-интерфейса.

С ростом популярности «коллеги.skill» в разделе Issues GitHub и на различных социальных платформах начали появляться крайне неприятные производные продукты.

Кто-то создал «навык бывшего», чтобы накормить ИИ историей чатов в WeChat за последние годы, заставив его продолжать спорить или ласкаться с ним привычным тоном; кто-то создал «навык белого света месяца», превратив недоступное трепетание в холодную социальную симуляцию, многократно отрабатывая тактику осторожных слов и шаг за шагом стремясь к оптимальному эмоциональному решению; кто-то создал «навык начальника с отцовской манерой», заранее пережевывая в цифровом пространстве那些 давящие слова ПУА, чтобы построить себе печальную психологическую защиту.

Сферы применения этих навыков полностью вышли за рамки повышения эффективности работы. Оказывается, мы незаметно для себя уже освоили холодную логику обращения с инструментами, чтобы разрушать и обесчеловечивать живых, полноценных людей.

Немецкий философ Мартин Бубер утверждал, что основа человеческих отношений сводится к двум совершенно различным моделям: «Я и Ты» и «Я и Оно».

В встрече «я и ты» мы преодолеваем предвзятость, воспринимая друг друга как целостное и достойное существо. Эта связь открыта без остатка, полна живой непредсказуемости и именно благодаря своей искренности особенно хрупка; однако, как только мы попадаем в тень «я и оно», живого человека снижают до уровня объекта, который можно разобрать, проанализировать и классифицировать с помощью ярлыков. В этом крайне утилитарном взгляде нас интересует только одно: «Какую пользу этот объект приносит мне?»

Появление продуктов, таких как «Бывший.skill», означает, что инструментальная рациональность «я и оно» полностью вторглась в самую интимную эмоциональную сферу.

В настоящих отношениях люди многогранны, полны складок и постоянно меняются в ответ на противоречия и шероховатости; их реакции постоянно изменяются в зависимости от конкретной ситуации и эмоционального взаимодействия. Ваш бывший может по-разному отреагировать на одну и ту же фразу, проснувшись утром, и после ночной смены работы.

Но когда вы перерабатываете человека в навык, вы отбрасываете лишь ту функциональную оболочку, которая в рамках этой конкретной привязанности оказалась для вас «полезной» и «эффективной». А тот, кто когда-то был живым, с собственными радостями и печалями, в этом жестоком процессе очищения полностью лишается души и превращается в «интерфейс функции», который вы можете подключать и отключать по своему усмотрению.

Нельзя не признать, что ИИ не выдумал эту пугающую холодность. До появления ИИ мы давно привыкли навешивать ярлыки на других и точно взвешивать «эмоциональную ценность» и «вес связей» в каждом отношениях. Например, на свиданиях мы превращаем условия людей в таблицы; на работе мы классифицируем коллег как «тех, кто работает», и «тех, кто ленится». ИИ просто сделал эту скрытую, межличностную функциональную извлечённость полностью явной.

Человек был сплющен, остался только срез «а как это мне поможет».

В 1958 году венгеро-британский философ Майкл Полани опубликовал книгу «Личностное знание». В ней он ввел проницательное понятие — скрытое знание.

Полани сказал известное утверждение: «Мы знаем больше, чем можем выразить».

Он привёл пример обучения езде на велосипеде. Опытный велосипедист, скользящий по ветру, идеально сохраняет равновесие при каждом наклоне под действием силы тяжести, но не может точно передать начинающему тонкие ощущения тела в тот момент с помощью сухих физических формул или бледных слов. Он знает, как ездить, но не может это объяснить. Такое знание, которое невозможно закодировать или выразить словами, называется скрытым знанием.

В рабочей среде полно такого скрытого знания. Опытный инженер, устраняющий сбои в системе, может сразу определить проблему, просто взглянув на логи, но ему сложно описать в документации «интуицию», основанную на тысячах попыток и ошибок; отличный продавец, внезапно замолкающий за переговорным столом, создает давление и точно выбирает момент — это невозможно зафиксировать ни в одном руководстве по продажам; опытный HR-специалист во время собеседования может по полсекунды избегания взгляда кандидата определить несоответствия в резюме.

«Коллега.skill» может извлекать только явные знания, которые уже были записаны или сказаны. Он может извлечь ваши аналитические документы, но не может захватить ваши колебания во время их написания; он может скопировать ваши ответы по принятию решений, но не может воспроизвести интуицию, стоявшую за этими решениями.

Система выделяет только тень человека.

Если бы история закончилась здесь, это было бы лишь еще одним неудачным подражанием технологии человеческой природе.

Но когда человек превращается в навык, этот навык не остается статичным. Он используется для ответа на письма, написания новых документов и принятия новых решений. То есть эти тени, созданные ИИ, начинают порождать новые контексты.

А эти контексты, сгенерированные ИИ, будут сохранены в Feishu и DingTalk и станут обучающими материалами для следующего цикла дистилляции.

Еще в 2023 году исследовательские группы Оксфордского и Кембриджского университетов совместно опубликовали статью о «крахе модели». Исследование показало, что при итеративном обучении ИИ-моделей на данных, сгенерированных другими ИИ, распределение данных становится все уже и уже. Редкие, маргинальные, но чрезвычайно реальные человеческие черты быстро стираются. Лишь после нескольких поколений синтетических данных модель полностью забывает о длинных хвостах сложных реальных человеческих данных и начинает генерировать исключительно посредственные и однородные результаты.

В 2024 году журнал «Nature» также опубликовал исследовательскую статью, указывающую, что обучение будущих поколений моделей машинного обучения на наборах данных, сгенерированных с помощью ИИ, серьезно загрязнит их выходные данные.

Это как те мемы, которые распространяются в интернете: изначально это был чёткий скриншот, который бесчисленное количество раз пересылали, сжимали и снова пересылали. Каждый раз при передаче терялась часть пикселей и добавлялся шум. В итоге изображение становилось размытым и покрывалось электронным патиной.

Когда истинный человеческий контекст, содержащий неявные знания, выжат до последнего, а система вынуждена обучаться на затертых тенях, что останется в конце?

Остается только правильная ерунда.

Когда река знаний иссякает в бесконечном жевании и пережевывании ИИ самим собой, всё, что система производит и выдыхает, станет чрезвычайно стандартным, чрезвычайно безопасным, но необратимо пустым. Вы увидите бесчисленные идеально структурированные еженедельные отчёты, бесчисленные письма, в которых невозможно найти ошибки, но в них не будет ни единого следа живой души, ни единого по-настоящему ценного проникновения.

Это крупное поражение знаний произошло не потому, что человеческий мозг стал глупее; настоящая трагедия в том, что мы передали право мыслить и ответственность за сохранение контекста нашему собственному отражению.

Несколько дней после всплеска популярности «colleague.skill» на GitHub появился проект под названием «anti-distill».

Автор этого проекта не пытался атаковать крупные модели и не писал никаких грандиозных манифестов. Он просто предоставил небольшой инструмент, помогающий сотрудникам автоматически генерировать в Feishu или DingTalk длинные тексты, которые выглядят правдоподобно, но на самом деле полны логического шума.

Его цель проста: спрятать свои ключевые знания до того, как система их извлечет. Поскольку система любит извлекать «длинные тексты, написанные самостоятельно», он просто накормит ее кучей бессмысленного мусора.

Этот проект не стал таким же хитом, как «Colleague.skill», он даже кажется незначительным и беспомощным. Использовать магию против магии — это всё равно что крутиться в рамках правил игры, заданных капиталом и технологиями. Он не может изменить общую тенденцию к всё большей зависимости от ИИ и всё большему игнорированию реальных людей.

Но это не мешает этому проекту стать наиболее трагически поэтичной и глубоко метафоричной сценой всего этого абсурдного спектакля.

Мы прилагаем огромные усилия, чтобы оставить следы в системе, составлять подробные документы, принимать продуманные решения, пытаясь доказать в этой огромной современной корпоративной машине, что мы когда-то существовали и были ценными. Но мы не знаем, что эти крайне серьезные следы в конечном итоге станут ластиком, стирающим нас.

Но, с другой стороны, это未必 является полной тупиковой ситуацией.

Потому что то, что стирает этот ластик, — это всегда лишь «прошлое тебя». Навык, упакованный в файл, независимо от того, насколько изощренна его логика извлечения, по сути, является лишь статичным снимком. Он заблокирован на секунду экспорта и может лишь бесконечно вращаться в заданных процессах и логиках, питаясь устаревшими данными. У него нет инстинкта столкновения с неизвестной хаотичностью и тем более способности к саморазвитию через неудачи в реальном мире.

Когда мы отпускаем те высоко стандартизированные, устоявшиеся опыт, мы освобождаем свои руки. Пока мы продолжаем выходить за пределы, разрушать и перестраивать свои когнитивные границы, тень, зависшая в облаках, всегда будет следовать за нашими спинами.

Человек — это потоковый алгоритм.

Нажмите, чтобы узнать о вакансиях BlockBeats

Добро пожаловать в официальное сообщество律动 BlockBeats:

Телеграм-канал подписки: https://t.me/theblockbeats

Телеграм-чат: https://t.me/BlockBeats_App

Официальный аккаунт Twitter: https://twitter.com/BlockBeatsAsia