В эпоху ИИ системное мышление становится самым дефицитным навыком

Статья | GritMeng

Сегодня мы переживаем беспрецедентную «депрециацию навыков». Программирование, дизайн, копирайтинг, анализ данных… эти профессиональные навыки, которые раньше требовали десятилетий упорного труда для освоения, сейчас заменяются крупными моделями с огромной скоростью. Почти каждый знаниевый работник ощущает глубокую боль: мое гордое «ремесло» стремительно обесценивается.

Так начал проявляться новый «корпоративный парадокс»:

• Каждый в вашей команде безумно повышает эффективность с помощью ИИ, но общие решения компании становятся всё глупее.
• Каждый отдел — продукт, операции, маркетинг — оптимизировал KPI с помощью ИИ, но в результате произошел резкий спад пользовательского опыта и прибыли.
• Компания вложила десятки миллионов в самые передовые ИИ-системы, но в итоге планирование производства на производственной линии снова вернулось к Excel и ручной сверке.

Ответ крайне жесток: мы используем «алгоритмическую безумную лошадь» с экстремальной вычислительной мощностью, чтобы тянуть сломанную телегу, собранную из «точечного мышления». Когда все погружены в попытки заставить ИИ решать «точечные проблемы», перед нами — системный крах.

В эпоху ИИ самая дефицитная способность полностью изменилась с «как правильно сделать дело» на «что именно делать правильно». Эту способность я называю системным мышлением.

За последние четыреста лет промышленная цивилизация предустановила нашему мозгу самую мощную программу: редукционизм. Она учит нас разбивать сложные проблемы на отдельные компоненты, оптимизировать их по одному, а затем собирать обратно в целое. Этот подход создал наше сегодняшнее материальное процветание.

ИИ — именно это финальное оружие «редукционизма». Дайте ему четкую цель, и он за одну секунду переберет все варианты, которые вы не сможете подсчитать за всю жизнь.

Но истинная суть мира в том, что это не машина, которую можно произвольно разбирать и собирать, а динамическая сеть, в которой ты в мне, а я в тебе. В этой сети крайняя оптимизация одной детали часто становится смертельным ударом для всей системы.

Я изучал цепочки поставок 22 года и лично видел бесчисленное количество подобных трагедий: отдел закупок с помощью ИИ снизил стоимость материалов до минимума, что привело к тому, что поставщики на верхнем уровне стали экономить на качестве, в результате чего репутация бренда рухнула цепной реакцией. Отдел финансов с помощью ИИ оптимизировал оборачиваемость запасов до предела, но производственная линия остановилась полностью из-за отсутствия одной винтики. Отдел маркетинга с помощью ИИ добился самого высокого в отрасли показателя кликабельности, но из-за чрезмерных обещаний служба поддержки была затоплена жалобами.

Вот трагедия «умных людей». Если лица, принимающие решения, не обладают системным мышлением и рассматривают ИИ как «точечный ускоритель», ИИ станет двигателем без тормозов, который с максимальной скоростью приведет всю организацию к катастрофе. В системной науке этому есть специальное название — крах Гудхарта: когда показатель чрезмерно оптимизируется, он перестает быть хорошим показателем.

Многие путают «системное мышление» с «широким мышлением» или «созданием карты ума». Но за 22 года исследования управления сложными системами я обнаружил, что истинное системное мышление — это точная когнитивная операционная система, состоящая из трех ключевых способностей:

1. Граница силы: то, что ты оптимизируешь, само по себе является самым опасным выбором.

ИИ всегда ищет оптимальное решение в заданных границах и целях. Первым действием системного мышления является именно анализ этих границ.

Я часто привожу такой пример: если вы попросите ИИ «максимизировать прибыль этой компании», он может за несколько миллисекунд предложить «оптимальное решение», на которое человеку потребовались бы сотни лет — уволить всех сотрудников, продать все активы и положить деньги в банк, чтобы получать проценты. Цель достигнута идеально, но компания погибла.

Как вы определяете проблему, важнее, чем то, как ИИ решает эту проблему. Если вы перенесете границу цепочки поставок от «минимизации закупочных затрат» к «эффективности капитала на протяжении всего жизненного цикла», ваши решения будут совершенно другими. Если вы перенесете границу продукта от «времени использования пользователем» к «долгосрочной ценности пользователя», ваша бизнес-модель будет полностью перестроена.

2. Сила замкнутого цикла: сможете ли вы увидеть его до того, как произойдет эффект бабочки.

Первичное мышление рассматривает прямую причинно-следственную связь: A приводит к B, B приводит к C. Системное мышление фокусируется на запаздывающих положительных и отрицательных обратных связях — A приводит к B, но B через три месяца начинает подавлять A; C и D кажутся не связанными, но через скрытую переменную E они взаимно подавляют друг друга.

Сегодня вы используете ИИ для генерации 100 рекламных статей, что временно приводит к всплеску трафика, но через три месяца вызывает катастрофическое падение доверия пользователей к бренду. Сегодня вы давите на цепочку поставок ради достижения квартальных показателей — квартальный отчет выглядит хорошо, но через полгода поставщики совместно поднимают цены, и ваша структура затрат разрушена навсегда.

Системные мыслители могут увидеть разрушительную отрицательную обратную связь уже в первый день.

3. Способность к рефакторингу: осмелитесь ли вы пересмотреть и разрушить свою собственную «модель мышления»?

Между любой моделью ИИ, любой управленческой теорией и любым успешным опытом и реальным сложным миром существует вечное отклонение. Я называю его остатком.

Обычные люди игнорируют остатки, умные люди используют их для тонкой настройки моделей. А системные мыслители осмеливаются активировать в своем мозгу способность «метапознания» — выйти за пределы привычных мыслительных рамок, рассмотреть их и задать самый смертельный вопрос: «А не является ли тем, что я всегда считал верным, источником проблемы?»

Настоящие инновации всегда происходят в остатках. Настоящие парадигмальные революции всегда исходят от тех, кто осмеливается разрушить свои старые рамки.

Почему ИИ не может самостоятельно генерировать системное мышление? Потому что это не «недостаточно вычислительной мощности», а «неподходящее аппаратное обеспечение».

В основе системного мышления лежит уникальная для человека пятимерная ментальная операционная система. Эти пять способностей жестко «запрограммированы» в различных нейронных сетях нашего мозга:

• Сознание (Esp): соответствует сети по умолчанию (DMN). Устанавливает конечные границы системы, резко тормозя перед краем пропасти. У ИИ этого нет — скажите ему «максимизировать прибыль», и он действительно продаст компанию.
• Высокая чувствительность: соответствует системе миндалевидного тела-синего пятна. Как точная радарная система, способная улавливать самые слабые аномальные сигналы за пределами отчетов и за данными. Многие великие бизнес-решения принимаются не на основе анализа данных, а благодаря острому интуитивному восприятию руководителем того, что «что-то не так», хотя объяснить это невозможно.
• Интуитивный: соответствует сети значимости (SN). Это ваш «кэш интуиции», который с минимальным энергопотреблением использует весь жизненный опыт для принятия расплывчатых, но правильных ориентировочных решений. Когда все данные указывают на одно направление, но ваша интуиция говорит вам «это неправильно» — это не суеверие, это ваш мозг задействует систему распознавания образов, более сложную, чем любая ИИ.
• Флюидная интеллектуальность: соответствует фронтопариетальной контрольной сети (FPN). Ваш вычислительный двигатель. В этом аспекте ИИ — наш лучший компенсатор. Оставьте вычисления кремнию, а суждения — себе.
• Метакогниция (Φ): соответствует префронтальной коре (область BA10). «Командующий» системного мышления. Она позволяет выйти за пределы собственных мыслительных рамок, анализировать, критиковать и в конечном итоге переписывать ваши мыслительные программы. Это наиболее передовой продукт эволюции человеческого мозга и непреодолимая пропасть, которую кремниевый ИИ никогда не сможет преодолеть.

Кремниевый ИИ — это лишь чрезмерно усиленный аспект «текучего интеллекта». Системное мышление требует всесторонней синергии этих пяти измерений. Именно это является самым прочным и непревзойдённым «нейрональным конституционализмом» углеродной жизни в эпоху цифровой цивилизации.

Стать «архитектором системы» — это не так уж и недостижимо. Вот три принципа действий, с которых можно сразу начать:

1. Переход от «принятия инструкций» к «определению границ».

Перед запуском любой AI-задачи задайте себе три системных вопроса:

• Где настоящие границы этого вопроса? Какие ключевые переменные исключены?

• Какие вторичные и третичные цепные реакции вызовет решение ИИ?

• Достигаемые нами KPI уже превратились в «промежуточные показатели», способные уничтожить компанию?

2. Переход от «оптимизации процессов» к «созданию замкнутого цикла обратной связи».

Не превращайте ИИ в машину с открытым циклом выполнения. Оснастите его «радаром мониторинга», способным воспринимать общее состояние системы. Четко определите: при каких системных порогах необходимо запускать ручное вмешательство или автоматическое отключение. С помощью углеродной совести установите тормоза для кремниевой вычислительной мощности.

3. Переход от стремления к определённости к принятию остатка.

Не сосредотачивайтесь только на том, где ИИ действует правильно. Обратите внимание на «остатки» между прогнозами ИИ и фактическими результатами. Именно там失效 старые модели мышления, где не удовлетворяются реальные болевые точки клиентов, где организация застывала, а процессы разлагались. Остатки — это единственная и настоящая отправная точка всех дискruptive инноваций.

В аграрную эпоху самым ценным был физический труд. В индустриальную эпоху самым ценным была технология. В информационную эпоху самым ценным является знание.

В эпоху ИИ самое дорогое — системное мышление.

Когда ИИ снижает барьеры для получения знаний и локальной оптимизации до нуля, конкуренция цивилизаций полностью переходит на более высокий уровень: кто способен увидеть полную картину системы, кто понимает генерацию и эволюцию порядка, кто может направлять огромные кремниевые вычислительные мощности с помощью совести и метапознания.

Не пытайтесь превзойти ИИ по вычислительной мощности и памяти. Развивайте свою уникальную системную мысль. Это самый надежный ров для углеродной жизни в цифровую эпоху и единственный компас, ведущий в будущее.