У еру ШІ системне мислення стає найбільш рідкісною навичкою

Стаття | GritMeng

Сьогодні ми переживаємо безпрецедентну «девальвацію навичок». Програмування, дизайн, копірайтинг, аналіз даних… ці професійні навички, які раніше вимагали десятиліть навчання, зараз швидкістю світла замінюються великомодельними системами. Майже кожен фахівець у сфері знань відчуває глибокий болісний відчуття: моя гордість — мої «майстерність» — швидко зводиться до нуля.

Тож почав виникати новий «професійний парадокс»:

• Кожен у вашій команді використовує ШІ для безумного підвищення ефективності, але загальні рішення компанії стають все більш дурними.
• Кожен відділ — продукт, операції, маркетинг — оптимізував KPI за допомогою ШІ, але в результаті спостерігається різке падіння якості користувацького досвіду та прибутку.
• Компанія витратила десятки мільйонів на впровадження найсучаснішої системи ШІ, але виробниче планування в кінцевому підсумку знову перейшло на Excel і ручний баланс.

Відповідь надзвичайно жорстока: ми використовуємо «алгоритмічного божевільного коня» з екстремальною обчислювальною потужністю, щоб тягнути розбиту візку, зібрану з «одноточкового мислення». Коли всі занурюються у спроби за допомогою ШІ вирішити «точкові проблеми», перед нами — системна катастрофа.

У епоху ШІ найбільш дефіцитною здатністю вже не є «як правильно зробити річ», а повністю перетворилася на «що саме слід робити». Цю здатність я називаю системним мисленням.

За останні чотири століття промислова цивілізація завантажила наш мозок найпотужнішою програмою: редукціонізмом. Вона вчила нас розбивати складні проблеми на окремі деталі, оптимізувати їх по черзі, а потім знову збирати в ціле. Цей підхід створив нашу сьогоднішню матеріальну процвітання.

ШІ — саме цей фінальний інструмент «редукціонізму». Дайте йому чітку мету, і він за одну секунду перебере всі варіанти, які ви не зможете порахувати за життя.

Але справжня природа світу полягає в тому, що це не машина, яку можна вільно збирати й розбирати, а динамічна мережа, де ти в мені, а я в тобі. У цій мережі максимальна оптимізація одного елементу часто стає смертельним ударом для всієї системи.

Я досліджував ланцюжок поставок 22 роки і бачив безліч таких трагедій: відділ закупівель за допомогою ШІ знизив вартість матеріалів до мінімуму, що призвело до того, що постачальники на верхньому етапі почали економити на якості, і в результаті відбулася катастрофічна втрата репутації бренду. Відділ фінансів за допомогою ШІ оптимізував оборотність запасів до максимуму, але виробництво зупинилося повністю через відсутність однієї гайки. Відділ маркетингу за допомогою ШІ досяг найвищого показника клікабельності в галузі, але через надмірні обіцянки служба післяпродажного обслуговування була затоплена скаргами.

Ось трагедія «розумних людей». Якщо приймачі рішень не мають системного мислення і сприймають ШІ як «одноточковий прискорювач», ШІ стане двигуном без гальм, який з найбільшою швидкістю приведе всю організацію до знищення. У системній науці це має спеціальну назву — зруйнування Гудхарта: коли показник надмірно оптимізують, він перестає бути хорошим показником.

Багато хто неправильно розуміє «системне мислення» як «думати більш всебічно» або «намалювати карту мислення». Але за підсумками 22 років дослідження управління складними системами я виявив, що справжнє системне мислення — це точна когнітивна операційна система, яка складається з трьох ключових здібностей:

1. Сила обмеження: те, що ти оптимізуєш, є найбільш небезпечним вибором.

Штучний інтелект завжди шукає оптимальний розв’язок всередині заданих меж і цілей. Перша дія системного мислення — саме перевірити ці межі.

Я часто наводжу такий приклад: якщо ви скажете ШІ «максимізувати прибуток цієї компанії», він може за кілька мілісекунд запропонувати «оптимальний розв’язок», який людина зможе придумати лише за кілька століть — звільнити всіх працівників, продати всі активи та покласти гроші на банківський рахунок, щоб отримувати відсотки. Мета досягнута ідеально, але компанія померла.

Як ви визначаєте проблему, важливіше, ніж те, як ІШ вирішує цю проблему. Якщо ви розширитимете межі ланцюга поставок від «мінімізації витрат на закупівлю» до «повної життєвого циклу ефективності капіталу», ваші рішення будуть зовсім іншими. Якщо ви розширитимете межі продукту від «тривалості використання користувачем» до «довгострокової цінності для користувача», ваша бізнес-модель буде повністю перебудована.

2. Замкнена сила: чи зможеш ти побачити її до того, як відбудеться ефект метелика.

Перше мислення розглядає лише лінійну причинно-наслідкову залежність: A призводить до B, B призводить до C. Системне мислення зосереджено на затриманих позитивних і негативних зворотних зв’язках — A призводить до B, але B через три місяці пригнічує A; C і D на перший погляд не пов’язані, але через прихований фактор E вони взаємно руйнують один одного.

Сьогодні ви використовуєте ШІ для генерації 100 маркетингових статей, що приносить короткостроковий пік трафіку, але через три місяці викликає катастрофічне падіння довіри користувачів до бренду. Сьогодні ви тиснете на ланцюжок постачань, щоб досягти квартальних показників — короткострокова фінансова звітність виглядає добре, але через шість місяців постачальники одночасно піднімають ціни, і ваша структура витрат знищена назавжди.

Системні мислителі можуть побачити цей руйнівний негативний зворотний зв’язок вже в перший день.

3. Сила реконструкції: чи ви наважуєтесь переглядати та руйнувати свої «моделі мислення».

Між будь-якою моделлю ШІ, будь-якою теорією управління та будь-яким досвідом успіху та реальним складним світом існує вічне відхилення. Я називаю це залишком.

Звичайні люди ігнорують залишки, розумні люди використовують їх для тонкої настройки моделей. А ті, хто мислить системно, наважуються активувати власну здатність «метакогніції» — вийти за межі своїх звичних мисленнєвих рамок, розглянути їх і поставити найбільш руйнівне питання: «А чи не є саме те, що я завжди вважав правильним, коренем проблеми?»

Справжні інновації завжди виникають у залишках. Справжні парадигмальні революції завжди походять від тих, хто наважується зруйнувати свої старі рамки.

Чому ШІ не може самостійно генерувати системне мислення? Тому що це не «недостатньо обчислювальних потужностей», а «неправильне апаратне забезпечення».

На нижньому рівні системного мислення лежить унікальна для людини п’ятивимірна ментальна операційна система. Ці п’ять здібностей жорстко «запрограмовані» у різних нейронних мережах нашого мозку:

• Свідомість (Esp): відповідає мережі за замовчуванням (DMN). Встановлює кінцеві межі системи, гальмуючи в останній момент, коли вона збирається зірватися з утіку. У ШІ цього немає — скажи йому «максимізувати прибуток», і він справді продастиме компанію.
• Висока чутливість: відповідає системі мигдаловидного тіла-синього місця. Як точна радарна система, вона здатна виявляти найслабші аномалії, які залишаються поза звітами та за даними. Багато видатних бізнес-рішень приймаються не на основі аналізу даних, а завдяки чуттю рішень, яке відчуває «незрозумілу, але явну незгідність» змін на ринку.
• Сенсорне: відповідає мережі значущості (SN). Це ваш «кеш інтуїції», який з мінімальним споживанням енергії використовує весь ваш досвід, щоб приймати наближені, але правильні рішення. Коли всі дані вказують на один напрямок, а ваша інтуїція говорить вам «це не так» — це не суевір’я, це ваш мозок, який активує систему розпізнавання шаблонів, складнішу за будь-який ШІ.
• Рідка інтелектуальність: відповідає фронтально-теменному контрольному мережі (FPN). Ваш обчислювальний двигун. У цьому вимірі AI — наш найкращий компенсатор. Залиште обчислення кремнію, а рішення — собі.
• Метакогніція (Φ): відповідає передній лобовій корі (область BA10). «Командир» системного мислення. Вона дозволяє вийти за межі власних мисленнєвих рамок, оцінити, критично проаналізувати та нарешті переписати вашу програму мислення. Це найбільш передовий продукт еволюції людського мозку та непереборна пропасть для штучного інтелекту на основі кремнію.

Кремнієвий ІІ — це лише екстремально розтягнутий аспект «рідиного інтелекту». Системне мислення вимагає повної синхронізації цих п’яти вимірів. Саме це є найміцнішим і найбільш неперевершуваним «нейральним конституційним» принципом вуглецевого життя в епоху цифрової цивілізації.

Стати «архітектором системи» — це не недоступно. Ось три принципи дій, які ви можете використати відразу:

1. Переход від «прийняття інструкцій» до «визначення меж».

Перед запуском будь-якої AI-роботи задайте собі три системні питання:

• Деяка реальна межа цього питання? Які ключові змінні виключені?

• Які вторинні і третинні ланцюгові реакції викличе рішення з використанням ШІ?

• Чи перетворився наша ціль KPI на «проміжний показник», який може знищити компанію?

2. Перехід від «оптимізації процесів» до «створення замкненого циклу зворотного зв’язку».

Не перетворюйте ШІ на машину з відкритим циклом виконання. Наділіть її «радаром спостереження», який відчуває загальний стан системи. Чітко визначте: коли які системні червоні лінії порушуються, має бути запущено ручне втручання або автоматичне вимкнення. За допомогою вуглецевої совісті надайте кремнієвій обчислювальній потужності гальма.

3. Переход від прагнення до визначеності до прийняття залишків.

Не зосередьтесь лише на тому, що AI робить правильно. Зверніть увагу на «залишкові значення» між передбаченнями AI та реальними результатами. Саме там зникають старі моделі мислення, де не задовольняються справжні болі клієнтів, де організація стає жорсткою, а процеси руйнуються. Залишкові значення — це єдиний, справжній початок будь-якої революційної інновації.

У сільськогосподарську епоху найціннішим була фізична праця. У промислову епоху найціннішою була технологія. У інформаційну епоху найціннішим є знання.

А в епоху ШІ найвартіснішим є системне мислення.

Коли ШІ знижує бар’єри для отримання знань та локальної оптимізації до нуля, конкуренція цивілізацій повністю переходить на вищий рівень: хто здатний бачити повну картину системи, хто розуміє генезис та еволюцію порядку, хто може керувати величезними силіконовими обчислювальними потужностями за допомогою совісті та метакогніції.

Не намагайтеся перемогти ШІ за рахунок обчислювальної потужності та пам’яті. Розвивайте свою унікальну системну мисленнєву модель. Це найміцніша оборонна лінія карбонових існувань у цифрову епоху та єдиний компас, що веде в майбутнє.