Інфраструктура ІТ, побудована на сірнику: Невидимий обмежуючий фактор

Автор: Збірник мандрівного монаха

Чи ви коли-небудь думали, скільки шарів технологічного стеку пройшла стаття, яку ви зараз переглядаєте?

Мобільна операційна система, ядро браузера, двигун JavaScript, WebAssembly, CDN, DNS, хмарний сервер, ядро Linux, бібліотека виконання C, інструкції CPU, напівпровідникова виливка… усе це зводиться до шматка кремнію, що споживає електроенергію.

Кожен рівень звучить незламно. Кожен рівень має білу книгу, сертифікацію та підтримку великих компаній.

Але якщо подивитися на них разом, ви отримаєте незручну картину — хиткого Вавилонського вежі, яка підтримується на дні смішно тонкою червоною колоною.

Його називають: узьким місцем фон Неймана.

А ти, що стоїш на вершині вежі, тримаєш телефон у руці і вважаєш все нормальним.

Джон фон Нейман, батько сучасних комп’ютерів. Архітектура фон Неймана є базовою схемою майже всіх сучасних комп’ютерів. ЦП відповідає за обчислення, пам’ять — за зберігання, а між ними дані переміщуються по одній шині. Ця архітектура використовується з 1945 року і витримала епохи великих машин, ПК, інтернету та мобільних технологій, і зараз вона підтримує штучний інтелект.

Але в нього є два вроджені недоліки: 1) CPU стає все швидшим, а пам’ять і шина — ні. Переміщення даних стає обмеженням для всієї системи — CPU більшу частину часу не обчислює, а чекає на дані. 2) Висока продуктивність CPU сильно залежить від об’єму кешу, але кеш має природні фізичні обмеження і не може масштабуватися горизонтально, як пам’ять. Під впливом сучасних мов програмування, що підкреслюють читабельність для людини, програми стають все більш об’ємними, а гетерогенні дані — складнішими, що вже перевищує межі об’єму кешу, збільшуючи частоту та об’єм переміщення даних між пам’яттю та CPU, що робить роботу комп’ютера все повільнішою, більш затриманою та схильнішою до аварій. Це й є «узьким місцем фон Неймана».

Іронічно, але цей обмежуючий фактор — найбільш фундаментальна, найважливіша та найбільш незаперечна проблема всієї ІТ-галузі, одночасно залишаючись найменш обговорюваною.

Чому? Бо розв’язати це дуже складно і не вигідно.

Великі компанії охоче додають більше шарів — швидші GPU, більший об’єм відеопам’яті, складніші рівні кешу, розумніші алгоритми планування. Кожен шар можна включити до PPT, кожен шар можна продати, кожен шар ухиляється від цієї червоної колонки, а не вирішує проблему прямо.

Як і будівля, яка постійно розширюється вгору, тріщини в фундаменті приховуються все більш товстими шарами шпалер.

Ви запитуєте, чи безпечно жити всередині? Вони скажуть: Не хвилюйтеся, ми тільки що встановили найсучасніші розумні замки та купили найкраще страхування від катастроф.

Подивіться на цей малюнок — ви помітите цікаве явище: кожен рівень окремо виглядає як аккуратно спроектований куб.

Операційна система має строгу архітектуру ядра. Високопропускна пам’ять HBM має складний процес стекування. ЦП і ГП мають точний дизайн з мільярдами транзисторів. Виробництво напівпровідникових валиків — це корона людської промисловості.

Linux та Apache Foundation підтримують найнадійнішу в світі відкриту інфраструктуру. LibcURL використовується майже всіма програмами, яким потрібен доступ до мережі. Система DNS дозволяє глобальному інтернету знаходити один одного. Постачальники хмарних обчислень забезпечують доступність 99,99%.

Кожен блок є чітким і впорядкованим, кожен блок має наукову роботу, стандарти та аудит.

Але якщо розташувати їх у стовпчик знизу вгору, зображення зміниться.

Ось істина про сучасну цифрову інфраструктуру: це не добре спланована цілісна система, а диво, побудоване з накопичення безлічі тимчасових рішень.

Він працює не тому, що добре спроектований, а тому, що досить багато людей вдосталь пізно вносили досить багато патчів.

Ти думаєш, що використовуєш будівлю. Насправді ти стоїш на купі патчів з кубиків.

Подивіться на роботизований маніпулятор, що виступає з боку і позначений «AI штучний інтелект».

Він не підтримує цю вежу, а діє як важіль, прискорюючи руйнування споруд, подібних до будівельних блоків.

Це найточніша сатира на сучасну хвилю штучного інтелекту.

Усі говорять, що ШІ — це революція продуктивності, наступна епоха, панацея від усіх бід. Але з точки зору інфраструктури, перше, що робить ШІ, — це штовхає вже хитку систему ще ближче до небезпечного краю.

Чому? Бо 1) ШІ — це монстр обчислювальних потужностей. Один тренувальний цикл великої моделі споживає електроенергії стільки, скільки містечко використовує за рік. Розгортання висновків вимагає безлічі GPU, а основа GPU все ще базується на архітектурі фон Неймана — та червона колона витримує навантаження, більше, ніж будь-коли раніше. 2) Навантаження на інфраструктуру даних від агресивного пошуку користувачів ШІ вище у тисячі разів, ніж у людей, а запропоновані зараз схеми циклічного повторення лише геометрично збільшать частоту завдань ШІ щодо пошуку, запитів та обчислень.

Ще більш іронічним є вивід штучного інтелекту.

Велика кількість коду, згенерованого ШІ, надсилається до відкритих проектів, які мають різний якісний рівень і постійно містять вразливості. Інтернет заповнений великою кількістю контенту, згенерованого ШІ, результати пошукових систем затоплені сміттям. Велика кількість «рішень», згенерованих ШІ, пакуються як продукти і продаються клієнтам, але, коли виникають проблеми, виявляється, що їхня основа — ілюзія.

Штучний інтелект не виправив ту червону колону, він просто додав ще один поверх на вершині вежі, а потім сказав усім: подивіться, ми вище.

Щодо того, чи розвалиться це — це питання наступного кварталу.

Є одна жартівлива історія: людство витратило 70 років, щоб розвинути комп’ютери від «швидко рахувати» до «здатних брехати», а потім назвало це прогресом.

З права на малюнку злісна пташка летить прямо в башту. Поруч написано: "Що роблять великі компанії".

Ця метафора жорстока, але точна.

Великі компанії регулярно запускають «революційні» нові продукти, фреймворки та стандарти. Презентації виглядають величезно, слайди дивовижні, а KOL хором хвалять.

Але ці продукти часто не відновлюють чи підсилюють існуючу структуру промисловості, а навпаки, руйнують її.

З появою нової рамки екосистема старої рамки помирає. З появою нового стандарту всі пристрої, сумісні зі старим стандартом, стають «застарілими продуктами». Великі компанії добре знають, що це має ціну. Але для них витрати на зруйнування екосистеми несуть розробники та користувачі, а зростання та оцінка, що виникають від нових продуктів, належать їм.

Зліва на графіці незалежний розробник на Rust летить на ракеті, підпис: «Незалежні розробники на Rust роблять своє».

Це ще одна іронія.

Незалежні розробники — це найбільш динамічна група в ІТ-екосистемі. Вони не обмежені KPI великих компаній, можуть швидко експериментувати та створювати продукти, які великі компанії не здатні зробити.

Але вихід незалежних розробників має і інший бік

- Безлад. Одна й та ж функція була реалізована десятьма окремими розробниками, кожен з яких створив власну версію, кожна зі своєю філософією дизайну, і кожна підтримувалася лише доти, поки автор не втратив інтерес.

- Без порядку. Немає єдиної стандартної системи, немає зобов’язань щодо сумісності, немає плану оновлень. Сьогодні це працює, а завтра автор може просто видалити репозиторій.

- Непослідовно. Багато незалежних проектів не мають тестів, документації чи безпекових аудитів. Автор вважає, що «якщо працює — це добре», і цей проект стає залежним для десятків тисяч інших проектів.

Окремо взяті ці проблеми не є серйозними, але в сукупності вони стають іншим видом руйнування ринку. Користувачі вибирають серед безлічі напівготових продуктів, розробники потрапляють у ловушки безлічі покинутих фреймворків, і вартість довіри до екосистеми постійно зростає.

А ті справжні відмінні незалежні розробники, як розробники Rust, які летять ракетою вгору на малюнку — вони займаються своїм справами, дуже добре, але не мають ніякого відношення до цієї похитнутої вежі.

The tower won't become more stable because of them, and they won't stop because of the tower.

Кожен зайнятий своїм, кожен руйнує своє.

Давайте повністю розглянемо цей графік від початку до кінця.

Найнижчий рівень — це сірий великий квадрат із написом «Електроенергія (обчислювальна потужність, вода, енергія тощо)». Це початок усього — без електрики немає обчислень. Але в історіях IT-індустрії електроенергія є найбільш зневаженим рівнем. Люди обговорюють хмарно-орієнтовані архітектури, мікросервіси, великі моделі, але майже ніхто не запитує: звідки береться електроенергія, яку вони споживають? Скільки це коштує? Який вплив це має на навколишнє середовище?

Над електроенергією лежать чотири фундаментальні камені: операційна система, пам’ять з високою пропускною здатністю (HBM), CPU/GPU та напівпровідникові заводи. Це апаратний рівень — справжня «квадратна» частина. Кожен з них представляє найвищий рівень людської промисловості. Але зверніть увагу: це чотири окремі камені, а не єдиний фундамент — між ними існують щілини.

Вище — хитка дошка, позначена як «Динамічні масиви розробників на C». Ця дошка перекинута через чотири фундаменти і сама по собі нестійка. У її центрі тонка червона колона підтримує всю вагу зверху — узагальнений вузький місцевий канал фон Неймана. Вся вага світу ІТ врешті-решт лежить на цій колоні.

Ще вище стиль починає виходити з-під контролю. Проект на C99, що ґрунтується на невизначеній поведінці, виконує ключові функції. Під JVM реляційні бази даних перекреслені. Механічна рука висувається з боку, позначена як «ШІ», і штовхає вежу.

Вище — V8, left-pad, кібербезпека, WebAssembly — це веб-рівень. Поруч величезними літерами написано: «Веб-розробники саморуйнують себе» і «Дивні речі, що відбуваються в WEB».

На самому верху маленький человечек, що символізує користувача, стоїть на вершині хиткої вежі, поруч написано: «Ти саме тут». При збільшенні видно, що цей малюсінький чоловічок тримає телефон — він використовує цю вежу, а вежа може розвалитися в будь-який момент.

Зліва від вежі розробник на Rust полетів ракетою, щоб зайнятися власними справами. Справа від вежі злісна пташка (велика компанія) вдаряється об стіну вежі. Над вежею одиноко пливе хмара з написом «хмарний сервер, що відповідає вимогам» — вона не має жодного зв’язку з вежею, наче просто концепція.

На всій ілюстрації немає жодного зайвого слова. Кожна підпис — це голка, що вколює найбільш болячі місця ІТ-індустрії.

Це не передбачає нічого. Це описує поточний момент.

На цьому етапі статті хтось може сказати: «Ви надто пессимістичні, індустрія ІТ ж працює добре».

Так, воно працює.

Але «працює» і «міцний» — це дві різні речі. Людина може ходити, але це не означає, що у неї немає тріщин у кістках. Міст може витримувати автомобілі, але це не означає, що його навантаження не перевищено.

Любий момент інформаційних технологій полягає в тому, що кожен рівень постійно швидко розвивається, але фундаментальні проблеми ніколи не вирішуються насправді. Проблема фон Неймана залишається, великі компанії все ще зносять будівлі, ШІ продовжує створювати сміття, а незалежні розробники продовжують працювати окремо.

Всі будують вгору, ніхто не хоче подивитися вниз.

Оскільки, якщо подивитися нижче, виявиться, що фундамент — це сірник. А сірник завжди може не витримати.

Можливо, лише в той день, коли ми, стоячи на вершині вежі зі смартфоном у руці, вперше задамо це питання: як взагалі було побудовано фундамент цього будинку?