Инфраструктура ИТ, построенная на зубочистке: Невидимый узкий канал

Автор: Сборщик странствующего монаха

Вы когда-нибудь задумывались, сколько уровней стека технологий прошла статья, которую вы сейчас просматриваете?

Мобильная операционная система, ядро браузера, движок JavaScript, WebAssembly, CDN, DNS, облачный сервер, ядро Linux, библиотека выполнения C, набор инструкций CPU, полупроводниковая волна… в конце концов, всё сводится к куску кремния, потребляющему электричество.

Каждый уровень звучит непоколебимо. У каждого уровня есть белая книга, сертификация и поддержка крупных компаний.

Но если посмотреть на них вместе, вы увидите тревожную картину — колоссальную башню, которая вот-вот рухнет, а всё её основание держится на тонкой, смешной красной колонне.

Его называют бутылочным горлышком фон Неймана.

А ты, стоящий на вершине башни, держишь в руке телефон и считаешь всё совершенно нормальным.

Джон фон Нейман, отец современных компьютеров. Архитектура фон Неймана — это базовая конструкция почти всех современных компьютеров. ЦП отвечает за вычисления, память — за хранение, а между ними данные перемещаются по одной шине. Эта архитектура используется с 1945 года и выдержала эпохи больших машин, ПК, интернета и мобильных технологий, а теперь поддерживает искусственный интеллект.

Однако у него есть два первоначальных недостатка: 1) Процессоры становятся все быстрее, а память и шина не успевают за ними. Перемещение данных становится ограничением всей системы — процессор большую часть времени не вычисляет, а ждет данные. 2) Высокая производительность процессора сильно зависит от объема кэша, однако кэш имеет естественные физические ограничения и не может масштабироваться горизонтально, как память. Под давлением современных высокоуровневых языков программирования, ориентированных на читаемость для человека, программы становятся все более громоздкими, а гетерогенные данные — все более сложными, что уже превысило предел емкости кэша, что еще больше увеличивает частоту и объем перемещения данных между памятью и процессором, заставляя компьютеры работать все медленнее, с большей задержкой и чаще подвергаясь сбоям. Это и есть «бутылочное горло фон Неймана».

Ирония в том, что этот узкое место — самая базовая, самая ключевая и неизбежная проблема всей IT-индустрии, но при этом самая игнорируемая.

Почему? Потому что решить это слишком сложно и не слишком прибыльно.

Крупные компании предпочитают добавлять больше слоев — более быстрые GPU, больший объем видеопамяти, более сложные уровни кэша, более умные алгоритмы планирования. Каждый слой можно включить в презентацию, каждый слой можно продать, каждый слой обходит эту красную колонку, вместо того чтобы прямо столкнуться с проблемой и решить ее.

Как будто здание постоянно достраивается вверх, а трещины в фундаменте заклеиваются всё более толстыми обоями.

Вы спрашиваете, безопасно ли жить внутри? Они скажут: не переживайте, мы только что установили самые современные умные замки и купили самую дорогую страховку от стихийных бедствий.

Глядя на эту диаграмму, вы заметите интересное явление: каждый слой, взятый отдельно, выглядит как тщательно спроектированный блок.

Операционные системы имеют строгую архитектуру ядра. Высокополосная память HBM имеет сложную технологию стекирования. ЦП и ГП имеют сложную конструкцию с миллиардами транзисторов. Заводы по производству полупроводниковых пластин — это жемчужина человеческой промышленности.

Linux и Apache Foundation поддерживают самую надежную открытую инфраструктуру в мире. LibcURL вызывается почти всеми программами, требующими сетевого доступа. Система DNS позволяет глобальному интернету находить друг друга. Провайдеры облачных вычислений обещают доступность 99,99%.

Каждый блок имеет четкую форму, содержит научную работу, стандарты и аудит.

Но если сложить их друг на друга снизу вверх, картина изменится.

Это и есть правда о современной цифровой инфраструктуре: не тщательно спроектированная целостность, а чудо, сложенное из множества временных решений.

Он работает не потому, что хорошо спроектирован, а потому, что достаточно много людей в достаточном количестве поздних ночей внесли достаточно много исправлений.

Ты думаешь, что стоишь в здании. На самом деле ты стоишь на куче лоскутных кубиков.

Смотрите на руку, выступающую сбоку на изображении, с надписью «ИИ, искусственный интеллект».

Он не поддерживает эту башню, а служит рычагом, ускоряющим крах конструкции, подобной детским кубикам.

Это самая точная ирония в отношении нынешней лихорадки ИИ.

Все говорят, что ИИ — это революция производительности, следующая эпоха и панацея от всех бед. Но с точки зрения инфраструктуры первое, что делает ИИ, — это толкает уже шаткую систему к еще более опасной грани.

Почему? Потому что: 1) ИИ — это монстр вычислительной мощности. Одна тренировка крупной модели потребляет электричества столько же, сколько годовое потребление небольшого города. Развертывание вывода требует огромного количества GPU, а основа GPU по-прежнему работает на архитектуре фон Неймана — нагрузка на эту красную колонну выше, чем когда-либо прежде. 2) Нагрузка на инфраструктуру данных от агрессивного поиска ИИ в десятки тысяч раз превышает нагрузку от человеческих пользователей, а предлагаемые сейчас схемы циклического повторения только геометрически увеличивают частоту задач ИИ при поиске, запросах и вычислениях.

Еще более иронично то, что порождает ИИ.

Множество кода, сгенерированного ИИ, отправляется в открытые проекты, его качество варьируется, а уязвимости возникают сплошь и рядом. Интернет заполнен огромным количеством контента, созданного ИИ, результаты поисковых систем затоплены мусором. Множество «решений», сгенерированных ИИ, упаковываются в продукты и продаются клиентам, после чего выясняется, что их основа — иллюзия.

ИИ не починил красную колонну, он просто добавил еще один этаж на вершине башни и сказал всем: смотрите, мы выше.

А будет ли обвал — это вопрос следующего квартала.

Есть шутка: человечество потратило 70 лет, чтобы развить компьютер от «быстро считает» до «умеет нести чушь», и назвало это прогрессом.

Справа на рисунке злобная птица летит прямо в сторону башни. Надпись рядом: «То, что делают крупные компании».

Эта метафора жестока, но точна.

Крупные компании время от времени выпускают «революционные» новые продукты, новые фреймворки и новые стандарты. Презентации проходят масштабно, презентации PPT великолепны, а KOL хором восхищаются.

Но эти продукты часто не восстанавливают и не укрепляют существующую промышленную структуру, а разрушают её.

Появляется новая рамка — экосистема старой рамки умирает. Появляется новый стандарт — все устройства, совместимые со старым стандартом, становятся «устаревшими продуктами». Крупные компании прекрасно знают, что это имеет свои издержки. Но для них стоимость разрушения экосистемы несут разработчики и пользователи, а рост и оценка, приносимые новыми продуктами, остаются у них.

Слева на графике независимый разработчик на Rust улетает на ракете, подпись гласит: "Независимые разработчики на Rust занимаются своим делом".

Это еще одна ирония.

Независимые разработчики — это наиболее динамичная группа в IT-экосистеме. Они не ограничены KPI крупных компаний, могут быстро экспериментировать и создавать качественные приложения, которые крупные компании не в состоянии разработать.

Но у результатов независимых разработчиков есть и другая сторона

Беспорядок. Одна и та же функция была реализована десятью независимыми разработчиками в десяти версиях, каждая со своим подходом к дизайну, и каждая поддерживалась только до тех пор, пока автор не потерял интерес.

- Нет порядка. Нет единых стандартов, никаких обязательств по совместимости, нет плана обновлений. Сегодня работает, а завтра автор может просто удалить репозиторий.

Небрежно. Многие независимые проекты не протестированы, не имеют документации и не прошли безопасностную аудиторию. Автор считает: «если работает — то нормально», и затем этот проект становится зависимостью для десятков тысяч других проектов.

Каждая из этих проблем в отдельности кажется незначительной, но в совокупности они становятся另一种 разрушительной силой для рынка. Пользователи вынуждены выбирать среди бесчисленного множества незавершенных продуктов, разработчики сталкиваются с ошибками в бесчисленных заброшенных фреймворках, и стоимость доверия всей экосистемы постоянно растет.

А настоящие выдающиеся независимые разработчики, как показано на рисунке — разработчики Rust, улетающие на ракете — занимаются своим делом, делают это отлично, но не имеют никакого отношения к этому шаткому зданию.

The tower won't become more stable because of them, and they won't stop because of the tower.

Каждый занят своим делом, каждый рушится своим образом.

Давайте внимательно рассмотрим эту диаграмму от начала до конца.

В основании — серый большой квадрат с надписью «Электроэнергия (вычислительная мощность, вода, энергия и т. д.)». Это отправная точка всего — без электричества нет вычислений. Но в повествовании IT-индустрии электроэнергия — самый игнорируемый уровень. Все обсуждают облачные нативные технологии, микросервисы, крупные модели, но редко кто задается вопросом: откуда берется электричество, которое они потребляют? Сколько это стоит? Какое влияние это оказывает на окружающую среду?

Над электричеством лежат четыре краеугольных камня: операционная система, высокополосная память (HBM), CPU/GPU и полупроводниковый завод. Это аппаратный уровень — настоящая «квадратная» часть. Каждый из них представляет собой вершину человеческой промышленности. Но обратите внимание: это четыре отдельных камня, а не единый фундамент — между ними сами по себе есть зазоры.

Выше — колышущаяся доска с надписью «Динамический массив разработчиков на C». Эта доска опирается на четыре основания и сама по себе неустойчива. В её центре тонкая красная колонна несёт всю верхнюю нагрузку — узкое место фон Неймана. Весь вес IT-мира в конечном итоге ложится на эту колонну.

Дальше стиль выходит из-под контроля. Ключевая функция возлагается на проект на C99, основанный на неопределенном поведении. Под JVM реляционные базы данных зачеркнуты. Механическая рука выдвигается сбоку, помеченная как «ИИ», и толкает башню.

Дальше вверх — движок V8, left-pad, кибербезопасность, WebAssembly — это уровень Web. Рядом крупными буквами написано: «Саморазрушение веб-разработчика» и «Странные вещи, происходящие в Web».

В самом верху на вершине неустойчивой башни стоит крошечный человечек, символизирующий пользователя, рядом написано: «Ты именно здесь». При увеличении видно, что этот человечек держит в руке телефон — он использует эту башню, которая может рухнуть в любой момент.

Слева от башни независимый разработчик на Rust улетел на ракете, чтобы заняться своими делами. Справа от башни злобная птичка (крупная компания) врезается в стену башни. Над башней одиноко плывет облако с надписью «Облако, соответствующее спецификации» — оно не связано ни с чем, будто просто концепция.

На всей диаграмме нет ни одного лишнего слова. Каждая подпись — как игла, пронзающая самое уязвимое место IT-индустрии.

Это не предсказывает что-либо. Это описывает настоящее.

На этом этапе статьи кто-то может сказать: вы слишком пессимистичны, ведь IT-индустрия функционирует нормально.

Да, оно работает.

Но «работает» и «надежно» — это разные вещи. Человек может ходить, но это не означает, что у него нет трещин в костях. Мост может выдерживать движение автомобилей, но это не означает, что его нагрузка не превышает предел.

Ужас в IT-индустрии заключается в том, что каждый её уровень постоянно и быстро развивается, но фундаментальные проблемы никогда не решались по-настоящему. Проблема фон Неймана остаётся, крупные компании продолжают сносить здания, ИИ продолжает создавать мусор, а независимые разработчики продолжают действовать в одиночку.

Все строят高楼, никто не хочет посмотреть вниз.

Потому что, если посмотреть ниже, вы увидите, что основание — это зубочистка. А зубочистка когда-нибудь не выдержит.

Возможно, только в тот день, когда мы, стоя на вершине башни с телефоном в руке, впервые зададим себе вопрос: как вообще было построено основание этого здания?