Все считают, что спрос на интеллект безграничен — не только максы. Но то, что неправильно понимают максы, — это то, что интеллект, который создают Anthropic, OpenAI и лаборатории передового уровня, — это не тот общий тип, который вы себе представляете. Позвольте мне объяснить:
Два основных использования вычислительных ресурсов — это, грубо говоря, либо обучение, либо вывод. «Общий интеллект», о котором все говорят, что спрос на него безграничен, в основном возникает из вывода, а вывод требует совершенно иных мощностей и использования, чем обучение. Вывод происходит импульсами, поэтому по умолчанию необходимо переоснащать мощности для обработки пиков, пока проблема использования не будет решена — что означает, что по определению мы будем переоснащать. Но обучение не сталкивается с этой проблемой: нагрузка стабильна, а кривая спроса предсказуема. Поэтому центры обработки данных сегодня переоснащены именно потому, что использование ещё не оптимизировано.
Таким образом, Anthropic и другие передовые лаборатории строят своё будущее на обучении, именно поэтому они утверждают, что могут поглотить весь этот избыточный потенциал. Но их «интеллект» — это не повышение производительности на рабочем месте. Это прыжок к результатам типа сингулярности: новые лекарства, кибервозможности, рекурсивное самоусовершенствование. Это настоящие уникальные случаи. Именно поэтому, когда Anthropic говорит о «существенных угрозах для человечества», она не имеет в виду потерю рабочих мест — по крайней мере, не в первую очередь. Она говорит о том, что стоит на грани невероятных открытий, потому что всё ещё ОБУЧАЕТ БОЛЬШЕ МОДЕЛЕЙ.
Но дистилляция реальна, и открытый исходный код реален. Полужизнь любой передовой модели крайне мала, потому что ничто не защищает её так, как интеллектуальная собственность защищает патент. Представьте компанию, разрабатывающую лекарство от редкого заболевания, которая тратит миллиарды на исследования, а через два месяца после прорыва появляется дженерик. Эта компания никогда не сможет окупить свои инвестиции, если только не сможет открыть бесконечное количество лекарств от редких заболеваний. В就是这样 тип интеллекта, на который ставит Anthropic. Именно на это ставят 800 млрд долларов расходов на вычисления.
Таким образом, вопросы, которые вам нужно задать: 1) если интеллект двухуровневый, какова стоимость каждого уровня? Какова стоимость AGI и какова стоимость общего интеллекта с бесконечным спросом? И 2) распределяем ли мы капитал с правильной кривой риска и функцией распада, чтобы выяснить, реален ли доход от AGI? И если он реален, может ли частная компания когда-либо по-настоящему им владеть?
Вот когнитивный диссонанс в самом сердце всего этого парадокса: все друг друга вводят в заблуждение относительно того, что такое интеллект, поскольку единица измерения намеренно остаётся неопределённой как пользователями, так и поставщиками. Общий интеллект имеет безграничный спрос, но это определённая гонка до дна. «Суперинтеллект» — противоположность: по определению он не может иметь безграничный спрос, но если он реализует даже половину своих обещаний, ни одна частная компания никогда не сможет его сохранить — по крайней мере, без вмешательства правительства для защиты «рва» (вот почему Anthropic постоянно подчёркивает этот аспект, хотя так и не продемонстрировала никаких признаков того, что она приблизилась к такому уровню открытий). И в этот момент нужно спросить: кто окажется с пустым мешком? И было ли это на самом деле достаточно умным решением?