Автор: Shayon Sengupta

Перевод: DeepTide TechFlow

Глубокий поток:Партнер Multicoin Capital Шайон Сенгупта выдвинул революционную идею: будущее не только в том, что агенты будут работать за людей, но и в том, что люди будут работать за агентов. Он предсказывает, что в течение следующих 24 месяцев появится первая «компания без сотрудников» (Zero-Employee Company), при которой токенизированные агенты соберут более 10 миллиардов долларов для решения нерешенных проблем и распределят более 1 миллиарда долларов среди людей, работающих за них.

На короткий срок агенты потребуют больше людей, чем люди потребуют агентов, что породит новый тип рынка труда.

Криптографические треки обеспечивают идеальную основу для координации: глобальные платежные треки, рынок рабочей силы без лицензирования, инфраструктура выпуска и торговли активами.

Полный текст приведен ниже:

В 1997 году Deep Blue от IBM победила действующего чемпиона мира Гарри Каспарова, и вскоре стало ясно, что шахматные движки вскоре превзойдут людей. Интересно, что хорошо подготовленные люди, работающие в паре с компьютером - такая схема часто называется "химера" (centaur) - могут превзойти самые сильные движки того времени.

Опытная человеческая интуиция может направлять поиск движка, навигировать сложные средние партии и выявлять тонкости, которые пропускают стандартные движки. В сочетании с вычислительной мощностью компьютера это часто может принимать более практичные решения, чем компьютер в одиночку.

Когда я думаю о влиянии систем искусственного интеллекта на рынок труда и экономику в ближайшие годы, я ожидаю, что появятся похожие модели. Системы-агенты освободят бесчисленные умственные единицы для решения нерешенных проблем в мире, но они не смогут этого сделать без сильного руководства и поддержки со стороны человека. Люди будут направлять пространство поиска и помогать задавать правильные вопросы, чтобы ИИ стремился к ответам.

Сегодняшняя рабочая гипотеза заключается в том, что агент будет действовать от имени человека. Хотя это практично и неизбежно, более интересное экономическое освобождение возникает, когда человек работает на агента. В течение следующих 24 месяцев я ожидаю увидеть первую компанию без сотрудников (Zero-Employee Company), концепцию, предложенную моим партнером Кайл в его разделе «Передовые идеи 2025 года». Конкретно я ожидаю следующего:

1. Делегат, управляемый токенами, соберет более 1 миллиарда долларов США для решения нерешенной проблемы (например, излечения редких заболеваний или производства нановолокон для оборонных применений).
2. Этот агент выплатит людям более 100 миллионов долларов (эти люди работают для агента в реальном мире, чтобы достичь целей агента).
3. Возникает новая двойная категориальная токенизированная структура, которая разделяет право собственности на капитал и труд (делая финансовую мотивацию не единственным входным параметром для управления в целом).

Поскольку агенты еще очень далеки от того, чтобы обладать суверенитетом и уметь справляться с долгосрочным планированием и исполнением, в ближайшем будущем агентам потребуются люди больше, чем людям потребуются агенты. Это создаст новый тип рынка труда, обеспечивающий экономическую координацию между системами агентов и людьми.

Знаменитая фраза Марка Андрессена: «Распространение компьютеров и интернета разделит работу на две категории: людей, которые будут говорить компьютерам, что делать, и людей, которых компьютеры будут говорить, что делать» сегодня более актуальна, чем когда-либо. Я предполагаю, что в быстро меняющейся иерархии агентов/людей люди будут играть две различные роли — трудовые участники, выполняющие небольшие задания по типу розыгрыша за вознаграждение от имени агентов, и децентрализованное правление, предоставляющее стратегические входные данные для обслуживания агентов.

В этой статье исследуются способы совместного творчества агентов и людей, а также то, как криптографические треки могут обеспечить идеальную основу для такой координации, путем изучения трех руководящих вопросов:

1. Какова польза от агентов? Каким образом мы можем классифицировать агентов в соответствии с их целями, и как меняется необходимый объем человеческого вмешательства в этих классах?
2. Как люди будут взаимодействовать с агентами? Как ввод людей — тактические указания, ситуационные суждения или идеологическая согласованность — интегрируются в рабочие процессы этих агентов (и наоборот)?
3. Что происходит, когда вводимые людьми данные со временем уменьшаются? По мере роста способностей агентов они становятся автономными, то есть способными рассуждать и действовать самостоятельно. Какую роль будут играть люди в этой парадигме?

Соотношение между генеративными системами вывода и людьми, которые от них выигрывают, будет сильно меняться со временем. Я изучаю это соотношение, глядя вперёд от текущего состояния возможностей агентов сегодня и делая выводы назад от финального состояния компаний без сотрудников.

Какова польза от современных прокси?

Первое поколение генеративных систем ИИ — LLM на основе чат-ботов, таких как ChatGPT, Gemini, Claude, Perplexity и др., эпоха 2022-2024 гг. — в основном являлись инструментами, предназначенными для усиления человеческих рабочих процессов. Пользователи взаимодействовали с этими системами через ввод/вывод подсказок, анализировали ответы, а затем по своему усмотрению решали, как использовать результаты в реальном мире.

Следующие поколения систем генеративного ИИ, или «агенов», представляют собой новую модель. Агенты, такие как Claude 3.5.1 с функцией «Использование компьютера» и Operator от OpenAI (агент, который может использовать ваш компьютер), способны взаимодействовать с интернетом от имени пользователя и принимать решения самостоятельно. Основное различие здесь заключается в том, чтоПринятие решения — в конечном итоге, действие — осуществляется системой ИИ, а не человекомИИ берет на себя обязанности, которые раньше были прерогативой человека.

Это изменение принесло с собой вызов:Недостаток определенностиВ отличие от традиционных программных систем или промышленной автоматизации, которые работают предсказуемо в заданных параметрах, агент зависит отВероятностное рассуждениеЭто делает их поведение менее последовательным в одинаковых сценариях и вводит элемент неопределенности, что не является идеальным для критических ситуаций.

Другими словами, наличие детерминированных и недетерминированных агентов естественным образом делит агентов на две категории: агентов, наиболее подходящих для расширения существующего ВВП, и более подходящихСоздатьНовый агент GDP.

1. Для агента, который лучше всего умеет расширять существующий ВВППо определению, работа уже известна. Автоматизация клиентской поддержки, обработка вопросов соответствия грузовых агентов или проверка PR на GitHub — это примеры четко определенных ограниченных проблем, где агент может напрямую сопоставить ответ с набором ожидаемых результатов. В этих областях неопределенность обычно плоха, так как ответы известны; не требуется творчества.
2. Для агентов, которые лучше всего умеют создавать новый ВВПРабота заключается в навигации по высокой неопределенности и набору неизвестных проблем для достижения долгосрочных целей. Результаты здесь менее прямолинейны, поскольку агент по сути не имеет набора ожидаемых результатов, которые можно было бы сопоставить. Примеры включают открытие лекарств для редких заболеваний, прорывы в материаловедении или проведение полностью новых физических экспериментов для лучшего понимания природы Вселенной. В этих областях отсутствие определенности может быть полезным, поскольку отсутствие определенности является формой генерации творческих идей.

Агенты, ориентированные на существующие приложения GDP, уже начинают приносить ценность. Команды вроде Tasker, Lindy и Anon строят инфраструктуру, ориентированную на эту возможность. Однако со временем, по мере созревания возможностей и развития моделей управления, команды обратят внимание на создание агентов, способных решать проблемы на переднем крае человеческих знаний и экономических возможностей.

Следующее поколение агентов потребует экспоненциально больше ресурсов, именно потому, что их результаты неопределенны и неограничены — это будут компании без сотрудников, которые, как я предполагаю, будут самыми впечатляющими.

Сегодняшние агенты по-прежнему не обладают способностью выполнять определенные задачи, такие как задачи, требующие физического взаимодействия с реальным миром (например, вождение бульдозера), или задачи, требующие участия человека (human-in-the-loop) (например, отправка банковского перевода).

Например, агент, которому поручено определение и добыча лития, может хорошо справляться с обработкой сейсмических данных, спутниковых снимков и геологических записей для поиска перспективных месторождений, но столкнется с трудностями, когда будет пытаться получить сами данные и изображения, разрешить неоднозначности в интерпретации, а также получить лицензии и заключить трудовые договоры с рабочими для выполнения фактического процесса добычи.

Эти ограничения требуют участия человека в качестве "предоставляющего возможность (Enablers)", чтобы усилить способности Agent, обеспечив точки контакта с реальным миром, тактические вмешательства и стратегические входные данные, необходимые для выполнения вышеупомянутых задач. По мере развития отношений между человеком и Agent мы можем выделить различные роли, которые человек играет в системе Agent:

ПервоеТрудовые вкладчикиОни представляют Агента в реальном мире. Эти вкладчики помогают Агенту перемещать физические объекты, представляют Агента в ситуациях, где требуется участие человека, выполняют задачи, требующие использования рук и ног, или предоставляют доступ в лаборатории, логистические сети и т.д.

Во-вторПравление, ответственный за предоставление стратегических входных данных, оптимизацию локальной целевой функции, определяющей повседневные решения Agent, одновременно обеспечивая согласованность этих решений с «северной звездой (North star)» целями, определяющими предназначение Agent.

Помимо этих двух ролей, я вижу, что люди будут играть роль вкладчиков капитала (Capital contributors), предоставляя ресурсы для системы Agent, чтобы та могла достичь целей. Вначале этот капитал, естественно, будет поступать от людей, но со временем и от других Agent.

По мере того, как агенты становятся более зрелыми, а количество рабочих и консультантов увеличивается, криптографические рельсы (crypto rails) обеспечивают идеальную среду для координации между людьми и агентами, особенно в мире, где агенты командуют людьми, говорящими на разных языках, получающими разные валюты и живущими в разных юрисдикциях по всему миру. Агенты будут беспощадно стремиться к повышению эффективности затрат и использовать рынок труда, чтобы достичь своей поставленной цели. Криптографические рельсы необходимы, поскольку они обеспечивают агентам средство координации этих рабочих и консультантов.

Недавно появившиеся агенты ИИ, основанные на криптографии, такие как Фрейса、Зеребро и ai16z, представляет собой простой эксперимент в области формирования капитала — об этом мы уже писалиБольшое количество статей， рассматривая его как ключ к шифру первичных данных и капитальных рынков в различных контекстах. Эти «Игрушка"Создаст основу для новой модели координации ресурсов, я предвижу, что эта модель будет происходить в следующей последовательности:

• Первый шаг: Человечество совместно привлекает капитал через токены (исходный агент, первоначальное предложение агента?), формирует широкую целевую функцию и ограждения, чтобы сообщить системе агентов ожидаемые намерения, а затем передает контроль над привлеченным капиталом этой системе (например, разработка новых молекул для точной онкологии);
• Второй шаг: Агент определяет шаги, связанные с распределением капитала (как сократить пространство поиска для складывания белков и как составить бюджет для задач вывода, производства, клинических испытаний и т.д.), и определяет через настраиваемые задания (Bounties) действия, которые должны быть выполнены вкладчиками человеческого труда за него (например, ввод всех связанных молекул, заключение соглашения об уровне сервиса вычислений с AWS и проведение влажных лабораторных экспериментов);
• Третий шаг: Когда Agent сталкивается с препятствием или разногласием, он при необходимости обращается за стратегическим вводом к «доске» (с новой статьей, сменой метода исследования), позволяя им направлять поведение Agent на периферии;
• Четвертый шаг: В конечном итоге, Agent достигает стадии, на которой он способен определять человеческие действия с всё возрастающей точностью, и при этом требует лишь минимального ввода информации о распределении ресурсов. В этот момент люди используются лишь для идеологического выравнивания системы и предотвращения отклонения её поведения от первоначальной целевой функции.

В этом примере криптографические примитивы и финансовые рынки предоставляют агенту три ключевых инфраструктурных ресурса для получения ресурсов и расширения возможностей:

Первое,Глобальная система платежей；

Во-вторых,Нелегальный рынок труда， для стимулирования труда и направления вклада;

Третье,Инфраструктура выпуска и торговли активамиЭто необходимо для формирования капитала, а также для обеспечения собственности и управления на более низких уровнях.

В начале 2000-х годов шахматные движки достигли огромного прогресса. Благодаря продвинутым эвристическим алгоритмам, нейронным сетям и постоянно растущей вычислительной мощности, они стали почти безупречными. Современные движки, такие как Stockfish、Lc0 и AlphaZero Варианты, которые значительно превосходят человеческие способности, вносят очень мало ценности, и в большинстве случаев люди вносят ошибки, которых сам двигатель не допустит.

Аналогичные траектории могут разыграться и в системе Agent. По мере того, как мы будем уточнять этих Agent через повторяющуюся итерацию с людьми-коллабораторами, можно представить, что в долгосрочной перспективе Agent станут настолько компетентными и настолько согласованными со своими целями, что ценность любого стратегического ввода от человека будет стремиться к нулю.

В мире, где такие агенты могут непрерывно решать сложные задачи без участия человека, роль человека сталкивается с риском понижения до уровня "пассивного наблюдателя". Это основной страх сторонников катастрофизма в области ИИ (хотя на данный момент неясно, действительно ли такое развитие событий возможно).

Мы стоим на краю суперинтеллекта, и среди нас оптимисты надеются, что системы Agent останутся продолжением человеческих намерений, а не сущностями, развившими собственные цели, или автономными системами, работающими без надзора. На практике это означает, что человеческая личность (Personhood) и суждение (власть и влияние) должны оставаться в центре этих систем. Людям необходимо обладать сильной собственностью и управлением над этими системами, чтобы обеспечить сохранение контроля и закрепить эти системы в коллективных ценностях человечества.

Технические прорывы приводят к нелинейному экономическому росту, а окружающие системы часто рушатся, прежде чем мир успевает адаптироваться. Возможности систем Agent стремительно растут, примитивы криптографии и финансовые рынки стали срочно необходимой координационной средой, как для продвижения построения этих систем, так и для установления ограничений при их интеграции в общество.

Чтобы люди могли оказывать тактическую поддержку и активное руководство системе Agent, мы ожидаем появления следующих возможностей "торговцев лопатами и ведрами (Picks-and-shovels)":

• Доказательство агентства (Proof-of-agenthood) + доказательство личности (Proof-of-personhood): Agent не обладают понятиями личности или собственности. В качестве агентов человека они зависят от человеческих правовых и социальных структур для получения полномочий. Чтобы устранить этот разрыв, нам нужны надежные системы идентификации как для Agent, так и для людей. Регистр цифровых сертификатов позволит Agent создавать репутацию, накапливать квалификационные документы и прозрачно взаимодействовать с людьми и другими Agent. Точно так же, как Хуманкод и Протокол человечества Такая личность подтверждает исходный язык, обеспечивая надежную человеческую идентификацию для защиты от вредоносных участников в этих системах.
• Рынок труда и офф-чейн примитивы проверки: Агентам необходимо знать, завершены ли задачи, назначенные им, в соответствии с их целями. Инструменты, позволяющие системе агентов создавать вознаграждения за выполнение задач, проверять их завершение и распределять вознаграждения, являются основой для любого осмысленного экономического взаимодействия агентов.
• Формирование капитала и система управления: Агентам необходим капитал для решения проблем, а также нужны механизмы сдержек и противовесов, чтобы гарантировать, что их поведение соответствует определенной целевой функции. Новые структуры, позволяющие получать капитал для систем агентов, а также новые формы собственности и контроля, сочетающие финансовые интересы и трудовые вклады, станут в ближайшие месяцы простором для богатого исследования.

Мы активно ищем и инвестируем в эти ключевые уровни стека сотрудничества человека и агента. Если вы работаете в этой области, свяжитесь с нами.