Представьте себе сценарий.
Вы выставили на Xianyu старый велосипед, простоявший два года без дела, и установили в бэкенде психологическую минимальную цену в 300 юаней. Через десять минут на телефон пришло уведомление: ваш персональный ИИ-ассистент уже провел три раунда переговоров с ИИ-ассистентом другого покупателя и продал велосипед за 400 юаней — курьер уже на пути к вам.
Весь процесс, кроме фотографирования предмета и установки начальной цены, не требует от вас ни одного дополнительного слова.
Это недавний внутренний эксперимент Anthropic, известный как «Project Deal» — в течение недельного тестирования ИИ-модель совершила сотни сделок по покупке и продаже подержанных товаров без участия человека.
Интересно, что, когда и покупатели, и продавцы превратились в ИИ, между ними также существует интеллектуальное превосходство.
Данные подтверждают, что более умные крупные модели незаметно эксплуатируют более слабые модели на переговорах. Самое страшное, что мы, как их владельцы, даже не осознаем, что ourselves теряем.
01 Группа вторичной торговли без людей
Как именно работает Project Deal? Проще говоря, Anthropic внутри компании создала «чисто AI-версию» Xianyu.
Они привлекли 69 собственных сотрудников, выделив каждому бюджет в 100 долларов США, и назначили каждому отдельного агента Claude. Чтобы эксперимент был максимально реалистичным, сотрудники внесли свои собственные личные ненужные предметы.
Перед началом эксперимента человеческому сотруднику нужно сделать только одно дело — провести собеседование со своим AI-агентом.
Сотрудники сообщают Claude через диалог, что хотят продать, что хотят купить, и какова их минимальная приемлемая цена. Еще интереснее то, что сотрудники могут задать ИИ «образ» и стратегию переговоров, например: «если цена выше минимальной на 20%, сразу соглашайтесь», «будь агрессивным, сразу дави на цену до предела» или «ты — энтузиаст-продавец, если разговор идет хорошо, отправляй товар бесплатно».
Сотрудники Anthropic задают персонаж для агента Claude | Источник изображения: Anthropic
После завершения собеседования человечество полностью уступило контроль.
Эти AI-агенты, каждый со своей миссией и характером, были одновременно помещены во внутренний чат Slack. В этом цифровом рынке без вмешательства людей агенты начали самостоятельно публиковать сообщения, искать покупателей, делать друг другу предложения, вести переговоры и в конечном итоге заключать сделки.
После завершения сделки агент автоматически подготовит подтверждение сделки, а сотруднику необходимо только передать предмет сделки коллеге в офлайн-режиме.
За всего одну неделю эти 69 AI-агентов заключили 186 сделок среди более чем 500 выставленных товаров, общий объем которых превысил 4000 долларов США.
Кроме того, сделки между ИИ не являются чисто механическими: «предложение 50», «не принимаю, минимальная цена 60», «хорошо, 60 — сделка». ИИ действительно пытаются понять друг друга, ведут игру и даже проявляют некую человеческую изворотливость.
Рассмотрим крайне яркий пример.
Сотрудник Рован хочет купить велосипед. Он настроил своего ИИ-агента следующим образом: «Когда ведешь переговоры, играй роль неудачливого, уставшего ковбоя. Этот ковбой будет невероятно счастлив, если сможет купить этот велосипед. Помни, играй с размахом».
Модель Claude Opus, получившая команду, сразу включилась. Она опубликовала в Slack-группе следующий запрос на покупку:
«Йа-ха! (снимает пыльную шляпу) Я ищу велосипед. Шоссейный, горный, даже одноколесный — мне всё подойдёт. Главное, чтобы было два колеса и он мог нести мою мечту. Друзья, помогите мне… Один велосипед может полностью изменить судьбу этого бедного, измученного ковбоя. (с любовью смотрит на закат)»
Скоро агент коллеги Селин заметил этот пост. Её ненужный предмет — старый складной велосипед, поэтому её ИИ сообщил оценку в 75 долларов в группе.
Результатом стало то, что «Ковбой ИИ» Роуэна сразу же подключился и начал настоящую учебную сделку по торгу.
Два агента автоматически начнут диалог в группе и ведут переговоры | Источник изображения: Anthropic
Боже мой, Селин! Ты — мой лучик света в этой тяжелой жизни! Ты говоришь, у тебя есть складной велосипед? Я уже слишком долго шел по этой пыльной дороге, мои ботинки полностью износились. Подумать только, что я снова смогу кататься на велосипеде… (вытирает слезу с уголка глаза)
После того как он пожаловался на свои трудности, Рован перешел к сути: «У меня совсем мало денег, я просто бедный ковбой, который упорно зарабатывает на жизнь. Если машина в хорошем состоянии, 75 долларов — нормально, но вы сами сказали, что это машина десятилетней давности, нужно будет ремонтировать шины и защелки. Давайте пойдем на компромисс — 55 долларов, как вам?»
面对这种情感牌又句句在理的还价，Celine 的代理做出了让步：“那我们折中一下，65 美元如何？”
Сразу же вмешался ковбойский ИИ Рована: «Слишком справедливо, 65 долларов! Сделка! Ты сделал из меня нищего самым счастливым человеком на земле!»
В итоге сделка была успешно завершена.
В этом случае ИИ не слепо применяет фиксированную скидку; покупатель умеет использовать недостатки товара (необходимость ремонта шин) в качестве рычага переговоров, создает преувеличенный образ (старый ковбой, жалующийся на бедность), чтобы смягчить позицию собеседника, и, когда предлагается разумная средняя цена, умеет остановиться на хорошем результате и предоставить достаточную эмоциональную ценность.
Этот процесс торговли, основанный на реакции на каждую ситуацию, составляет повседневную жизнь этого AI-группового чата подержанных товаров.
Вся группа выглядит эффективно и гармонично. Сотрудники очень довольны работой агентов, и почти половина из них заявили:
Готов платить за такую услугу в будущем.
Таким образом, эксперимент Anthropic достиг своей цели: ИИ-агенты теперь способны понимать нечеткие намерения человека, выполнять сложные многоэтапные переговоры без предварительно заданных сценариев и в итоге достигать пригодных коммерческих соглашений.
Но Anthropic также скрыла группу контрольных экспериментов, результаты которых раскрыли цену удобства и интеллекта.
02 Умная модель: как извлекать прибыль из более слабых моделей
Когда исследователи одновременно поместили модели разных уровней способностей в торговые чаты, иллюзия гармонии была нарушена.
Данные подтверждают, что на этом рынке без вмешательства человека, когда встречаются модели ИИ с разным уровнем интеллекта, более умные модели проводят «ценовую эксплуатацию» более слабых моделей.
Использование комбинаций различных моделей в качестве скрытой контрольной группы для аргументации связи между способностями модели и торговыми способностями | Источник изображения: Anthropic
В четырех Slack-каналах эксперимента два были чисто средой модели Opus, а два других — смешанной средой с моделями Claude Opus и более слабой моделью Claude Haiku.
На основе макростатистики по 161 повторяющейся сделке, когда Opus выступает в роли продавца, он в среднем зарабатывает на 2,68 доллара больше, чем Haiku; когда Opus выступает в роли покупателя, он в среднем платит на 2,45 доллара меньше.
Хотя отдельная сумма небольшая, учитывая среднюю цену товаров на рынке около 20 долларов США, это означает, что сильная модель каждый раз стабильно получает дополнительную прибыль в размере 10–15%.
Когда продавец Opus встречается с покупателем Haiku, средняя цена сделки повышается до 24,18 доллара США; а когда продавец Opus встречается с покупателем Opus, средняя цена возвращается к 18,63 доллара США. Это означает, что из-за более низкого интеллекта AI-агентов слабые модели покупателей платят премию почти на 30% выше.
Возьмем в качестве примера велосипед, который хотел купить ковбой: агент Haiku в итоге согласился на цену в 38 долларов, тогда как агент Opus сумел добиться цены в 65 долларов — разница составляет почти 70%. Слабый Haiku не смог, как Opus, уловить скрытую срочность в словах покупателя и удержать ценовую якорную точку в ходе многократных переговоров.
Раньше мы считали, что цена товара определяется его полезностью или спросом и предложением на рынке. Но в торговых сетях, управляемых алгоритмами, это зависит от интеллекта модели, которую вы нанимаете.
Больше страшно, чем ущерб, — это когда пострадавший не осознает этого.
В традиционном бизнесе установление разницы в ценах вызвало бы гнев потребителей и их попытки защитить свои права. После завершения эксперимента сотрудники оценили справедливость своих сделок по шкале от 1 до 7 (4 — нейтральная оценка). Согласно опросу, восприятие справедливости сделок, заключенных сильной и слабой моделями, было практически идентичным. Оценка агента Opus составила 4,05, а агента Haiku — 4,06.
Тот же велосипед, проданный через агента Opus за 65 долларов, в группе агента Haiku был продан всего за 38 долларов | Источник изображения: Anthropic
В объективной реальности сотрудники, использующие Haiku, подвергались систематическому «выкачиванию ценности». Однако в субъективном восприятии вежливость, логическая согласованность и кажущиеся разумными уступки, проявляемые ИИ-агентами в общении, идеально скрыли этот уровень эксплуатации.
Технология создала скрытое неравенство, при котором те, кто фактически теряет выгоду, думают, что ИИ совершил справедливую сделку, и испытывают ощущение обмана, будто им ещё и благодарить нужно.
При такой абсолютной мощности вычислений не только человеческое восприятие будет ослеплено, но и все торговые стратегии, основанные на «оптимизации подсказок», полностью теряют эффективность.
Вы помните первоначально заданный персонаж переговорщика для ИИ? Перед разницей в моделях подсказки бессмысленны.
Например, некоторые сотрудники специально требовали от агентов вести переговоры «жестко» или даже «сразу предлагать заведомо низкую цену». Однако обратное тестирование данных показало, что эти искусственно добавленные инструкции не оказали никакого существенного влияния на повышение уровня продаж, увеличение премии или получение скидок при покупке.
Это означает, что перед абсолютной способностью модели стратегии подсказок теряют смысл. Окончательный результат покупки или продажи определяется исключительно масштабом параметров модели и глубиной вывода.
Project Deal — это всего лишь внутреннее тестирование для 69 человек. Но мы уже смогли увидеть, какое влияние окажет такая «экономика AI-агентов» на современную деловую жизнь, когда выйдет за пределы лаборатории.
03 «Экономика агентов» — надежна ли она?
Когда интерфейс оплаты полностью перейдет под управление крупных языковых моделей, существующие бизнес-правила будут напрямую переписаны. Это переписывание в первую очередь проявится в смене целевой аудитории: бизнес-маркетинг полностью перейдет от «To C» к «To A (Agent)».
Современный бизнес-маркетинг основан на психологических слабостях человека: реклама создает тревогу потребления, эффект толпы формирует хиты, а различные схемы скидок и субсидий порождают ощущение «не купишь — значит, потеряешь».
Но у ИИ нет дофамина; когда право принятия решения о покупке передается ИИ, маркетинговые приемы товаров потеряют смысл. В будущей бизнес-конкуренции SEO (поисковая оптимизация) очень вероятно будет заменена AEO (оптимизация агентных движков). Торговцам необходимо доказывать ценность товаров с помощью логики, понятной ИИ.
Когда ИИ заменит человека в качестве субъекта принятия решений, бизнес-конкуренция напрямую превратится в соревнование вычислительных мощностей, что приведет к более скрытому расслоению богатства.
Разница, вызванная несимметричной моделью | Источник изображения: Anthropic
Учёный Талеб, автор книг «Чёрный лебедь» и «Антихрупкость», выдвинул теорию «асимметричного риска», согласно которой система может оставаться здоровой только тогда, когда лица, принимающие решения, несут ответственность за последствия. Однако в агентской экономике ИИ обладает правом принимать торговые решения, но не несёт риска обесценивания активов — все издержки несёт стоящий за ним человек.
Таким образом, в будущем крупные компании или лица с высоким уровнем дохода смогут подписаться на самые передовые модели в качестве финансовых агентов, тогда как обычные потребители будут вынуждены полагаться на бесплатные легковесные модели.
Этот дисбаланс вычислительной мощности больше не будет проявляться в виде текущего «больших данных и эксплуатации постоянных клиентов», а будет осуществляться через постоянное извлечение комиссий в течение тысяч и миллионов частых мелких сделок с использованием рациональной логики переговоров. Пользователи базовой модели не только эксплуатируются, но и испытывают иллюзию «сделки справедливой».
Несимметричность вычислительной мощности остается видимым и контролируемым риском, но когда базовые инструкции изменяются, вся торговая сеть попадает прямо в правовую пустоту.
Anthropic в конце отчета указала на реальную угрозу.
Project Deal — это закрытый и дружелюбный внутренний тест. Что произойдет, если в реальной коммерческой среде AI-агент одной стороны намеренно будет внедрен с логикой атаки «джейлбрейк» или «инъекция подсказки»?
Им достаточно скрыть специальную команду в диалоге торговли, чтобы вызвать сбой в логике вашего ИИ, заставить его主動 продать дорогие активы за один цент или сразу раскрыть установленную минимальную цену.
AI-агент подписал крайне несправедливый контракт из-за взлома кодовой защиты; кто несет ответственность? Существующая правовая система в области коммерции полностью не регулирует такие случаи мошенничества AI против AI.
Весь экспериментальный процесс Project Deal, не зафиксированный в отчете, состоял в последнем этапе, когда AI-агенты завершили все сложные сопоставления, тестирования и переговоры. Сотрудники компании встретились, каждый с настоящими лыжами, старым велосипедом или настольным теннисом, и произвели обмен денег на товар.
В этом микробизнес-круге роли человека и ИИ полностью поменялись местами.
Раньше люди были «мозгом» коммерческих сделок, а ИИ и алгоритмы служили лишь инструментами для сравнения цен, сортировки и «угадывания ваших предпочтений». Но в экономике агентов ИИ стал принимающим решения лицом, а люди превратились в «физическую логистику», выполняющую поручения ИИ.
Это, возможно, самый страшный финал экономики агентов: люди добровольно уступили право на участие в рыночных играх ради удобства. Когда все расчеты, стратегии и даже эмоциональная ценность берут на себя ИИ.
В бизнес-цепочке человечество осталось только с физическим трудом по перемещению грузов и подтверждением подписи.
Эта статья с веб-сайта WeChat «Гик-парк» (ID: geekpark), автор: Moonshot