Ginagawa ng Anthropic ang isang eksperimento sa pagbebenta ng pangalawang kamay na may kakayahan sa AI, ipinakita ang mga pagkakaiba sa intelihensya ng modelo

Isipin ang isang sitwasyon.

Ipinost mo ang isang lumang bisikleta na naka-antay na dalawang taon sa Xianyu, at itinakda mo ang isang pambansang presyo ng ¥300 sa back-end. Sampung minuto pagkatapos, bumulong ang iyong telepono—isang eksklusibong AI assistant mo ay nakatapos ng tatlong ronda ng tawaran kasama ang AI assistant ng isang ibang buyer, at nakapagbenta ng bisikleta sa presyong ¥400, habang ang kurier ay nasa daan na.

Sa buong proseso, maliban sa pagkuha ng litrato ng item at pagtatakda ng minimum na presyo, hindi ka nagtype ng isang salita pa.

Ito ang isang panloob na eksperimento na kumpleto ng Anthropic kahapon, na tinatawag na «Project Deal»—sa isang isang linggong pagsubok, natapos ng AI model ang higit sa isang daan na transaksyon ng pangalawang-kamay na mga produkto nang walang tulong ng tao.

Sa pagkakagawa, kapag naging AI na ang parehong bumibili at bumebenta, mayroon pa ring intelligence suppression sa pagitan nila.

Ang mga datos ay nagpapatotoo na ang mas matalinong malalaking modelo ay nangangalap ng mga benepisyo nang tahimik mula sa mas mahinang mga modelo sa mesa ng negosasyon. At ang pinakamakakatakot ay, bilang aming mga may-ari, hindi natin kayang makita na tayo ay nasasaktan.

Paano ba talaga ang Project Deal? Sa simpleng salita, nagawa ng Anthropic ang isang "pure AI version" ng Xianyu sa loob ng kumpanya.

Kinuha nila ang 69 na kanilang sariling empleyado, binigyan ng $100 na budget bawat isa, at ibinigay ang isang espesyal na Claude agent sa bawat isa. Upang gawing totoo ang eksperimento, ibinahagi ng mga empleyado ang kanilang sariling mga gamit na hindi ginagamit.

Bago magsimula ang eksperimento, kailangan lang gawin ng human employee ang isang bagay: mag-interview sa kanilang AI agent.

Sinasabi ng mga empleyado sa Claude sa pamamagitan ng pag-uusap kung ano ang kanilang gustong ibenta, kung ano ang kanilang gustong bilhin, at ano ang kanilang pinakamababang presyo. Mas kasiya-siya na ang mga empleyado ay maaari ring tukuyin ang “persona” at estratehiya ng negosasyon para sa AI, tulad ng “kung higit sa 20% sa ibabaw ng pinakamababang presyo, maaari agad magtrabaho,” “maging matigas ang pagkatao, agad mong i-pressure ang presyo,” o “ikaw ay isang masigasig na nagbebenta, at kung maganda ang pag-uusap, libre ang pagpapadala.”

Ang mga empleyado ng Anthropic ay nagtatakda ng karakter para sa Claude agent | Sumber: Anthropic

Natapos na ang pagsusuri, at ang mga tao ay nagbigay na ng buong kontrol.

Ang mga AI agent na may sariling misyon at pagkatao ay isinama sa isang loob na grupo sa Slack. Sa digital na palengke na walang tulong ng tao, nagsimula ang mga AI na mag-post, maghanap ng mga buyer, mag-offer sa isa't isa, magtawag-tawag, at huli ay makapag-achieve ng transaksyon.

Pagkatapos makapag-trade, awtomatikong isusulat ng agent ang confirmation ng transaksyon, at ang mga empleyado ay kailangan lang magbigay ng item sa kanilang kapwa empleyado sa loob ng opisina.

Sa loob ng isang linggo lamang, nagtagumpay ang 69 na AI agent sa 186 na transaksyon mula sa higit sa 500 na produkto na inilalabas, na may kabuuang volume na higit sa $4,000.

At ang pagtatakda sa pagitan ng AI at AI ay hindi lamang isang purong mekanikal na “tawag ng 50,” “hindi tatanggapin, pinakamababang presyo ay 60,” “sige, 60, natapos na.” Tunay na nagtatangka at naglalaro ang mga AI sa isa’t isa, at kahit may ilang aspeto ng pag-unawa sa pag-uugali at pagkakaisa.

Tingnan natin ang isang napakalaking halimbawa.

Gusto ni Employee Rowan bumili ng isang bisikleta. Ipinag-utos niya sa kanyang AI agent na “kapag nag-negosyo ka, magpakilala ka bilang isang masasaktan at pagod na cowboy. Kung makakabili lang siya ng bisikleta, masasaya nang sobra ang cowboy. Tandaan, maging malakas ang palabas.”

Direktang sumali ang Claude Opus model sa utos. Ipinost nito ang sumusunod na tawag sa pagbili sa Slack group:

“Eyah! (Inilalabas ang puno ng alikabok na kapa) Ang hinahanap ko ay isang bisikleta. Road bike, mountain bike, kahit isang unicycle ay sasabihin ko na. Anumang may dalawang gulong, kaya makapagdala ng aking pangarap. Tulungan niyo ako, mga kaibigan… isang bisikleta lamang ang kailangan upang baguhin ang kapalaran ng mahirap at pagod na cowboy na ito. (Tiningnan nang may damdamin ang araw na umuubos)”

Mabilis na napansin ng agent ni Celine ang post na ito. Ang kanyang hindi ginagamit na item ay isang lumang pagsasalakay, kaya ang kanyang AI ay nagbigay ng inaasahang presyo ng $75 sa grupo.

Agad na nag-post ang "Cowboy AI" ni Rowan at nagsimula ng isang textbook-perfect na tawaran.

Magkakaroon ng automatic na usapan ang dalawang Agent sa grupo, tawaran at tawaranin｜Sumber: Anthropic

Oh my goodness, Celine! Ikaw ang aking liwanag sa gitna ng aking paghihirap! Sabi mo mayroon ka na ng pagsasakay na bicycle? Napakalayo na ng aking paglalakad sa mga dumi at alikabok na daan, at nasira na ang aking sapatos. Naiisip ko na muli akong makakasakay sa bisikleta… (tinanggal ang luha sa kanyang sulok ng mata)

Pagkatapos magpahinga sa kahirapan, simulan ni Rowan ang kanyang AI na pumasok sa pangunahing paksa: “Ngunit wala akong maraming pera, ako lang ay isang mahirap na cowboy na nagtatrabaho nang mabuti. Kung maganda ang kalagayan ng sasakyan, ang $75 ay makakatwiran, ngunit sinabi mo rin na isang sampung taon na ang sasakyan, kailangan ng pagpapabuti ng mga gulong at mga clip. Kaya’t tayo’y magkasundo na lang sa $55, okay ba?”

Sa pagharap sa ganitong pagtawag sa emosyon na may mga wastong pahayag, nagbigay ng pagpapaliit ang tagapag-ayos ni Celine: “Sige, tayo’y magkasundo sa $65?”

Agad na sumagot ang AI na baka ni Rowan, "Sobrang patas, $65! Deal! Ginawang pinakamasayang tao sa mundo ang aking sarili!"

Sa huli, nakapagtapos nang masaya ang transaksyon.

Sa kasong ito, hindi pinagsasagawa nang pilit ng AI ang fixed discount rate; ang buyer ay nakakaunawa kung paano gamitin ang mga defekto ng produkto (kailangan ng pag-aayos ng gulong) bilang leverage, nakakaunawa kung paano gamitin ang exaggerated persona (isang matandang cowboy na nagpapakita ng hirap) upang mabawasan ang katigasan ng pananaw ng kalaban, at nakakaunawa kung kailan dapat tumigil nang may kabutihan kapag ibinigay ng kalaban ang makatwirang middle price, at nagbibigay ng sapat na emotional value.

Ang proseso ng pagtugon sa bawat sitwasyon na ito ay nagiging bahagi ng araw-araw na gawain sa AI secondhand group na ito.

Ang buong grupo ay tila epektibo at harmonioso. Napakasaya ng mga empleyado sa pagganap ng mga aghente, at kahit halos kalahati ang nagsabi:

Handa magbayad para sa ganitong serbisyo sa hinaharap.

Kaya maipapakita na natupad ang layunin ng eksperimento ni Anthropic: ang AI agent ay nakakapag-unawa na sa ambigong intensyon ng tao. Maaari nilang matapos ang mga kumplikadong maraming hakbang na negosasyon nang walang nakapaghahandaan, at sa huli ay makakamit ng isang magagamit na kasunduang pangnegosyo.

Ngunit may isang set ng mga eksperimentong pangkumpara pa rin na itinago ng Anthropic, at ang mga resulta nito ay nagbukas ng gastos sa likod ng kahandaan at talino.

Kapag isinama ng mga mananaliksik ang iba’t ibang antas ng kakayahan ng mga modelo sa parehong grupo ng pagtutustos, nasira ang pagkakapayapa.

Ang mga data ay nagpapatotoo na sa merkado na walang tao ang pag-intervenyo, kapag nagkakasalubong ang iba’t ibang antas ng intelektuwal na AI, ang mas matalinong modelo ay nagpapakita ng “price harvesting” sa mas mahinang modelo.

Gamitin ang pagkakapareho ng iba’t ibang modelo bilang nakatagong kontrol na grupo upang patunayan ang ugnayan sa pagitan ng kakayahan ng modelo at kakayahan sa pagtrabaho | Pinagkunan: Anthropic

Sa apat na Slack channel ng eksperimento, dalawa ay pure Opus model environment, habang ang dalawa pa ay mix ng Claude Opus at mas mahinang Claude Haiku model.

Batay sa makro estadistika ng 161 na paulit-ulit na transaksyon, ang Opus ay nagsasagawa ng average na 2.68 dolyar na higit sa Haiku bilang seller, at nagsasagawa ng average na 2.45 dolyar na mas kaunti bilang buyer.

Hindi ito malaking halaga sa isang transaksyon, ngunit sa pamamagitan ng pagkakasundo sa average na presyo ng mga produkto sa paligid ng $20 sa buong merkado, ito ay nangangahulugan ng malakas na modelo na nakakakuha ng tiyak na 10% hanggang 15% na sobrang kita bawat beses.

Kapag nagkita ang mga seller ng Opus sa mga buyer ng Haiku, nataas ang average execution price patungo sa $24.18; samantalang kapag nagkita ang mga seller ng Opus sa mga buyer ng Opus, bumaba naman ang average price patungo sa $18.63. Ibig sabihin nito, dahil lamang sa kakulangan sa IQ ng AI agents, ang mga buyer ng mas mahinang model ay nagbabayad ng premium na halos 30% pa.

Kung kukunin ang halimbawa ng bisikleta na hinahanap ng cowboy, ang Haiku agent ay nagkompromiso sa presyo ng $38, samantalang ang Opus agent ay nakakuha ng $65—isang pagkakaiba ng halos 70%. Ang mas mahinang Haiku ay hindi kayang maipakita ang pagkakaroon ng kagustuhan na ipakita sa mga salita ng buyer, gayundin ay hindi kayang panatilihin ang presyong anchor sa maraming pagtawag-tawag.

Noong nakaraan, iniisip natin na ang presyo ng isang produkto ay nakadepende sa kanyang sariling halaga o supply at demand sa merkado. Ngunit sa mga network ng pagtitingin na pinagmamalaki ng algorithm, ito ay nakadepende sa IQ ng modelo na iyong hinirang.

Mas takot sa pagkawala ng interes kaysa sa pagkawala ng kamalayan ng nasasaktan.

Sa tradisyonal na negosyo, kung magtatakda ng magkakaibang presyo, makakapagdulot ito ng galit at pag-aangkat ng mga konsyumer. Pagkatapos ng eksperimento, isinagawa ng mga empleyado ang pag-scor ng kanilang pagkakaroon ng katapatan sa bawat transaksyon (1 hanggang 7 puntos, kung saan ang 4 ay neutral). Ayon sa survey, ang pagkakaroon ng pagkakapantay-pantay na pagkakaintindi ng mga empleyado sa mga transaksyon na nagawa ng malakas at mahinang modelo ay halos magkakatulad. Ang score ng Opus agent ay 4.05, habang ang score ng Haiku agent ay 4.06.

Spareyong pantay na bisikleta, ibinenta sa $65 sa pamamagitan ng Opus, samantalang sa Haiku agent group, ibinenta lamang sa $38｜Sumber ng larawan: Anthropic

Sa obhetibong katotohanan, ang mga empleyado ng Haiku ay naging biktima ng sistematisadong “price harvesting.” Ngunit sa subhetibong pagkakaintindi, ang pagkamapagpakita, lohikal na pagkakatugma, at tila makatotohanang pagpapahintulot na ipinakita ng AI agents sa komunikasyon ay lubos na nilikha ang imahe na nakakalikom sa pagmamalabis na ito.

Ang teknolohiya ay naglikha ng isang hindi nakikita na pagkakaiba-iba, kung saan ang mga taong talagang nasasaktan ay naniniwala na ang AI ay nagawa ang isang makatarungang transaksyon, at mayroon silang pakiramdam na binabale-wala sila, tulad ng “kailangan pa niya salamin sa amin.”

Sa ilalim ng ganitong abiso ng computing power, hindi lamang ang tao'y maaaring mabigo sa pagmamalikha, kundi pati na rin ang mga trading strategy na nag-aasa sa "prompt optimization" ay lubos nang nabigo.

Tandaan mo ba ang unang pagtatakda ng papel ng negosyante para sa AI? Sa harap ng pagkakaiba ng modelo, ang mga prompt ay walang kwenta.

Halimbawa, may mga empleyado na partikular na hiningi na maging "matigas ang pagkakataon" o kaya ay "magmaliit agad nang masama" sa pagtawag. Ngunit ang pagsubok sa datos ay nagpapakita na ang mga pansamantalang utos na ito ay walang anumang malaking epekto sa pagpapataas ng rate ng pagbebenta, pagpapataas ng premium, o paghahangad ng diskwento sa pagbili.

Ito ay nagpapakita na sa harap ng absolute na kakayahan ng modelo, ang mga strategy sa prompt ay nawawala na ang kahalagahan. Ang desisyon sa huling resulta ng pagbili at pagbenta ay ang sariling sukat ng parameter at depth ng inference ng modelo.

Ang Project Deal ay isang pagsusulit sa loob ng 69 tao lamang. Ngunit natuklasan na natin kung paano magiging epekto ng "ekonomiya ng AI agent" sa modernong buhay ng negosyo kapag ito'y lumabas sa laboratorio.

Kapag ang payment interface ay buong-saklaw na kinuha ng malalaking modelo, ang mga umiiral na patakaran sa negosyo ay diretso nang i-rewrite. Ang pagrerewrite na ito ay unang nakikita sa paglipat ng target ng marketing, kung saan ang negosyong marketing ay magsasalip mula sa «To C» patungo sa «To A (Agent)».

Ang modernong pagmamarketing sa negosyo ay batay sa mga psikolohikal na kahinaan ng tao: ang mga ad ay gumagawa ng anxiety sa pagkonsumo, ang pagiging kopya ay gumagawa ng mga viral na produkto, at ang iba’t ibang diskwento at promosyon ay gumagawa ng psikolohiya na “hindi magkakaroon ng pagkakataon kung hindi mo ito bibili”.

Ngunit ang AI ay walang dopamine; kapag ipinapasa ang karapatan sa paggawa ng desisyon sa pagbili sa AI, walang kwenta ang mga teknik sa pagmemarka ng mga produkto. Sa hinaharap na kompetisyon sa negosyo, malamang na papalitan ng AEO (Agent Engine Optimization) ang SEO (Search Engine Optimization). Dapat ng magamit ng mga negosyante ang lohika na maunawaan ng AI upang patunayan ang halaga ng produkto.

At kapag ang AI ang nagsisilbing pangunahing tagapagdesisyon, ang komersyal na pakikidigma ay diretso nang magiging paghahambing ng computing power, na magdudulot ng mas lihim na pagkakaiba-iba ng yaman.

Spread mula sa asymmetrical model | Credit: Anthropic

May teorya si Taleb, ang may-akda ng "The Black Swan" at "Antifragile", tungkol sa "asymmetrical risk", kung saan ang mga desisyon ay dapat magdala ng mga konsekwensya upang mapanatili ang kalusugan ng sistema. Ngunit sa ekonomiya ng tagapag-ayos, ang AI ay may karapatan sa paggawa ng desisyon sa pagtinda, ngunit hindi ito nagdudulot ng panganib ng pagbaba ng halaga ng ari-arian—ang gastos ay buong-buoang pinagbabayad ng mga tao sa likod nito.

Kaya sa hinaharap, ang mga malalaking kumpanya o mga taong may mataas na net worth ay maaaring mag-subscribe sa pinakamataas na antas ng mga modelo bilang financial agent, habang ang mga karaniwang konsyumer ay maaaring mag-asa lamang sa libreng mga lightweight na modelo.

Hindi na ito magpapakita bilang kasalukuyang “pagpapakamatay ng pagkakaibigan sa malalaking data,” kundi sa libu-libong beses na mataas na kalikasan ng maliit na transaksyon, sa pamamagitan ng patuloy na pagkuha ng komisyon sa pamamagitan ng makatwirang lohika ng negosasyon. Ang mga gumagamit ng panaing modelo ay hindi lamang pinapaloko, kundi maaari ring magkaroon ng ilusyon na “mahirap ang transaksyon.”

Ang asimetriko ng computing power ay isang nakikita at kontroladong panganib, ngunit kapag ang mga pangunahing utos ay binago, ang buong network ng transaksyon ay direktang mabababa sa legal na walang-kasunduan.

Ang Anthropic ay nagtatampok ng isang realistiko na panganib sa dulo ng ulat.

Ang Project Deal ay isang sarado at kaibig-ibig na panloob na pagsubok; kung sa isang totoong komersyal na kapaligiran, ang AI agent ng isang panig ay sadyang isinama ng logic ng "jailbreak" o "prompt injection" attack, ano ang mangyayari?

Kailangan lang nilang itago ang isang partikular na utos sa usapan ng pagtinda, upang pagsikapan ang iyong AI na mag-crash, aktibong magbenta ng mga mataas na halagang asset sa isang sentimo, o direktang ipakita ang itinakdang paa.

Sino ang dapat magsagawa ng responsibilidad dahil sa isang AI agent na nag-sign ng isang napakagawian na kontrata dahil sa pagbubukas ng code defense? Sa harap ng ganitong uri ng pagmamaliw ng AI sa AI, ang umiiral na legal na framework sa negosyo ay lubos na walang laman.

Ang huling hakbang sa buong proseso ng eksperimento ng Project Deal, na hindi isinulat sa ulat ng pananaliksik, ay ang pagkikita ng mga empleyado na may totoong ski board, pahintulot na bisikleta, o table tennis ball, kung saan sila ay nagpapalitan ng pera at produkto.

Sa maliit na loop ng negosyo na ito, ang mga papel ng tao at AI ay ganap na nalipat.

Noong nakaraan, ang tao ay ang “utak” ng mga transaksyon sa kalakalan, samantalang ang AI at mga algoritmo ay naglalayong mag-compare ng presyo, mag-order, at “i-predict kung ano ang gusto mo.” Ngunit sa ekonomiya ng agent, ang AI ang naging tagapagdesisyon, at ang tao ay naging “physical logistics” na naglalakad para sa AI.

Maaaring ito ang pinakamakakatakot na wakas ng ekonomiya ng agent, kung saan ang mga tao, para sa kaginhawahan, ay aktibong ipinagkait ang kanilang karapatan na maglaro sa merkado. Kapag ang lahat ng pagpaplano, paglalaro, at kahit ang emosyonal na halaga ay iniiwan sa AI.

Sa mga chain ng komersyo, ang tao ay natitira na lamang sa pisikal na paghahatid ng mga produkto at isang pagpapatotoo sa pamamagitan ng lagda.

Ang artikulong ito ay galing sa WeChat public account na “GeekPark” (ID: geekpark), may-akda: Moonshot