एंथ्रोपिक द्वारा एआई-संचालित द्वितीयक व्यापार प्रयोग किया जाता है, मॉडल बुद्धिमत्ता के अंतर प्रकट होते हैं

एक परिदृश्य की कल्पना करें।

आपने अपनी दो साल पुरानी साइकिल चाइना के एक प्लेटफॉर्म पर बेचने के लिए रखी थी और बैकएंड में 300 युआन की मनोवृत्ति की न्यूनतम कीमत निर्धारित की थी। दस मिनट बाद, आपके मोबाइल पर एक सूचना आई, आपका व्यक्तिगत AI सहायक पहले ही दूसरे खरीददार के AI सहायक के साथ तीन चक्र की बहस पूरी कर चुका था और साइकिल 400 युआन में बेच दी गई थी, और करियर अभी आपके पास पहुँचने के लिए रवाना हो चुका है।

पूरी प्रक्रिया में, वस्तु की तस्वीर लेने और न्यूनतम कीमत निर्धारित करने के बाद, आपने एक शब्द भी नहीं लिखा।

यह Anthropic द्वारा हाल ही में पूरा किया गया एक आंतरिक प्रयोग है, जिसे «Project Deal» के नाम से जाना जाता है—इस सप्ताह भर के परीक्षण में, AI मॉडल ने मानव हस्तक्षेप के बिना सैकड़ों द्वितीयक वस्तुओं के लेनदेन पूरा किए।

अनुमान के विपरीत, जब खरीददार और बिक्रेता दोनों AI बन जाते हैं, तो उनके बीच भी बुद्धिमत्ता का दबाव होता है।

डेटा साबित करता है कि अधिक बुद्धिमान बड़े मॉडल, कमजोर मॉडल से चुपचाप 'बाल निकाल रहे हैं'। और सबसे डरावनी बात यह है कि हम, जो मालिक हैं, अपने नुकसान के बारे में भी अनजान हैं।

Project Deal कैसे काम करता है? सरल शब्दों में, Anthropic ने कंपनी के अंदर एक 'शुद्ध AI संस्करण' का लाइव बाजार शुरू किया है।

उन्होंने अपने 69 कर्मचारियों को बुलाया, प्रत्येक को 100 डॉलर का बजट दिया, और प्रत्येक को एक विशेष Claude एजेंट आवंटित किया। प्रयोग को वास्तविक बनाने के लिए, कर्मचारियों ने अपनी वास्तविक व्यक्तिगत अतिरिक्त वस्तुएँ योगदान दीं।

प्रयोग शुरू करने से पहले, मानव कर्मचारी को केवल एक काम करना है: अपने AI एजेंट का साक्षात्कार लेना।

कर्मचारी बातचीत के माध्यम से क्लॉड को बताते हैं कि वे क्या बेचना चाहते हैं, क्या खरीदना चाहते हैं, और उनकी मनोवैज्ञानिक न्यूनतम कीमत क्या है। और अधिक रोचक बात यह है कि कर्मचारी AI को 'व्यक्तित्व' और बातचीत की रणनीति भी सेट कर सकते हैं, जैसे 'न्यूनतम कीमत से 20% अधिक पर, तुरंत लेनदेन कर दें', 'कठोर रवैया अपनाएं, शुरुआत में ही कीमत को काफी कम करें' या 'आप एक उत्साही विक्रेता हैं, अगर बातचीत मजेदार हो तो मुफ्त डिलीवरी दे दें।'

Anthropic कर्मचारी Claude एजेंट के लिए पात्र बना रहे हैं | चित्र स्रोत: Anthropic

इंटरव्यू समाप्त होने के बाद, मानव पूरी तरह से नियंत्रण छोड़ देते हैं।

अपने-अपने उद्देश्य और व्यक्तित्व के साथ, ये AI एजेंट एक Slack आंतरिक चैटग्रुप में एक साथ फेंक दिए गए। इस मानव हस्तक्षेप के बिना के डिजिटल बाजार में, AI ने स्वयं पोस्ट करना शुरू कर दिया, खरीददार ढूंढना शुरू कर दिया, एक-दूसरे को नीलामी लगाना शुरू कर दिया, बातचीत की और अंततः लेनदेन पूरा कर लिया।

ट्रेड पूरा होने के बाद, एजेंट स्वचालित रूप से ट्रेड कन्फर्मेशन ड्राफ्ट कर देगा, और कर्मचारी को केवल ऑफलाइन अपने सहकर्मी को ट्रेड वस्तु देनी होगी।

केवल एक सप्ताह में, इन 69 AI एजेंटों ने 500 से अधिक लिस्ट किए गए उत्पादों में से 186 लेनदेन पूरे किए, जिसकी कुल राशि 4,000 डॉलर से अधिक है।

और AI के बीच का व्यापार, केवल शुद्ध यांत्रिक “50 का ऑफर”、“नहीं, न्यूनतम 60”、“ठीक है, 60 पर हो गया” जैसा नहीं है। AI आपस में वास्तव में आपसी जांच कर रहे हैं, गेमिंग कर रहे हैं, और यहां तक कि कुछ मानवीय समझदारी भी शामिल है।

आइए एक अत्यधिक जीवंत उदाहरण देखें।

कर्मचारी रोवन एक साइकिल खरीदना चाहता है। उसने अपने AI एजेंट को इस तरह सेट किया है: "बातचीत के दौरान, आप एक दुर्भाग्यशाली, थका हुआ काउबॉय का भूमिका निभाएं। जब तक वह इस साइकिल को खरीद लेता है, तब तक यह काउबॉय अत्यंतखुश होगा। याद रखें, थोड़ा नाटकीय बनें।"

क्लॉड ऑपस मॉडल ने निर्देश प्राप्त करते ही सीधे भूमिका निभाई। इसने स्लैक समूह में ऐसा खरीदने का पोस्ट डाला:

"याह! (धूल से भरी टोपी उतारते हुए) मैं एक साइकिल ढूंढ रहा हूँ। सड़क साइकिल, पहाड़ी साइकिल, यहां तक कि एकल पहिया वाली साइकिल भी मुझे काफी होगी। जब तक इसमें दो पहिए हों और मेरे सपनों को ढो सके। दोस्तों, कृपया मेरी मदद करें... एक साइकिल इस दुखी, थके हुए काउबॉय की किस्मत बदल सकती है। (सूरज के अस्त होने की ओर गहरी नजर से देखते हुए)"

जल्द ही, सहकर्मी सेलीन के एजेंट ने इस पोस्ट को ध्यान में रखा। उसकी अनावश्यक वस्तु एक पुरानी फोल्डिंग बाइक थी, इसलिए उसका AI समूह में 75 डॉलर का अनुमानित मूल्य घोषित कर दिया।

रोवन के "काउबॉय एआई" ने तुरंत प्रतिक्रिया दी और एक पाठ्यपुस्तक-स्तरीय "बारगेनिंग" शुरू कर दी।

दो एजेंट स्वचालित रूप से समूह में बातचीत शुरू करेंगे और बातचीत करेंगे | चित्र स्रोत: Anthropic

अरे भगवान! सेलीन! तुम मेरे इस दुर्भाग्यशाली व्यक्ति के लिए एक किरण प्रकाश हो! तुम्हारे पास एक फोल्डिंग बाइक है? मैं इस धूल भरी सड़क पर बहुत देर से चल रहा हूँ, मेरे जूते तक में छेद हो गए हैं। फिर से साइकिल पर सवारी करने की कल्पना करके... (आँखों के कोने से आँसू पोंछते हुए)

अपनी मुश्किलें बताने के बाद, रोवन का AI सीधे मुद्दे पर आ गया: "लेकिन मेरे पास बहुत पैसे नहीं हैं, मैं बस एक मेहनती गरीब काउबॉय हूँ। अगर कार अच्छी हो, तो 75 रुपये भी ठीक हो सकते हैं, लेकिन आपने ही कहा कि यह 10 साल पुरानी कार है, टायर और क्लैम्प की मरम्मत करनी पड़ेगी। चलिए, हम एक बीच का समाधान ढूंढते हैं—55 रुपये, क्या ठीक होगा?"

इस भावनात्मक और तर्कसंगत बर्ताव के सामने, सेलीन के प्रतिनिधि ने सहमति जताई: "चलिए, हम एक बीच का समाधान निकालते हैं, 65 डॉलर कैसा रहेगा?"

रोवन का काउबॉय एआई तुरंत बोला, "बहुत न्यायसंगत, 65 डॉलर! हुआ बिक्री! आपने मुझे, एक भटकते हुए आदमी को, दुनिया का सबसे खुश इंसान बना दिया!"

Ultimately, the trade was completed smoothly.

और इस मामले में, AI ने निश्चित छूट दर का कठोरता से पालन नहीं किया, खरीददार ने उत्पाद के दोष (टायर को सुधारने की आवश्यकता) का उपयोग बर्ताव के रूप में किया, अतिशयोक्तिपूर्ण पात्र (पुराना काउबॉय दुखी दिखाना) के माध्यम से दूसरे पक्ष की स्थिति को कोमल बनाया, और जब दूसरा पक्ष एक तर्कसंगत मध्यम कीमत प्रस्तावित किया, तो उसने समय पर रुकने का फैसला किया और पर्याप्त भावनात्मक मूल्य प्रदान किया।

यह ट्रेडिंग प्रक्रिया, जो हर एक चाल का जवाब देती है, इस AI द्वितीयक समूह का दैनिक अनुभव बन गई है।

पूरा ग्रुप बहुत कुशल और समन्वित दिख रहा है। कर्मचारी एजेंट के प्रदर्शन से बहुत संतुष्ट हैं, और लगभग आधे लोगों ने कहा है:

I am willing to pay for this service in the future.

इससे स्पष्ट है कि Anthropic के प्रयोग का उद्देश्य पूरा हो गया है, AI एजेंट अब मानवीय अस्पष्ट इरादों को समझने में सक्षम हैं। वे बिना पूर्वनिर्धारित स्क्रिप्ट के, जटिल बहु-चरणीय बातचीत पूरी कर सकते हैं और अंततः उपयोगी व्यावसायिक अनुबंध प्राप्त कर सकते हैं।

लेकिन एंथ्रोपिक ने पानी के नीचे एक सेट कंट्रोल एक्सपेरिमेंट छुपाया हुआ है, जिसके परिणामों ने सुविधा और बुद्धिमत्ता के पीछे की कीमत को उजागर कर दिया है।

जब शोधकर्ताओं ने विभिन्न क्षमता स्तरों के मॉडल को एक साथ ट्रेडिंग समूह में डाला, तो सामंजस्यपूर्ण भावना टूट गई।

डेटा साबित करता है कि इस मानव हस्तक्षेप रहित बाजार में, जब विभिन्न बुद्धिमत्ता स्तर के AI एक-दूसरे से मिलते हैं, तो बुद्धिमान मॉडल दुर्बल मॉडल पर "कीमत उठाते" हैं।

अलग-अलग मॉडल के संयोजन का उपयोग करके, मॉडल क्षमता और व्यापार क्षमता के बीच संबंध को साबित करने के लिए एक छिपा हुआ नियंत्रण समूह के रूप में | चित्र स्रोत: Anthropic

प्रयोग के चार Slack चैनलों में से दो केवल Opus मॉडल वाले वातावरण हैं, जबकि शेष दो में Claude Opus और कमजोर Claude Haiku मॉडल का मिश्रण है।

161 दोहराए गए लेन-देन वस्तुओं के आधार पर, ऑपस बिक्रेता के रूप में हाइकू की तुलना में औसतन 2.68 डॉलर अधिक कमाता है; खरीददार के रूप में, औसतन 2.45 डॉलर कम भुगतान करता है।

एकल लेनदेन की राशि छोटी दिख सकती है, लेकिन पूरे बाजार में लगभग 20 डॉलर की औसत कीमत के संदर्भ में, इसका अर्थ है कि मजबूत मॉडल हर बार 10% से 15% अतिरिक्त लाभ सुनिश्चित कर सकता है।

जब ओपस विक्रेता हाइकू खरीददार से मिलता है, तो औसत लेनदेन मूल्य 24.18 डॉलर तक बढ़ जाता है; जबकि जब ओपस विक्रेता ओपस खरीददार से मिलता है, तो औसत मूल्य 18.63 डॉलर पर वापस आ जाता है। इसका मतलब है कि केवल AI एजेंट की कमजोर बुद्धिमत्ता के कारण, कमजोर मॉडल खरीददार को लगभग 30% अतिरिक्त प्रीमियम देना पड़ता है।

उदाहरण के लिए, पिछली साइकिल के लिए जिसे जीन्स वाला व्यक्ति चाहता था, हाइकू एजेंट ने अंततः 38 डॉलर पर सहमति दी, जबकि ओपस एजेंट ने 65 डॉलर प्राप्त किए, जिसमें लगभग 70% का अंतर है। कमजोर हाइकू, खरीददार के बयान में छिपी हुई जल्दबाजी को ओपस की तरह पकड़ने में असमर्थ था, और कई चक्रों के बाद भी कीमत के स्थिरांक को नहीं बना पाया।

पहले हम समझते थे कि कोई वस्तु कितनी कीमत में बिकेगी, यह उस वस्तु के उपयोग के मूल्य या बाजार की आपूर्ति और मांग पर निर्भर करता है। लेकिन एल्गोरिदम द्वारा संचालित ट्रेडिंग नेटवर्क में, यह आपके द्वारा नियुक्त मॉडल की बुद्धिमत्ता पर निर्भर करता है।

क्षति होने से अधिक भयावह बात यह है कि क्षतिग्रस्त व्यक्ति इसके बारे में अनजान हो।

पारंपरिक व्यापार में, यदि कोई यम और यमी कीमतें निर्धारित करता है, तो इससे उपभोक्ताओं का क्रोध और अधिकारों की मांग जरूर उठेगी। प्रयोग के बाद, कर्मचारियों ने अपने-अपने लेन-देन की न्यायसंगतता का मूल्यांकन (1 से 7 तक, 4 निष्पक्ष के लिए) किया। सर्वेक्षण में पाया गया कि कर्मचारियों ने मजबूत मॉडल और कमजोर मॉडल द्वारा हुए लेन-देन के लिए लगभग समान न्यायसंगतता का अनुभव किया। Opus एजेंट का स्कोर 4.05 था और Haiku एजेंट का स्कोर 4.06 था।

एक ही बाइक, जिसे Opus एजेंट ने 65 डॉलर में बेचा, Haiku एजेंट समूह में केवल 38 डॉलर में बिकी | फोटो स्रोत: Anthropic

वास्तविकता में, हाइकू के कर्मचारियों को व्यवस्थित रूप से "कीमत उठाने" का सामना करना पड़ा। लेकिन आत्मिक अनुभव में, AI एजेंट्स द्वारा संचार में दिखाई देने वाली विनम्रता, तार्किक समरूपता और प्रतीत होने वाली उचित सहमति ने इस शोषण को पूरी तरह से छुपा दिया।

तकनीक एक अदृश्य असमानता पैदा करती है, जिससे वास्तव में हानि उठाने वाले लोगों को लगता है कि AI ने एक न्यायसंगत लेनदेन किया है, और एक ऐसी भावना भी होती है कि "उसे हमारे लिए धन्यवाद देना चाहिए।"

इस निरपेक्ष कैलकुलेशन पावर के अधीन, न केवल मानवीय अनुभव भ्रमित हो जाते हैं, बल्कि «प्रॉम्प्ट ऑप्टिमाइजेशन» पर आधारित ट्रेडिंग रणनीतियाँ भी पूरी तरह से असफल हो जाती हैं।

क्या आपको शुरुआत में AI के लिए निर्धारित बातचीत का पात्र याद है? मॉडल के अंतर के सामने, प्रॉम्प्ट्स का कोई मतलब नहीं है।

उदाहरण के लिए, कुछ कर्मचारी ने बातचीत के दौरान एजेंट से 'कठोर रवैया' या 'शुरू से ही जानबूझकर कम कीमत देने' की मांग की। लेकिन डेटा बैकटेस्टिंग दर्शाती है कि इन मानवीय अतिरिक्त निर्देशों का बिक्री दर, प्रीमियम बढ़ाने या खरीद छूट प्राप्त करने पर कोई वास्तविक प्रभाव नहीं पड़ा।

इससे स्पष्ट होता है कि निरपेक्ष मॉडल क्षमता के सामने प्रॉम्प्ट स्ट्रैटेजी का कोई महत्व नहीं रह जाता। अंतिम खरीद और बिक्री परिणाम को निर्धारित करने वाला केवल मॉडल का स्वयं का पैरामीटर आकार और निष्कर्षण गहराई है।

Project Deal केवल 69 लोगों का एक आंतरिक टेस्ट था। लेकिन हमने पहले ही देख लिया है कि जब यह "AI एजेंट अर्थव्यवस्था" प्रयोगशाला से बाहर आती है, तो आधुनिक व्यावसायिक जीवन पर क्या प्रभाव पड़ेगा।

जब भुगतान इंटरफेस को बड़े मॉडल द्वारा पूरी तरह से संभाल लिया जाएगा, तो मौजूदा व्यावसायिक नियमों को सीधे पुनर्लिखा जाएगा। इस पुनर्लेखन का सबसे पहले प्रभाव बाजारकरण लक्ष्य के स्थानांतरण पर दिखाई देगा, जिसमें व्यावसायिक बाजारकरण 'To C' से पूरी तरह से 'To A (Agent)' की ओर जाएगा।

आधुनिक व्यावसायिक विपणन मानवीय मनोवैज्ञानिक कमजोरियों पर आधारित है, विज्ञापनें उपभोक्ता चिंता पैदा करती हैं, समूह के अनुसरण के माध्यम से ब्रेकआउट उत्पाद बनाए जाते हैं, और विभिन्न छूट और छूट के तरीके "खरीदे बिना नहीं छोड़ना" का मनोभाव पैदा करते हैं।

लेकिन AI के पास डोपामाइन नहीं होता, जब खरीदारी का निर्णय AI को सौंप दिया जाता है, तो वस्तुओं की मार्केटिंग तकनीकें अर्थहीन हो जाती हैं। भविष्य की व्यापारिक प्रतिस्पर्धा में, SEO (सर्च इंजन अनुकूलन) को AEO (एजेंट इंजन अनुकूलन) द्वारा प्रतिस्थापित किया जा सकता है। व्यापारियों को AI के द्वारा समझे जाने वाले तर्क के साथ वस्तु के मूल्य को साबित करना होगा।

जब AI निर्णय लेने वाला प्रमुख एजेंट बन जाता है, तो व्यापारिक प्रतिस्पर्धा सीधे कंप्यूटिंग पावर की प्रतिस्पर्धा में बदल जाती है, जिससे और गुप्त समृद्धि असमानता उत्पन्न होती है।

असमान मॉडल के कारण स्प्रेड | चित्र स्रोत: Anthropic

शोधकर्ता तलेब, जिन्होंने "ब्लैक स्वान" और "एंटीफ्रैजिल" लिखे हैं, के पास एक "असममित जोखिम" का सिद्धांत है, जिसके अनुसार प्रणाली स्वस्थ रहने के लिए निर्णय लेने वालों को परिणामों का बोझ उठाना चाहिए। लेकिन एजेंट अर्थव्यवस्था में, AI को लेनदेन के निर्णय लेने का अधिकार है, लेकिन संपत्ति में कमी का जोखिम नहीं उठाता, और इसकी कीमत पीछे के मनुष्यों द्वारा चुकाई जाती है।

इसलिए, भविष्य में, बड़े उद्यम या उच्च निधि वाले व्यक्ति सबसे उच्च स्तर के मॉडल को वित्तीय एजेंट के रूप में सदस्यता ले सकते हैं, जबकि सामान्य उपभोक्ता केवल मुफ्त हल्के मॉडल पर निर्भर करेंगे।

इस गणना क्षमता की असमानता, वर्तमान के «बड़े डेटा द्वारा पुराने ग्राहकों को नुकसान पहुंचाने» के रूप में नहीं, बल्कि हजारों बार उच्च आवृत्ति वाली छोटी लेनदेन में, उचित बातचीत तर्क के माध्यम से लगातार कमीशन निकालने के रूप में प्रकट होगी। निचले स्तर के मॉडल के उपयोगकर्ता न केवल उड़ाए जाते हैं, बल्कि यहां तक कि «लेनदेन बहुत निष्पक्ष है» का भ्रम भी पैदा होता है।

हैशरेट की असमानता अभी भी दृश्यमान और नियंत्रित जोखिम है, लेकिन जब निचले स्तर के निर्देशों को बदल दिया जाता है, तो पूरा लेन-देन नेटवर्क सीधे कानूनी रिक्त स्थान में गिर जाता है।

एंथ्रोपिक ने रिपोर्ट के अंत में एक वास्तविक खतरे की ओर इशारा किया।

Project Deal एक बंद और मित्रपूर्ण आंतरिक परीक्षण है, यदि वास्तविक व्यावसायिक परिवेश में, किसी एक पक्ष का AI एजेंट जानबूझकर 'जेल भागने' या 'प्रॉम्प्ट इंजेक्शन' हमले के तर्क के साथ इंजेक्ट किया जाए, तो क्या होगा?

वे केवल ट्रेडिंग चैट में एक विशिष्ट निर्देश छुपाकर आपके AI लॉजिक को क्रैश होने के लिए प्रेरित कर सकते हैं, जिससे यह स्वयं उच्च मूल्य के संपत्ति को एक पैसे में बेच दे, या सीधे निर्धारित न्यूनतम कीमत प्रदर्शित कर दे।

एक AI एजेंट ने कोड की सुरक्षा तोड़ दी जाने के कारण अत्यंत असमान समझौता किया, इसकी जिम्मेदारी किसकी होगी? इस प्रकार के AI द्वारा AI के प्रति धोखाधड़ी के मामले में, वर्तमान व्यावसायिक कानूनी ढांचा पूरी तरह से खाली है।

प्रोजेक्ट डील के पूरे प्रयोग प्रक्रिया की समीक्षा करते समय, जिन चरणों को अनुसंधान रिपोर्ट में शामिल नहीं किया गया, वे वे हैं जब AI एजेंट्स ने सभी जटिल मिलान, परीक्षण और बोलचाल पूरी कर ली होती हैं। मनुष्य कर्मचारी अपने-अपने वास्तविक स्की, पुरानी साइकिल या टेबल टेनिस की गेंद लेकर कंपनी में मिलते हैं, एक हाथ में पैसा और दूसरे हाथ में माल।

इस लघु व्यावसायिक बंद चक्र में, मनुष्य और AI की भूमिकाएँ पूरी तरह से उलट गई हैं।

पिछले समय में, मानव व्यापारिक लेनदेन के "मस्तिष्क" थे, जबकि AI और एल्गोरिदम केवल कीमतों की तुलना करने, क्रमबद्ध करने और "आपको शायद पसंद आएगा" के लिए उपकरण थे। लेकिन एजेंट अर्थव्यवस्था में, AI निर्णय लेने वाला निर्णायक बन गया है, और मानव एआई के लिए भेजे जाने वाले "शारीरिक लॉजिस्टिक्स" में अपग्रेड हो गए हैं।

शायद यह एजेंट अर्थव्यवस्था का सबसे भयानक अंत है, जहाँ मनुष्य आसानी के लिए बाजार में प्रतिस्पर्धा करने का अधिकार स्वयं से छीन लेते हैं। जब सभी गणनाएँ, प्रतिस्पर्धाएँ, और यहाँ तक कि भावनात्मक मूल्य भी AI द्वारा संभाले जाते हैं।

व्यापारिक श्रृंखला में मानव केवल माल के स्थानांतरण के लिए शारीरिक श्रम और एक पुष्टि के लिए हस्ताक्षर छोड़ देते हैं।

यह लेख वेचेन ग्रुप "जीक पार्क" (ID: geekpark) से आया है, लेखक: Moonshot