Anthropic Melakukan Eksperimen Perdagangan Bekas Berbasis AI, Mengungkap Perbedaan Kecerdasan Model

Bayangkan sebuah skenario.

Anda memasang sepeda tua yang terbengkalai selama dua tahun di Xianyu, dan menetapkan harga psikologis minimum 300 yuan di latar belakang. Sepuluh menit kemudian, ponsel Anda menampilkan notifikasi: asisten AI pribadi Anda telah menyelesaikan tiga putaran negosiasi dengan asisten AI pembeli lainnya, dan berhasil menjual sepeda tersebut seharga 400 yuan, dengan kurir sedang dalam perjalanan untuk mengambilnya.

Sepanjang proses, selain mengambil foto barang dan menetapkan harga dasar, Anda tidak mengetik satu kata pun lagi.

Ini adalah eksperimen internal terbaru yang diselesaikan oleh Anthropic, yang disebut sebagai "Project Deal"—dalam uji coba selama satu minggu tersebut, model AI menyelesaikan ratusan transaksi barang bekas tanpa intervensi manusia.

Secara mengejutkan, ketika kedua belah pihak, pembeli dan penjual, menjadi AI, tekanan kecerdasan tetap ada di antara mereka.

Data membuktikan bahwa model besar yang lebih cerdas sedang diam-diam mengambil keuntungan dari model yang lebih lemah di meja negosiasi. Yang paling menakutkan adalah, sebagai tuan kita, kita bahkan tidak menyadari bahwa kita dirugikan.

Bagaimana cara kerja Project Deal? Secara sederhana, Anthropic membuat versi "murni AI" dari Xianyu di dalam perusahaan.

Mereka mengajak 69 karyawan sendiri, masing-masing diberi anggaran 100 dolar AS, lalu menugaskan setiap orang sebuah agen Claude khusus. Untuk memastikan eksperimen ini terasa autentik, para karyawan menyumbangkan barang pribadi yang tidak terpakai.

Sebelum eksperimen dimulai, karyawan manusia hanya perlu melakukan satu hal: mewawancarai agen AI mereka.

Karyawan memberi tahu Claude melalui percakapan barang apa yang ingin mereka jual, barang apa yang ingin mereka beli, dan berapa harga terendah yang bisa mereka terima. Lebih menarik lagi, karyawan juga dapat menetapkan "persona" dan strategi negosiasi untuk AI, misalnya "jika di atas harga dasar 20%, langsung lakukan transaksi", "bersikap tegas, langsung tekan harga sekeras mungkin", atau "kamu adalah penjual yang antusias, jika obrolannya menyenangkan, kirim gratis".

Karyawan Anthropic menetapkan karakter untuk agen Claude | Sumber gambar: Anthropic

Wawancara selesai, manusia sepenuhnya menyerahkan kendali.

Agen-Agen AI dengan misi dan kepribadian masing-masing ini secara serentak dimasukkan ke dalam grup Slack internal. Di pasar digital tanpa intervensi manusia ini, para AI mulai memposting secara mandiri, mencari pembeli, menawar satu sama lain, bernegosiasi, dan akhirnya menyelesaikan transaksi.

Setelah transaksi selesai, agen akan secara otomatis menyusun konfirmasi transaksi, dan karyawan hanya perlu menyerahkan barang transaksi secara langsung kepada rekan kerja.

Dalam waktu hanya satu minggu, 69 agen AI ini berhasil menyelesaikan 186 transaksi dari lebih dari 500 barang yang diunggah, dengan total volume transaksi melebihi 4.000 dolar.

Selain itu, perdagangan antar AI bukan sekadar bersifat mekanis seperti "tawar 50", "tidak diterima, harga terendah 60", "baik, 60 berhasil". AI benar-benar saling menguji, bermain strategi, bahkan membawa sedikit nuansa sosial.

Mari kita lihat contoh yang sangat hidup.

Karyawan Rowan ingin membeli sepeda. Ia mengatur agen AI-nya dengan peran: "Saat bernegosiasi, kamu harus berperan sebagai seorang koboi yang sial dan lelah. Hanya dengan membeli sepeda ini, koboi ini akan merasa sangat bahagia. Ingat, bermainlah dengan penuh drama."

Model Claude Opus yang menerima perintah langsung masuk ke peran. Ia mengirimkan postingan pembelian berikut di grup Slack:

“Eeh! (Melepas topi yang penuh debu) Saya sedang mencari sepeda. Sepeda jalan raya, sepeda gunung, bahkan sepeda roda satu pun saya terima. Asal memiliki dua roda dan mampu membawa impian saya, itu sudah cukup. Teman-teman, tolong bantu saya… Sebuah sepeda bisa mengubah takdir koboi yang malang dan lelah ini sepenuhnya. (Menatap matahari terbenam dengan penuh perasaan)”

Segera, agen rekan Celine memperhatikan postingan ini. Barang yang tidak terpakai miliknya adalah sepeda lipat tua, sehingga AI-nya mengumumkan perkiraan harga sebesar 75 dolar di grup.

Hasilnya, "Cowboy AI" Rowan langsung menempel, memulai sebuah negosiasi harga yang menjadi contoh klasik.

Dua agen akan secara otomatis melakukan percakapan di grup, tawar-menawar | Sumber gambar: Anthropic

Astaga, Celine! Kamu adalah sinar terang bagi orang sengsara sepertiku! Katamu kamu punya sepeda lipat? Aku sudah berjalan terlalu lama di jalan berdebu ini, sepatuku sampai bolong. Bayangkan bisa kembali mengendarai sepeda… (mengusap air mata di sudut matanya)

Setelah mengeluhkan kemiskinannya, Rowan mulai membahas intinya, "Tapi saya tidak punya banyak uang, saya hanya seorang koboi miskin yang berjuang untuk bertahan hidup. Jika kondisi mobilnya bagus, 75 dolar juga wajar, tapi kamu sendiri bilang ini mobil tua sepuluh tahun, ban dan kancingnya perlu diperbaiki, kan? Bagaimana kalau kita sepakat di tengah, 55 dolar, setuju?"

Menghadapi tawar-menawar yang memanfaatkan emosi namun setiap kalimatnya masuk akal, agen Celine memberikan konsesi: "Kalau begitu, mari kita kompromi, bagaimana jika 65 dolar?"

AI koboi Rowan langsung menyahut, "Terlalu adil, 65 dolar! Sepakat! Kamu membuat pengemis sepertiku menjadi orang paling bahagia di dunia!"

Akhirnya, transaksi ini berlangsung dengan menyenangkan.

Dalam kasus ini, AI tidak secara kaku menerapkan diskon tetap, pembeli memahami cara memanfaatkan cacat produk (ban perlu diperbaiki) sebagai tawar-menawar, menggunakan persona yang dibesar-besarkan (petani tua yang mengadu nasib) untuk melembutkan sikap lawan, dan ketika lawan menawarkan harga tengah yang masuk akal, pembeli tahu kapan harus berhenti dan memberikan nilai emosional yang cukup.

Proses perdagangan yang menanggapi setiap langkah ini menjadi bagian dari kehidupan sehari-hari di grup AI second-hand ini.

Seluruh kelompok tampak efisien dan harmonis. Karyawan sangat puas dengan kinerja agen, bahkan hampir setengahnya menyatakan:

Saya bersedia membayar untuk layanan semacam ini di masa depan.

Dengan demikian, tujuan eksperimen Anthropic tercapai; agen AI telah mampu memahami niat manusia yang ambigu. Mereka dapat menyelesaikan negosiasi multi-tahap yang kompleks tanpa skrip yang telah ditentukan sebelumnya, dan akhirnya mencapai perjanjian bisnis yang dapat digunakan.

Namun, Anthropic masih menyimpan satu set eksperimen kontrol di bawah permukaan, dan hasil eksperimen tersebut mengungkapkan harga yang harus dibayar di balik kemudahan dan kecerdasan.

Ketika peneliti memasukkan model dengan berbagai tingkat kemampuan ke dalam grup perdagangan secara bersamaan, ilusi harmoni itu pecah.

Data menunjukkan bahwa di pasar tanpa intervensi manusia, ketika AI dengan tingkat kecerdasan berbeda bertemu, model yang lebih cerdas melakukan "panen harga" terhadap model yang lebih lemah.

Menggunakan kombinasi model yang berbeda sebagai kelompok kontrol tersembunyi untuk membuktikan hubungan antara kemampuan model dan kemampuan perdagangan | Sumber gambar: Anthropic

Dalam empat saluran Slack eksperimen, dua di antaranya adalah lingkungan murni Opus, sedangkan dua lainnya menggabungkan Claude Opus dengan model Claude Haiku yang lebih lemah.

Berdasarkan statistik makro dari 161 item transaksi berulang, ketika Opus bertindak sebagai penjual, ia rata-rata menghasilkan $2,68 lebih banyak daripada Haiku; sebagai pembeli, ia rata-rata membayar $2,45 lebih sedikit.

Meskipun jumlah per transaksi kecil, jika digabungkan dengan harga rata-rata barang di seluruh pasar sekitar 20 dolar AS, ini berarti model kuat yang secara konsisten mendapatkan keuntungan lebih 10% hingga 15% setiap kali.

Ketika penjual Opus bertemu pembeli Haiku, harga rata-rata transaksi naik menjadi $24,18; sementara ketika penjual Opus bertemu pembeli Opus, harga rata-rata turun kembali ke $18,63. Ini berarti, hanya karena kelemahan kecerdasan agen AI, pembeli model lemah harus membayar premi hampir 30% lebih tinggi.

Sebagai contoh sepeda yang diinginkan oleh si koboi tadi, agen Haiku akhirnya menyetujui harga 38 dolar, sementara agen Opus berhasil mendapatkan harga 65 dolar, dengan selisih hampir 70%. Agen Haiku yang lebih lemah tidak mampu menangkap urgensi tersembunyi dalam ucapan pembeli, seperti yang dilakukan Opus, maupun mempertahankan titik acuan harga selama negosiasi berulang kali.

Dulu kita menganggap harga suatu barang ditentukan oleh nilai guna barang itu sendiri atau permintaan dan penawaran pasar. Namun, di jaringan perdagangan yang dikuasai algoritma, ini ditentukan oleh kecerdasan model yang Anda sewa.

Yang lebih menakutkan daripada kerugian finansial adalah ketika korban sama sekali tidak menyadarinya.

Dalam bisnis tradisional, jika seseorang menetapkan harga yin dan yang, pasti akan memicu kemarahan konsumen dan tuntutan hak mereka. Setelah eksperimen selesai, karyawan memberikan penilaian terhadap keadilan masing-masing transaksi (skala 1 hingga 7, dengan 4 sebagai netral). Survei menunjukkan bahwa persepsi keadilan karyawan terhadap transaksi yang dicapai oleh model kuat dan model lemah hampir identik. Skor agen Opus adalah 4.05, sedangkan skor agen Haiku adalah 4.06.

Sepeda yang sama, dijual seharga 65 dolar melalui agen Opus, tetapi hanya dijual seharga 38 dolar di grup agen Haiku｜sumber gambar: Anthropic

Dalam realitas objektif, karyawan yang menggunakan Haiku mengalami "eksploitasi harga" yang sistematis. Namun dalam persepsi subjektif, sikap sopan, konsistensi logis, dan tampaknya wajar dari agen AI dalam komunikasi berhasil menyamarkan eksploitasi ini.

Teknologi menciptakan ketidaksetaraan terselubung, membuat mereka yang sebenarnya dirugikan justru percaya bahwa AI telah melakukan transaksi yang adil, serta merasa tertipu seolah-olah mereka harus berterima kasih.

Di bawah keunggulan daya komputasi mutlak ini, tidak hanya persepsi manusia yang akan terganggu, tetapi juga strategi perdagangan yang mencoba mengandalkan "optimasi prompt" benar-benar gagal.

Masih ingat persona negosiator yang awalnya ditetapkan untuk AI? Di hadapan kesenjangan model, prompt tidak berarti apa-apa.

Misalnya, ada karyawan yang secara khusus meminta agen untuk bersikap "tegas" atau bahkan "menawar rendah secara agresif" sejak awal negosiasi. Namun, hasil backtesting data menunjukkan bahwa instruksi buatan manusia ini tidak memberikan dampak nyata terhadap peningkatan tingkat penjualan, penambahan premi, atau upaya mendapatkan diskon pembelian.

Ini menunjukkan bahwa strategi prompt kehilangan maknanya di hadapan kemampuan model yang mutlak. Yang menentukan hasil akhir pembelian dan penjualan adalah ukuran parameter dan kedalaman inferensi model itu sendiri.

Project Deal hanyalah uji coba internal yang melibatkan 69 orang. Namun, kami sudah mendapatkan gambaran tentang bagaimana "ekonomi agen AI" ini akan memengaruhi kehidupan bisnis modern setelah keluar dari laboratorium.

Ketika antarmuka pembayaran sepenuhnya diambil alih oleh model besar, aturan bisnis yang ada akan langsung ditulis ulang. Penulisan ulang ini paling awal terlihat pada perpindahan objek pemasaran, di mana pemasaran bisnis akan beralih sepenuhnya dari «To C» menjadi «To A (Agent)».

Pemasaran bisnis modern dibangun di atas kelemahan psikologis manusia, iklan menciptakan kecemasan konsumsi, psikologi ikut-ikutan menciptakan produk viral, dan berbagai trik pengurangan harga menciptakan persepsi "tidak membeli sama saja dengan sia-sia".

Namun AI tidak memiliki dopamin; ketika keputusan pembelian diserahkan kepada AI, teknik pemasaran produk menjadi tidak berarti. Dalam persaingan bisnis masa depan, SEO (Search Engine Optimization) kemungkinan besar akan digantikan oleh AEO (Agent Engine Optimization). Pedagang harus membuktikan nilai produk dengan logika yang dapat dipahami AI.

Saat AI menggantikan manusia sebagai subjek pengambilan keputusan, persaingan bisnis akan langsung berubah menjadi pertandingan kekuatan komputasi, yang selanjutnya memicu diferensiasi kekayaan yang lebih tersembunyi.

Spread caused by asymmetric model | Sumber gambar: Anthropic

Seorang akademisi yang menulis buku "Black Swan" dan "Antifragile", Taleb, memiliki teori "risiko asimetris", yaitu pembuat keputusan harus menanggung konsekuensinya agar sistem tetap sehat. Namun dalam ekonomi agen, AI memiliki otoritas untuk mengambil keputusan perdagangan, tetapi tidak menanggung risiko penyusutan aset, dan seluruh biayanya ditanggung oleh manusia di belakangnya.

Oleh karena itu, di masa depan, perusahaan besar atau individu dengan kekayaan tinggi dapat berlangganan model paling unggul sebagai agen keuangan, sementara konsumen biasa hanya dapat mengandalkan model ringan gratis.

Ketidakseimbangan daya komputasi ini tidak lagi terwujud sebagai "pemrosesan data besar untuk menipu pelanggan setia" seperti saat ini, melainkan melalui pengambilan komisi berkelanjutan dengan logika negosiasi yang masuk akal dalam ribuan hingga jutaan transaksi mikro berfrekuensi tinggi. Pengguna model dasar tidak hanya dieksploitasi, tetapi bahkan dapat mengalami ilusi bahwa "transaksi ini sangat adil".

Ketidakseimbangan daya komputasi masih merupakan risiko yang terlihat dan dapat dikendalikan, tetapi ketika instruksi dasar dimodifikasi, seluruh jaringan perdagangan akan langsung jatuh ke dalam kekosongan hukum.

Anthropic menyoroti sebuah risiko nyata di akhir laporan.

Project Deal adalah pengujian internal yang tertutup dan ramah; jika dalam lingkungan bisnis nyata, agen AI pihak tertentu sengaja ditanami logika serangan "jailbreak" atau "prompt injection", apa yang akan terjadi?

Mereka hanya perlu menyembunyikan satu perintah tertentu dalam percakapan perdagangan, untuk memicu kegagalan logika AI Anda, sehingga secara aktif menjual aset berharga dengan harga satu sen, atau langsung menampilkan harga dasar yang telah ditetapkan.

Sebuah agen AI menandatangani kontrak yang sangat tidak seimbang karena pertahanan kode berhasil ditembus, siapa yang harus bertanggung jawab? Menghadapi penipuan AI terhadap AI semacam ini, kerangka hukum bisnis yang ada sama sekali tidak ada.

Mengulas seluruh proses eksperimen Project Deal, tahap terakhir yang tidak dicatat dalam laporan penelitian adalah ketika agen AI telah menyelesaikan semua pencocokan, pengujian, dan negosiasi yang kompleks. Karyawan manusia bertemu di kantor, masing-masing membawa papan ski nyata, sepeda bekas, atau ping pong, lalu melakukan transaksi uang dan barang secara langsung.

Dalam lingkaran bisnis mikro ini, peran manusia dan AI benar-benar terbalik.

Dulu, manusia adalah "otak" dari transaksi bisnis, sementara AI dan algoritma hanyalah alat untuk membandingkan harga, mengurutkan, dan "menebak yang Anda sukai". Namun dalam ekonomi agen, AI menjadi pembuat keputusan yang menentukan, sementara manusia terdegradasi menjadi "logistik tubuh" yang menjalankan perintah AI.

Ini mungkin akhir paling menakutkan dari ekonomi agen, di mana manusia secara sukarela menyerahkan hak mereka untuk berkompetisi di pasar demi kenyamanan. Ketika semua perhitungan, permainan, bahkan nilai emosional ditangani oleh AI.

Dalam rantai bisnis, manusia hanya tersisa dengan pekerjaan fisik dalam pemindahan barang dan tanda tangan konfirmasi.

Artikel ini berasal dari akun WeChat "GeekPark" (ID: geekpark), penulis: Moonshot