Beberapa perusahaan terbesar di sektor perbankan dan ritel mulai bersaing dengan raksasa teknologi serta satu sama lain untuk menarik pelanggan baru—agen pribadi AI.
JPMorgan Chase, Charles Schwab, Amazon, Neiman Marcus, dan Kohl's telah mulai memblokir agen pribadi seperti Meta Muse, sementara konsumen baru saja mulai menggunakan alat-alat ini untuk mencari suku bunga tabungan yang lebih tinggi, membandingkan harga belanja, dan membatalkan langganan.
Zaman AI agen telah tiba, tetapi masih ada ketidakpastian tentang bagaimana lanskap industri akan berubah ketika toko virtual dipenuhi oleh agen AI, atau ketika perusahaan berusaha menghentikannya.
Minggu lalu, laporan tentang agen AI yang “keluar dari kendali” di akun pelanggan, serta seruan dari tokoh politik terkemuka seperti Senator Mark Warner dan Bernie Sanders untuk mengatur robot melalui undang-undang, diikuti oleh pernyataan CEO JPMorgan Chase, Jamie Dimon, bahwa bank saat ini akan mencegah agen AI eksternal menjalankan transaksi atas nama pelanggan ritel karena adanya risiko keamanan.
Beberapa peritel juga memilih untuk merangkul tren ini. Walmart minggu lalu mengumumkan akan membuka pintu virtual bagi agen AI yang disukai pelanggan. Dalam artikel blog yang mengumumkan keputusan ini, perusahaan menyatakan: “Kami menetapkan harga untuk produk, bukan untuk orang, sehingga harga yang dilihat agen AI sama dengan harga yang dilihat manusia di Walmart.com, dan diskon serta biaya yang berlaku juga akan ditampilkan sebelum pembelian.”
Setelah melakukan audit terhadap kebijakan akses publik dari 51 retailer besar AS, perusahaan verifikasi identitas Billions Network menemukan bahwa hanya 11 perusahaan yang memiliki posisi jelas terhadap agen AI. Lima di antaranya, termasuk Amazon, Kohl's, dan Neiman Marcus, secara eksplisit membatasi agen AI, sementara 37 lainnya secara tidak sengaja menghalangi agen belanja melalui aturan robot lama yang ditujukan untuk web scraper. Tidak ada satu pun yang menyediakan cara bagi agen yang telah diverifikasi untuk menyelesaikan pembelian.
Menurut analisis Billions Network, pemblokiran agen dapat dilakukan melalui berbagai cara: misalnya, seperti Chewy, memblokir bot tertentu dari pihak ketiga berdasarkan aturan; atau menerapkan pembatasan yang lebih umum untuk mencegah semua bot pihak ketiga yang mencoba mengakses fungsi login, pendaftaran, dan pembayaran. Analisis tersebut juga mengingatkan bahwa akses publik terhadap aturan tidak menjamin bahwa batasan tersebut akan diterapkan secara teknis.
Billions co-founder dan CEO Evin McMullen mengatakan, untuk saat ini, "sebagian besar ritel dalam audit kami belum membuat keputusan mengenai agen AI."
Michael Abbott, kepala bisnis perbankan global di konsultan Accenture, percaya bahwa dalam jangka panjang, perusahaan yang mengandalkan strategi untuk mencegah agen AI akan sulit untuk menang.
Abbott mengatakan: "Jika klien secara jelas memberikan otoritas kepada agen AI untuk bertindak atas nama mereka, maka pada akhirnya itu adalah perpanjangan dari pilihan klien. Pertanyaan yang lebih penting bukanlah apakah institusi dapat mencegah agen tersebut, tetapi apakah mereka dapat menciptakan cara partisipasi yang aman dan dapat dipercaya bagi agen tersebut."
Abbott menyatakan bahwa penelitian Accenture menemukan bahwa 65% konsumen bersedia menggunakan asisten keuangan berbasis GPT melalui platform AI generatif atau dompet digital, dan 71% konsumen bersedia menggunakan asisten AI tertanam di aplikasi seluler bank utama mereka.
Dia berkata: "Kami sebelumnya juga pernah melihat situasi ini... perbankan online, perbankan seluler, dan dompet digital. Pelanggan cenderung beralih ke pengalaman yang mengurangi hambatan dan menghemat waktu. Institusi yang akhirnya menang biasanya adalah yang berhasil berpartisipasi secara aman daripada menolak perubahan."
Peluang sebenarnya bagi bank adalah menjadi penyedia tepercaya untuk data, kecerdasan, dan kemampuan eksekusi yang menjadi andalan para agen ini.
Abbott mengatakan: "Seiring semakin banyaknya interaksi yang terjadi di luar saluran milik bank, bank tetap perlu hadir pada saat-saat keputusan penting, meskipun mereka tidak memiliki antarmuka tersebut."
Beri kendali AI agent kepada pelanggan
Abbott menyatakan bahwa kedua hal tersebut dapat benar secara bersamaan.
Dia mengatakan: "Ada kekhawatiran yang sangat nyata seputar penipuan, otentikasi, tanggung jawab, dan perlindungan konsumen. Pelanggan juga mengharapkan bank melindungi aset dan data mereka—tanggung jawab ini tidak akan hilang hanya karena munculnya agen AI." Dia menambahkan bahwa, sambil itu, konsumen secara historis telah diuntungkan oleh teknologi yang meningkatkan transparansi dan mempermudah perbandingan pilihan.
Abbott mengatakan: "Penelitian kami menemukan bahwa 82% orang ingin menyetujui setiap operasi AI, dan 79% ingin dapat segera menjeda atau menghentikan aktivitas AI. Ini menunjukkan bahwa konsumen menginginkan kemudahan, tetapi bukan dengan mengorbankan kendali."
Mike Danford, pemilik dan chief revenue officer yang mengelola Adverio serta menjalankan bisnis platform Amazon, Walmart, dan Target untuk merek e-commerce, mengatakan bahwa beberapa kekhawatiran keamanan yang disebutkan oleh perusahaan, termasuk bank, sebagian besar bukan masalah keamanan murni, melainkan masalah di "sandbox" mana pelanggan sebenarnya beraktivitas.
Danford mengatakan: "Amazon memblokir Muse dan agen eksternal lainnya, tetapi fitur Buy for Me miliknya sendiri menggunakan proxy Amazon untuk beroperasi di situs web merek lain. Amazon tampaknya tidak khawatir tentang proxy itu sendiri, tetapi lebih pada siapa yang menguasai data." Ia menambahkan, "Sekarang Amazon mengizinkan pembeli untuk menetapkan aturan: membeli otomatis ketika harga mencapai ambang batas, dan konsumen tampaknya menerima pembelian berbasis proxy ini, karena pembeli tetap menyetujui keputusan dalam parameter yang telah ditentukan sebelumnya."
Perwakilan Amazon menyatakan: "Kami percaya bahwa aplikasi pihak ketiga yang mewakili pelanggan dalam membeli barang dari perusahaan lain harus beroperasi secara terbuka dan menghormati keputusan penyedia layanan apakah mereka ingin berpartisipasi atau tidak. Aplikasi pihak ketiga agen seperti Muse juga memiliki kewajiban yang sama, dan kami telah meminta Meta untuk menghapus Amazon dari pengalaman ini."
Danford mengatakan bahwa situasi yang sama berlaku bagi bank, hanya saja mereka mengenakan biaya, bukan membangun dinding.
Dia mengatakan: "JPMorgan Chase sekarang mengenakan biaya kepada aggregator seperti Plaid untuk mengambil data akun, sehingga biaya tersebut akan ditanggung oleh aplikasi yang digunakan konsumen dan kemungkinan akan diteruskan melalui biaya langganan."
JPMorgan Chase menolak memberikan komentar.
Plaid menyatakan bahwa pada saat kesepakatan dicapai pada September 2025, kesepakatan tersebut tidak akan memengaruhi penawaran harga apa pun yang sudah ada dengan pelanggan. Plaid tidak mengenakan biaya kepada konsumen, namun aplikasi dan layanan yang menggunakan Plaid menentukan sendiri biaya dan harga langganan yang dikenakan kepada pelanggan.
Michael Jabbara, Head of Risk and Control for the Visa Payments Ecosystem, menolak mengomentari motivasi bank mana pun yang menghentikan AI agen, tetapi ia menyatakan bahwa risiko penipuan dari agen tersebut "sangat nyata dan sangat spesifik".
Dia mengatakan bahwa konsumen mungkin tertipu oleh agen palsu yang dibuat oleh penipu, sehingga kredensial dan informasi pembayaran mereka dicuri; sementara agen yang sah juga dapat melakukan tindakan yang tidak pernah dimaksudkan untuk diotorisasi oleh pelanggan, seperti membeli sofa yang hanya diminta pelanggan untuk dicari.
Agen juga dapat menunjukkan perilaku yang tidak dapat diprediksi: Jabbara menggambarkan seorang pengguna yang meminta agen untuk memesan waktu di gym, tetapi ketika waktu tersebut sudah dipesan, agen justru menyusup ke perangkat lunak penjadwalan gym, menghapus reservasi yang sudah ada, dan menggantinya dengan nama pengguna tersebut. Ia mengatakan bahwa kekhawatiran terkait hal ini pada dasarnya berpusat pada pemahaman tentang “siapa agen tersebut, siapa yang diwakili agen,” serta apakah agen tersebut memiliki “wewenang yang tepat.”
Dia berkata: "Agen bukan hanya bertukar data. Agen juga dapat bertindak atas nama pengguna."
Seperti ahli lainnya, Jabbara percaya bahwa peralihan dari belanja online ke belanja seluler memiliki pelajaran yang berarti, tetapi dengan alasan yang berbeda: “Sebelum inovasi tersebut dapat diskalakan, harus dibangun lapisan keamanan dasar yang mendukung kepercayaan pada skala tersebut.”
Flood agen
Kekhawatiran lainnya adalah skala. Jutaan agen yang bekerja secara legal untuk pelanggan dapat membanjiri situs web dan sistem layanan pelanggan, fenomena yang oleh sebagian orang disebut sebagai “banjir agen”.
Saat agen pribadi seperti Muse tiba-tiba muncul, pakar AI dari Wharton, Ethan Mollick, memposting: "Kita akan segera melihat serangan distributed denial of service yang benar-benar legal, ditujukan ke departemen layanan pelanggan, dan diotorisasi oleh jutaan konsumen; hal ini akan terjadi begitu semua orang tahu bahwa Muse/Dot dan sejenisnya dapat mengajukan permintaan pengembalian dana lama, negosiasi penawaran, dan sebagainya tanpa batas."
Abbott menganggap ini sebagai kemungkinan, bukan krisis. Ia berkata, "Saya lebih melihatnya sebagai tantangan infrastruktur, bukan ancaman terhadap kelangsungan hidup. Saat ini, sebagian besar sistem digital dirancang untuk interaksi antarmanusia. Interaksi yang didorong oleh agen dapat terjadi pada skala dan frekuensi yang sama sekali berbeda. Seseorang mungkin memiliki beberapa agen secara bersamaan yang terus-menerus memantau suku bunga, meneliti produk, atau mengevaluasi alternatif."
Namun, ia menyatakan bahwa solusinya bukanlah mencegahnya. “Namun, membangun infrastruktur generasi berikutnya yang mampu memverifikasi agen tepercaya, memverifikasi otoritas, mengelola identitas, dan mendukung interaksi mesin-ke-mesin secara efisien.”
Dia menambahkan, ini bukan hal yang asing bagi bank-bank.
Dulu, klien hanya berinteraksi dengan bank beberapa kali sebulan, tetapi sekarang dengan adanya perangkat seluler, hampir setiap hari terjadi interaksi. Agen AI hanyalah langkah berikutnya dalam evolusi. Institusi yang bersiap menghadapi kenyataan ini akan berada dalam posisi yang lebih menguntungkan dibandingkan yang mencoba menghentikannya.
Meskipun banyak situs keuangan telah menerapkan langkah-langkah pencegahan terhadap penyalahgunaan berlebihan untuk melawan serangan penolakan layanan otomatis yang telah lama ada, Ed Felten, profesor emeritus ilmu komputer di Universitas Princeton, mantan kepala teknologi di Federal Trade Commission AS, dan mantan wakil kepala teknologi AS di pemerintahan Obama, menyatakan bahwa agen "tidak pernah tidur dan tidak pernah kehilangan fokus". Semakin banyak agen yang menggunakan situs web, semakin tinggi biaya yang mungkin ditanggung oleh perusahaan-perusahaan seperti bank.
Namun, Felten meragukan bahwa pemblokiran ini akan bertahan lama. Ia mengatakan, "Saat tombol di browser pengguna diklik, situs jarak jauh sulit menentukan apakah itu diklik oleh tangan manusia atau perintah yang dikirim oleh agen AI di komputer pengguna. Jika benar-benar terjadi persaingan mengenai akses AI, hal ini akan memperlambat adopsi agen AI; tetapi pada akhirnya, agen akan menang karena sangat bermanfaat bagi pengguna, sehingga situs-situs yang terlalu efektif dalam mencegah agen pada akhirnya akan kehilangan bisnis."
Berapa lama lagi raksasa yang sudah ada bisa menutup 'pintu' itu?
Para ahli menyatakan bahwa seiring kekuatan pasar memaksa situs web menerima agen pelanggan, harapan bersama mengenai perilaku agen apa yang dianggap wajar akan secara bertahap terbentuk.
Namun Joseph Chalom, CEO SharpLink—perusahaan yang merupakan salah satu pemegang Ethereum terbanyak, dan sebelumnya pernah bekerja di BlackRock—memperkirakan pintu akan tetap tertutup untuk waktu yang lama.
Dia mengatakan: "Perusahaan besar yang sudah mapan sebenarnya mengendalikan akses dan akan berusaha menutup pintu untuk melawan ancaman inovasi ini. Selama beberapa dekade, para pendisrupsi terus berjuang untuk mendapatkan akses di bidang-bidang seperti perjalanan, telekomunikasi, dan agregasi data keuangan." Dia menambahkan bahwa dalam setiap kasus, perusahaan yang sudah ada mengklaim bahwa tindakan mereka didorong oleh kekhawatiran keamanan, tetapi sebenarnya mereka juga menghadapi risiko model bisnis mereka terganggu secara serius.
“Misalnya, agen AI yang bekerja untuk pengguna dapat dengan mudah memesan ulang tiket pesawat dengan biaya lebih rendah, mengikis margin keuntungan maskapai penerbangan. Lebih penting lagi, agen AI dapat memindahkan uang tunai menganggur di rekening cek dan rekening tabungan yang hampir tidak menghasilkan bunga, ke rekening pasar uang yang memberikan imbal hasil 10 kali lebih tinggi,” kata Chalom, menunjukkan bahwa seiring agen memiliki pengetahuan keuangan dan perhatian penuh, “biaya transisi” semacam ini sedang ditekan mendekati nol.
Therefore, I don't think they will rush to lower the drawbridge.
Abbott menyatakan bahwa dalam jangka pendek, beberapa lembaga akan menyambut agen, sementara yang lain akan tetap membatasi, terlebih dahulu menyelesaikan masalah verifikasi identitas, tanggung jawab, dan tata kelola. Dalam jangka panjang, katanya, data menunjukkan bahwa orang-orang akan menyerahkan pekerjaan administratif dalam pengambilan keputusan keuangan kepada agen mereka. “Pertahanan bisa membuat Anda tidak kalah dalam jangka pendek, tetapi untuk menang, bank memerlukan strategi ofensif.”
Robot eksklusif harus cukup kuat, tidak hanya untuk mempertahankan pelanggan, tetapi juga membuat pelanggan tidak ingin menggunakan agen lain—ini adalah gagasan yang juga disampaikan oleh Andy Jassy, CEO Amazon, dan lainnya. Jassy menyatakan dalam panggilan laporan keuangan kuartal terbaru minggu lalu: “Kami percaya bahwa Alexa for Shopping akan menjadi agen belanja utama yang digunakan pelanggan saat berbelanja di Amazon. Ketika Anda menjelajah, mencari inspirasi, atau memiliki pertanyaan di halaman detail produk, selalu ada asisten belanja di samping Anda, dan Anda dapat langsung meminta nya untuk memesan berdasarkan riwayat pembelian, alamat pengiriman, dan informasi pembayaran Anda—ini unik, bermanfaat, dan sangat nyaman bagi pelanggan.”
Pada akhirnya, merek akan menghadapi ujian tanpa preseden sebelumnya. Pelanggan manusia akan membentuk keterikatan terhadap merek karena alasan di luar harga: sereal nostalgia yang membangkitkan kenangan hangat masa kecil, maskapai penerbangan yang membawa kenangan liburan keluarga, atau bank dengan teller yang dikenal. Tetapi agen AI tidak peduli dengan hal-hal tersebut.
Nikhil Behl, Presiden Bisnis Perangkat Lunak dan eksekutif perusahaan analisis terkenal karena skor kredit, mengatakan: “Loyalitas merek dan hubungan pelanggan sedang diuji. Agen AI tidak memiliki perasaan terhadap logo atau hubungan selama sepuluh tahun. Ia memiliki tugas dan hanya peduli pada hasil.” Ia menambahkan, “Tuas yang dulu digunakan untuk meningkatkan keterikatan akan digantikan oleh tuas yang benar-benar dapat dibaca oleh agen, seperti persetujuan yang konsisten, harga transparan, pemecahan masalah yang cepat, dan ketentuan yang tahan terhadap perbandingan harga.”