Sudah tiba masanya untuk mengira Token anda seperti seorang penjual runcit tradisional.

Penulis artikel, sumber: 0x9999in1, ME News

TL;DR

• Di penghujung lompatan kuasa pengiraan datang bil yang gila-gilaan. Masa bulan madu subsidi raksasa telah berakhir secara rasmi, dan Token telah menjadi wang sah di era digital, dengan setiap titik kuasa pengiraan diberi harga yang mahal.
• Pembaziran berlaku di mana-mana dan sangat memalukan. Petua berlebihan, pembuangan sampah RAG (Retrieval-Augmented Generation) yang tidak terkawal, serta agen yang terperangkap dalam lingkaran setia, sedang menguras arus tunai perusahaan secara halus dan pantas.
• Pemulihan diri secara kejuruteraan yang ekstrem adalah mendesak. Cache semantik (Semantic Cache), pemampatan prompt (Prompt Compression), dan penjajaran model (Model Routing) bukan lagi kemewahan tambahan yang boleh diabaikan, tetapi tiga senjata utama yang menentukan hidup atau mati.
• Kerangka Agent terkini menunjukkan arah yang jelas. Agen-agen seperti OpenClaw dan Hermes sedang memperlihatkan "ekonomi Token" sejati melalui pengurusan konteks yang tepat dan output terstruktur dalam skenario dengan sumber daya komputasi terbatas, seperti peranti mudah alih.
• Solusi terakhir adalah kesedaran pemikiran ROI (return on investment). Tinggalkan penggunaan kasar, beralih kepada pengoperasian yang halus. Kenaikan harga pengiraan bukanlah akhir zaman industri, tetapi satu penyaringan kejam yang hanya meninggalkan pemain yang benar-benar menghormati kos.

Ilusi hancur: Apabila bilangan pengiraan menjadi tanda kematian

Angin telah berhenti.

Dalam dua tahun terakhir, kita hidup dalam ilusi yang dirancang dengan teliti oleh modal dan raksasa-raksasa. Dalam ilusi ini, kekuatan pengiraan seolah-olah air paip. Bila keran dibuka, model besar akan terus-menerus menghasilkan kata-kata yang indah, kod yang kompleks, dan jawapan yang kelihatan mengetahui segalanya.

Kita bersikap boros. Kita memaksa dokumen panjang beribu-ribu perkataan ke dalam Prompt tanpa ragu-ragu. Kita meminta model terkemuka dengan bilangan parameter berbilion untuk melaksanakan perkara kecil yang tidak masuk akal seperti “huruf pertama teks ini ditulis dengan huruf besar”.

Mengapa? Kerana murah. Kerana OpenAI, Anthropic dan lain-lain menggunakan dana pelabur untuk membayar untuk kita.

Tetapi sekarang, mimpi itu telah berakhir.

Kuasa pengiraan naik secara menyeluruh. Ini bukanlah kata-kata yang menakutkan, tetapi kenyataan sejuk yang sedang berlaku. Perjuangan untuk mendapatkan cip NVIDIA H100 telah berubah daripada persaingan perniagaan kepada permainan geopolitik. Penggunaan tenaga pusat data sedang mendekati had grid. Setiap panggilan API di belakangnya adalah pembakaran cip silikon dan jeritan menara pendingin.

Raksasa-raksasa tidak lagi melakukan kebajikan. Walaupun unit penagihan API masih tetap “1K Tokens” yang tidak signifikan, apabila skala perniagaan anda bermula berkembang dan jumlah panggilan harian anda melepasi jutaan, bahkan puluhan juta kali, nombor itu bukan lagi perkara kecil.

Itu adalah air terjun. Itu adalah mesin penghisap darah. Itu adalah mimpi buruk yang cukup membuat CFO syarikat rintisan mana sahaja terbangun pada waktu malam.

Token, unit atom paling asas di era model besar, secara rasmi setara dengan dolar AS dan yuan China. Satu perkataan bernilai seribu emas bukan lagi retorika berlebihan, tetapi laporan kewangan yang sebenar.

Selepas kenaikan harga pengiraan, bagaimana untuk menjimatkan Token?

Ini bukan hanya masalah teknikal yang rumit. Ini adalah soal hidup mati sama ada model perniagaan ini boleh berjaya.

Sudut tersembunyi: Bagaimana Token anda sebenarnya hilang?

Untuk menghentikan pendarahan, pertama-tama cari luka.

Banyak orang tidak memahami penggunaan Token. Mereka melihat bilangan bulanan yang melonjak tinggi, seolah-olah melihat teks ilahi yang tidak dapat dipahami. Sebenarnya, kehilangan Token sering berlaku di sudut-sudut tersembunyi yang paling tidak diperhatikan.

Do you speak politely to AI?

Hello, could you help me? Thank you so much, I need you to act as a senior marketing expert…

Stop. Henti.

Sebagai manusia, anda seorang gentleman. Tetapi dalam ekonomi token, anda seorang pemboros.

Model besar tidak memiliki emosi. Ia tidak memerlukan “tolong” dan “terima kasih” darimu. Ia tidak memerlukan perbicaraan sosial tanpa penambahan maklumat. Setiap perkataan, setiap tanda baca, bahkan setiap ruang, adalah Token. Semuanya dikenakan caj.

Yang lebih menakutkan ialah “percakapan sampah” yang dihasilkan oleh kerangka kerja. Banyak pembangun yang, semasa membina aplikasi, menggunakan petunjuk sistem (System Prompt) yang sangat panjang dan berlapis-lapis demi memastikan kestabilan output. “Anda mesti mematuhi sepuluh prinsip berikut…” “Jika anda tidak tahu, jawab ‘tidak tahu’, jangan membuat-buat…”

Adakah perkataan ini berguna? Ya. Tetapi jika setiap percakapan, setiap putaran interaksi berbilang, perlu mengira semula ribuan token ini, pembaziran yang terlibat adalah menakjubkan. Tetingkap konteks bukanlah almari simpanan percuma; ia adalah CBD Manhattan yang nilainya sangat tinggi.

RAG (Retrieval-Augmented Generation) dianggap sebagai peluru perak untuk menyelesaikan halusinasi model besar.

Namun, RAG dalam dunia nyata seringkali menjadi bencana.

RAG yang ideal: Mencari dengan tepat tiga ayat yang paling relevan, memberikannya kepada model, dan menghasilkan jawapan yang sempurna.

RAG yang realistik: Pengguna bertanya satu soalan, database vektor mengambil sepuluh dokumen PDF panjang sepuluh ribu perkataan yang mendapat peringkat tertinggi dan melemparkannya terus ke muka model.

“Cari jawapan sendiri.” fikir pengembang.

Ini bukan sekadar kemalasan. Ini adalah kejahatan terhadap daya pengiraan.

Maklumat latar belakang yang berlebihan tidak hanya mengganggu mekanisme perhatian model (menyebabkan fenomena “Lost in the Middle”), tetapi juga mengakibatkan penggunaan token yang sangat besar. Anda menganggap anda hanya bertanya satu soalan ringkas, tetapi sebenarnya anda memaksa model membaca separuh perpustakaan. Dan kos membaca ini, anda yang bayar.

Yang lebih mahal daripada RAG ialah Agen yang tidak terkawal.

Memberikan AI kemampuan perancangan, pemikiran, dan penggunaan alat adalah ilmu utama semasa ini. Mod ReAct (penalaran dan tindakan) membuat AI kelihatan seperti manusia yang bekerja.

Saya perlu semak cuaca hari ini.

Panggil API cuaca.

Pengambilan gagal.

Pemikiran: Gagal tadi, saya akan cuba sekali lagi.

Panggil API cuaca.

Adakah anda perhatikan? Jika API tiba-tiba gagal, atau logik Agent terperangkap dalam lingkaran seteru, ia akan berputar-putar tanpa henti dalam kitaran ini. Setiap putaran “pemikiran” dan “tindakan” akan menghabiskan Token output yang sangat mahal.

Harga Token output biasanya beberapa kali ganda lebih tinggi daripada harga Token input.

Sebuah agen yang tidak memiliki mekanisme pemutusan darurat dan batasan jumlah iterasi maksimum adalah lubang hitam yang memakan Token. Ia boleh menghabiskan kad kredit anda semasa anda tidur.

Menghilangkan racun dengan mengikis tulang: Panduan自救 teknikal yang ketat

Mengeluh tentang kenaikan harga adalah sia-sia. Pemerhati yang matang hanya melihat strategi penyelesaian.

Apabila pengumpulan kuasa pengiraan yang kasar menjadi sejarah, kemampuan kejuruteraan yang halus menjadi satu-satunya parit pertahanan. Bagaimana untuk menjimatkan? Tekan setiap nilai Token seperti memeras titisan air terakhir daripada tuala.

Ini adalah cara paling langsung dan paling berkesan untuk menjimatkan wang.

Hakikat manusia adalah mesin pengulang, soal pengguna sering kali sangat homogen. Soal seperti “Bagaimana untuk menetapkan semula kata laluan?” atau “Bagaimana untuk mengeluarkan invois?” mungkin ditanyakan berhampir ratusan hingga ribuan kali setiap hari.

Jika setiap kali anda memanggil GPT-4, itu seperti menembak nyamuk dengan meriam.

Perkenalkan cache semantik. Apabila pengguna mengemukakan soalan, ia pertama-tama ditukar kepada vektor untuk pencocokan kesamaan dalam bancian cache. Jika soalan serupa pernah ditanya sebelum ini (contohnya, “Bagaimana jika saya lupa kata laluan?”) dan tahap pencocokan sangat tinggi, jawapan dari cache akan dipulangkan secara langsung.

Tanpa menggunakan model besar. Tidak menghabiskan sebarang Token. Latensi diturunkan dari peringkat saat ke milisaat.

Ini bukan sekadar menjimatkan duit, ini adalah serangan penurunan dimensi terhadap pengalaman.

Since lengthy context is the original sin, compress them.

Ini bukan tentang anda menghapus perkataan secara manual, tetapi bergantung pada algoritma. Saat ini, pelbagai teknik pemampatan petunjuk berdasarkan entropi maklumat telah muncul dalam industri. Alat-alat ini mampu menganalisis teks panjang untuk menentukan perkataan mana yang penting untuk pemahaman makna oleh model besar, dan mana yang merupakan perkataan henti atau maklumat berlebihan yang boleh diabaikan.

Mereka boleh mengompres teks 1000 Token kepada 300 Token dengan mempertahankan makna utama secara tanpa kehilangan (atau kehilangan sedikit).

Biarkan mesin berkomunikasi dengan mesin. Gunakan “bahasa Mars” yang kelihatan canggung dan bahkan tidak bergrammar bagi manusia, untuk berdialog dengan model besar. Kerana mekanisme perhatian diri model besar cukup kuat, ia akan faham.

Anda menjimatkan 70% tol.

Ini adalah bahagian yang paling menguji kecekapan arkitek pada masa ini.

Jangan secara buta menyerahkan semua tugas kepada model yang paling mahal dan paling kuat. Jangan gunakan pedang besar untuk membunuh ayam.

Di dalam aplikasi AI yang cemerlang, seharusnya terdapat matriks kerjasama pelbagai model. Kita memerlukan “penyambung (Router)” untuk mengagihkan.

• Pengekstrakan entiti ringkas, penukaran format, terjemahan pelbagai bahasa? Teruskan ke model kecil open-source yang ditempatkan tempatan (seperti Llama 3 8B) atau API yang sangat murah (seperti Claude 3 Haiku). Kos hampir diabaikan.
• Perlu penarikan logik yang mendalam, penulisan kod yang kompleks, atau perancangan berbilang langkah? Gunakan senjata besar seperti GPT-4o atau Claude 3.5 Sonnet pada masa ini.

Seperti syarikat yang beroperasi dengan cekap. Pertanyaan yang boleh ditangani oleh resepsionis tidak perlu mengganggu CEO. Selepas kenaikan harga pengiraan secara menyeluruh, siapa yang boleh melaksanakan mekanisme penghalaan ini dengan lebih licin dan tepat, kos Token keseluruhan mereka boleh diturunkan hingga satu persepuluh daripada pesaing.

Penerokaan Terkini: Melihat "Ekonomi Token" Agens melalui OpenClaw dan Hermes

Puncak teknologi sejati sudah mencium bau darah kenaikan kuasa pengiraan.

Apabila kita memandang ekosistem Agent paling mutakhir semasa ini—terutamanya kerangka yang cuba memecahkan belenggu kuasa pengkomputeran awan dan bergerak ke arah sisi tepi dan peranti mudah alih—anda akan mendapati bahawa sebuah peperangan peningkatan maksimum terhadap Token telah bermula.

Mengapa saya perlu menekankan integrasi mudah alih? Kerana ini merupakan ujian terakhir untuk kecekapan Token.

Di peranti PC atau awan, anda mungkin masih boleh menoleransi beberapa saat kelewatan dan jendela konteks yang besar. Tetapi di peranti mudah alih, semasa menjalankan Agent dalam persekitaran peranti yang terhad sumber, lebar pita adalah batasan, memori adalah batasan, dan bateri juga adalah batasan.

Ini memaksa kerangka kerja untuk sangat hemat.

Mengamati perjalanan perkembangan OpenClaw, anda akan mendapati bahawa pengawasan terhadap penggunaan Token hampir mencapai tahap obsesif. Semasa menjalankan tugas yang kompleks, OpenClaw tidak menggunakan pendekatan penambahan konteks penuh yang kasar. Sebaliknya, ia sangat bergantung kepada pengoptimuman output berstruktur.

Ia mengetahui bahawa membiarkan model bergerak bebas akan menghasilkan aliran token yang tidak terkawal. Dengan memaksa model untuk menghasilkan output mengikut skema JSON yang ketat atau format yang lebih rendah yang mesra binari, OpenClaw secara besar-besaran mengurangkan karakter berlebihan dalam proses penghasilan. Ia tidak membiarkan AI “bercakap”, ia memaksa AI untuk “menyerahkan borang” secara langsung.

Kekangan ketat terhadap format output ini, walaupun kelihatan untuk memudahkan pemprosesan oleh program bawah, secara objektif telah melaksanakan operasi “penghematan data” yang cemerlang dalam keadaan kekurangan kuasa pengiraan sekarang.

Lihat semula model serangkaian Hermes yang dikeluarkan oleh Nous Research dan aplikasi berasaskan agennya.

Banyak model sumber terbuka mengalami banyak percubaan dan kesilapan semasa memanggil fungsi (Function Calling) kerana keupayaan pemahaman yang tidak mencukupi, yang menghabiskan banyak Token. Kelebihan Hermes terletak pada ketepatannya dalam mengikuti arahan (Instruction Following).

Kejituan bermaksud melakukan dengan betul pada percubaan pertama. Melakukan dengan betul pada percubaan pertama adalah penghematan terbesar.

Dalam interaksi berbilang putaran, semakin dalam perbincangan, tetingkap konteks akan semakin membesar seperti bola salji. Pemain canggih dalam ekosistem Hermes Agent telah meninggalkan pendekatan bodoh “menyimpan semua sejarah”.

Mereka memperkenalkan mekanisme ingatan dinamik.

• Ingatan kerja (Working Memory): Simpan hanya 3-5 perbualan terkini secara langsung, kekal lincah.
• Memori jangka panjang (Long-term Memory): Apabila melebihi had tetingkap, satu model latar belakang yang sangat ringan akan dipicu untuk meringkaskan perbualan sebelumnya kepada beberapa poin utama, kemudian disimpan ke dalam banci vektor.

Perbincangan lama telah dibuang, tetapi pengetahuan kekal.

Mereka bukan membuang sampah, tetapi melakukan pembedahan pemotongan dan jahitan memori. Pengurusan konteks yang halus ini tidak hanya memecahkan batasan fizikal panjang Token, tetapi juga mencapai penurunan tajam dalam kos pengiraan pada aras makro.

Samada struktur kawalan OpenClaw atau pengurusan ingatan dinamik Hermes, keduanya mengungkap satu trend: Agent masa depan tidak lagi dipertandingkan berdasarkan bilangan alat yang boleh dipanggil, tetapi siapa yang mampu menyelesaikan tugas paling kompleks di bawah anggaran Token yang ekstrem.

Ini adalah menari dengan belenggu. Dan yang menari paling baik akan memenangi era seterusnya.

Lompatan pemikiran: Dari pemikiran peringkat pengguna ke pemikiran peringkat pelaburan (Kesedaran ROI)

Lepaskan semua istilah teknikal, mari kembali kepada esensi perniagaan.

Kuasa pengiraan meningkat secara menyeluruh, membawa perubahan terbesar bukanlah memaksa jurutera bekerja lewat malam untuk mengubah kod. Ia membawa pembaruan paksa terhadap cara berfikir keseluruhan industri AI.

Pada era harga murah, kita memperlakukan Token dengan "pemikiran konsumen".

Seperti berbelanja di pasar raya, apabila melihat barangan diskaun, langsung masukkan ke troli. Kami tidak peduli sama ada fungsi ini benar-benar memerlukan model besar, kami hanya peduli “ia kelihatan sangat keren”.

Banyak perusahaan menghubungkan LLM ke sistem dalaman mereka secara sembarangan, memberikan akaun kepada setiap pekerja, bahkan menu kantin pun diminta AI hasilkan. Hasilnya, semasa bil akhir bulan keluar, mereka terkejut.

Sekarang, kita perlu beralih kepada “pemikiran peringkat pelaburan”.

Setiap penggunaan token adalah satu pelaburan. Dengan pelaburan, anda mesti mengira ROI (pulangan pelaburan).

Token ini telah digunakan, apakah ia membawa apa-apa kepada saya?

Adakah kadar penutupan tiket sokongan pelanggan ditingkatkan?

Adakah masa pembaikan Bug oleh pengatur cara dipendekkan?

Atau hanya mendapat respons tanpa makna dari pengguna, "Haha, AI ni lucu juga"?

Jika satu fungsi, apabila menggunakan enjin peraturan atau pembelajaran mesin tradisional, hanya memerlukan kos sebanyak 10 sen, tetapi pengintegrasian model besar memerlukan bayaran Token sebanyak 1 ringgit, tetapi peningkatan kadar pertukaran yang dihasilkan hanyalah 2% yang tidak signifikan.

Kalau begitu, potong ia. Potong ia tanpa ragu-ragu.

Tidak lagi mengejar slogan AI yang "besar dan lengkap", tetapi beralih kepada serangan tepat yang "kecil dan indah". Penyusunan semula proses perniagaan mesti dibina atas asas yang sangat peka terhadap kos pengiraan.

Kita perlu belajar untuk berkata “tidak” kepada jabatan perniagaan. Apabila mereka meminta, “Bolehkah AI baca kesemua 100,000 laporan penyelidikan ini dan berikan saya ringkasan?”, anda harus bertanya balik: “Keuntungan perniagaan anda mencukupi untuk menutupi kos API berjuta-juta Token ini?”

Hitung belanja. Berjimat cermat. Hitung Token anda seperti seorang tuan toko runcit tradisional.

Ini kedengarannya tidak sama sekali cyberpunk. Ini sangat kuno.

Tetapi ini justru merupakan jalan yang perlu dilalui oleh AI untuk menjadi matang.

Penutup: Pemandangan selepas air surut

Kegembiraan di puncak tren selalu sementara, hukum graviti perniagaan akhirnya akan berkesan.

Kenaikan menyeluruh terhadap kuasa pengiraan, lebih tepat disebut sebagai satu penyucian yang tertunda daripada satu krisis. Ia dengan kasar menembus gelembung yang diciptakan oleh subsidi tanpa had, dan membawa semua orang kembali ke realiti yang sejuk.

Tetapi ini bukan perkara buruk.

Ia memaksa kita meninggalkan kepercayaan buta terhadap “kekuatan besar menghasilkan keajaiban”, dan mengembalikan rasa hormat terhadap kecekapan kejuruteraan. Ia menyingkirkan para pemain “berpura-pura” yang hanya mampu menulis beberapa Prompt dan berkeliling membohongi orang, serta meninggalkan pentas kepada pasukan keras yang benar-benar memahami arsitektur dasar, penghalaan model, dan cara memaksimakan daya pemprosesan di peranti mudah alih.

Apabila semuanya telah tenang, perusahaan yang masih bertahan dan berjaya bukanlah yang memegang model paling mahal.

Tetapi mereka yang tetap tenang melihat nombor Token yang bergerak pantas di panel pemantau, yakin bahawa mereka mendapat lebih banyak daripada yang dibelanjakan.

Setelah semua air surut, barulah kita tahu siapa yang berenang tanpa pakaian. Dan kali ini, air yang surut adalah pasang keuntungan kekuatan pengiraan.

Hanya mereka yang memperlakukan setiap titik Token seperti emas untuk ditempa yang boleh memakai zirah sejati.

Sumber rujukan:

1. Nvidia Corporation. (2025). Data Center Compute Constraints and Global Supply Chain Outlook. Investor Relations Report.
2. Anthropic. (2025). Pengurusan Cache dan Ekonomi Tetingkap Konteks dalam Agen Terurus Claude. Dokumentasi API Anthropic.
3. OpenAI. (2025). Praktik Terbaik untuk Pemilihan Token dan Pelaksanaan RAG. Platform Pembangun OpenAI.
4. Nous Research. (2025). Hermes Agent Framework: Pengurusan Konteks yang Cekap untuk Komputasi Tepi. Blog Teknikal Nous Research.
5. Komuniti OpenClaw. (2026). Integrasi Mudah Alih dan Strategi Token Sifar Sisa dalam Aliran Kerja Agens Dalam. Repositori GitHub / Whitepaper Teknikal.
6. Bloomberg. (2026). The End of the AI Subsidy Era: How Datacenter Energy Caps are Restructuring Cloud Pricing. Bloomberg Technology.