Permulaan AI Silicon Valley berubah seiring pemodelan perbelanjaan dan pengurusan token berkembang

Jurutera AI dari Silicon Valley, Ma Peiyuan, berdasarkan pemerhatian selama lebih dari empat tahun dalam industri ini, mengemukakan sepuluh perubahan ketara semasa ini: rekrutmen bakat berpindah dari pakar khusus kepada ahli serba boleh; kemampuan menggunakan alat AI boleh melampaui pengalaman kerjaya; struktur organisasi menjadi lebih rata, di mana pengurus perlu memiliki kemampuan teknikal, dan peranan people manager sedang hilang; penggunaan token berpindah dari pengejaran kuantiti secara buta kepada fokus pada kecekapan, dengan syarikat besar mula menghitung semula kos; pemujaan terhadap model dirobohkan, dan Silicon Valley kini sedang mempopularkan penggabungan dan pengurusan pelbagai model yang murah dan terkemuka; infrastruktur AI baharu sedang muncul, dan agen AI vertikal masih mempunyai nilai pelaburan kerana mampu menyelesaikan masalah nyata yang “tidak boleh dilatih”. Ma Peiyuan menekankan bahawa dalam bidang AI, satu tahun adalah tempoh yang panjang, dan kebanyakan penilaian mungkin telah dirobohkan dalam masa sebulan.

Penulis artikel, sumber: 36kr

Semua konsensus sedang kedaluwarsa dengan cepat

Semua orang sedang cuba membina penilaian mengenai AI, tetapi semua konsensus dengan cepat menjadi usang.

Wawancara | Ba Rui, Angin Laut

Oleh | Hai Feng, Liu Sijie

Sunting | Liu Sijie

Sumber gambar sampul | Diambil oleh peserta temu bual

Tahap pertumbuhan liar telah berakhir.

Ini adalah perasaan paling mendalam yang dirasakan oleh Ma Peiyuan baru-baru ini, yang berada di garis depan perusahaan berasaskan AI di Silicon Valley.

Pada Disember 2021, selepas tamat pengajian sarjana muda, beliau menyertai Quora, yang digelar "Quora versi Amerika", kemudian berpindah ke platform pengumpulan chatbot AI Poe, sebagai Jurutera AI Kanani. Dua bulan yang lalu, beliau menyertai syarikat rintisan AI Agent paling popular di Silicon Valley, Cognition.

Pada Mei 2026, syarikat yang baru beroperasi kurang dari tiga tahun itu mengumumkan penyelesaian pendanaan melebihi US$10 bilion, dengan nilai pasaran meningkat kepada US$26 bilion. Lapan bulan yang lalu, nilai pasarannya ialah US$10.2 bilion.

Selain sebagai jurutera, Ma Peiyuan mempunyai identiti lain—pencari pelaburan (Venture Scout). Beliau mencari projek perniagaan AI yang layak untuk dilaburkan atas nama institusi pelaburan, dengan kuota pelaburan sebanyak USD500,000 setiap tahun.

Dalam lebih dari empat tahun selepas graduan, kelihatan bahawa dia sentiasa bertindak lebih awal daripada konsensus industri AI. Sebelum seorang pun menjelaskan definisi perkataan “agent”, pasukannya telah secara rahsia memulakan projek tersebut. Ketika Anthropic masih tidak dikenali, mereka telah menjadi pengguna mendalam pertama Claude. Dia adalah jurutera AI bersijil pertama di pasukan, jurutera AI agent pertama, dan kemudian berjaya “mengubah cara berfikir” seluruh pasukan kejuruteraan menjadi pasukan AI Native yang menggunakan AI untuk pemrograman.

Pengesahan paling menarik terhadap kesedaran dan tindakan yang proaktif ini berlaku dua minggu lalu, apabila beliau secara tidak sengaja menyatakan “people manager sedang punah” semasa berbincang dengan “Future Humans Lab”, dan tidak lama kemudian berita tentang Tencent dan ByteDance membatalkan peranan pertengahan mengukuhkan perkataannya.

Perubahan berlaku terlalu cepat, di Silicon Valley, anda perlu sentiasa hidup bersama perubahan.

Dalam tempoh dua minggu antara dua temu bual dalam artikel ini, Ma Peiyuan mendapati logik yang pernah dibincangkannya mengenai “mengikuti model paling mahal dan paling mutakhir” di Silicon Valley sudah tidak lagi berkesan. Pendekatan semasa yang popular di Silicon Valley ialah menggabungkan dan menguruskan beberapa model yang murah bersama model terkemuka.

Bercakap dengan Ma Peiyuan selama hampir lima jam, kami mendapati bahawa hampir keseluruhan masa dia terus menyangkal pandangan dirinya semalam, begitu juga dengan Silicon Valley. "Saya tidak boleh katakan semuanya, tetapi mungkin lebih daripada 60%. Sebulan kemudian, mungkin ia akan berlawanan."

Dalam beberapa tahun terakhir, AI hampir menulis semula semua peraturan lama di Silicon Valley: siapa yang lebih mudah menonjol, organisasi macam apa yang lebih kompetitif, dan wang macam apa yang dibelanjakan dengan berkesan.

Tentu, penilaian terhadap apa yang disebut "jawapan yang betul" juga dengan cepat menjadi tidak berkesan. Di bidang AI, satu tahun sudah merupakan tempoh yang panjang, dan banyak penilaian mungkin dibatalkan dalam masa sebulan.

Berikut adalah 10 pemerhatian AI di Silicon Valley yang sangat semasa menurut Ma Peiyuan:

Ma Peiyuan

Gambaran kerjaya Ma Peiyuan sangat sepadan dengan profil bakat yang paling disukai oleh syarikat AI di Silicon Valley. Beliau bukan latar belakang komputer tradisional, tidak memenangi pingat emas pertandingan, tidak memiliki cahaya universiti terkemuka, bahkan pernah tidak berminat sama sekali terhadap komputer, tetapi dalam empat tahun terakhir, beliau berjalan dari kumpulan iklan Quora hingga menjadi jurutera AI di Cognition, dengan riwayat kerjaya yang memenuhi setiap kata kunci yang paling diingini oleh syarikat AI di Silicon Valley saat ini. Pengalaman beliau bukan sahaja sejarah pertumbuhan peribadi, tetapi juga contoh perubahan standard rekrutmen industri.

Pemerhatian 1: Generalis mengalahkan spesialis

Gambaran bakat paling dicari di Silicon Valley bukanlah pakar yang paling mendalam dalam satu bidang, tetapi orang yang “semua aspeknya mencukupi, tanpa kelemahan jelas” — industri menyebutnya polyglot talent, atau lebih mudah dipahami sebagai “pejuang enam sisi”.

Pada tahun 2024, Poe memulakan sebuah projek “agent” yang pada masa itu belum ada definisi yang jelas; alasan pasukan memilih saya, seorang baru, sangat langsung: “saya pernah buat AI, juga pengembangan penuh dan iOS.” Pada masa itu, kebanyakan ahli pasukan lain berasal dari latar belakang pembelajaran mesin tradisional, carian, iklan, dan rekomendasi—mereka tidak memahami kod前端, tetapi agent justru memerlukan seseorang yang boleh menulis antaramuka前端. Selepas orang yang sebelumnya bertanggungjawab atas kejuruteraan prompt AI di syarikat tersebut berhenti, tiada siapa lagi yang boleh mengisi kekosongan ini; dengan itu, saya pun mengambil alih—saya melakukan kejuruteraan prompt untuk agent ini, serta menulis kod antaramuka-nya pula.

Kemampuan gabungan “tahu sedikit-sedikit” ini kemudian menjadi modal paling berharga saya semasa mencari pekerjaan. Jika anda memberi saya bidang baru apa sahaja, saya boleh belajar hampir semuanya dalam masa dua minggu. Dan inilah jenis orang yang dibutuhkan oleh syarikat permulaan pada awalnya.

Pemerhatian 2: Kemahiran asli AI boleh mengalahkan pengalaman bertahun-tahun dalam tempoh yang singkat

Kemampuan menggunakan alat AI boleh secara langsung mengalahkan kelayakan yang dibina semata-mata berdasarkan tahun pengalaman.

Ketika saya berpindah dari kumpulan iklan Quora ke kumpulan iOS, alasan saya ialah “ingin keluar dari zon selesa”, tetapi pada masa itu saya tidak tahu apa-apa tentang iOS, benar-benar “tiada pengalaman”. Saya tidak memilih untuk belajar perlahan-lahan, tetapi menjadikan GPT-4 sebagai rakan saya. Orang-orang di sekeliling saya adalah jurutera iOS yang sangat berpengalaman, dan mungkin mereka tidak percaya pada AI. Saya tidak boleh menulis kod iOS atau kod Swift, jadi saya terus meminta AI membantu saya menulis kod.

Hasilnya, saya yang baru masuk industri selama tiga hingga empat bulan mampu mencapai kecepatan output yang sejajar bahkan melebihi jurutera berpengalaman di sekeliling saya, dan dalam dua tahun sudah mencapai jawatan senior. Dalam sistem promosi tradisional, kecepatan ini hampir mustahil. Sebelum ini, di Facebook mungkin memerlukan sekurang-kurangnya 4 hingga 6 tahun sebelum anda menjadi jurutera senior. Di Google, ada yang mungkin tidak pernah naik ke pangkat jurutera senior seumur hidup mereka.

Saya pernah bertemu seorang pemeriksa temu janji berusia 19 tahun di Cognition. Pada mulanya, saya agak kecewa, seorang yang berusia 26 tahun “dipertanyakan” oleh seseorang yang berusia 19 tahun, dan saya tidak mampu menjawab banyak soalan. Kemudian, saya sedar bahawa ini justru merupakan petanda bahawa syarikat ini benar-benar mampu menarik bakat tanpa memandang latar belakang, dan usia bukan lagi ukuran penilaian bakat di Silicon Valley.

Pemerhatian 3: Kriteria perekrutan ditulis semula sepenuhnya, syarikat AI tidak menggunakan templat yang sama untuk temu bual

Sebelum saya meninggalkan Quora, saya telah mengikuti temu janji dengan hampir 20 syarikat, dan jika termasuk yang telah saya hubungi melalui telefon, jumlahnya antara 30 hingga 40 syarikat. Pada puncaknya, saya didekati oleh lebih daripada 30 pengumpul tenaga kerja dalam seminggu.

Setelah menghadiri temu janji dengan begitu banyak syarikat, saya sedar bahawa syarikat AI semasa ini tidak mempunyai templat temu janji yang seragam.

Tetapi terdapat beberapa perubahan yang jelas, kepentingan soalan algoritma gaya LeetCode sedang menurun, dan jawapan terbaik mengenai reka bentuk sistem AI berubah setiap bulan.

Struktur temu ramah juga berubah. Ujian bertulis dalam talian + work trial menjadi kombinasi baharu. Work trial ialah "tempoh percubaan" temu ramah yang sangat singkat. Ada yang 3 jam, ada yang 5 jam, paling lama hanya sehari atau dua. Dalam satu temu ramah yang saya alami, saya diberi repositori kod terus, dan diminta menggunakan sebarang alat, termasuk AI, untuk menyelesaikan masalah sebenar. Selepas selesai, saya perlu memaparkan pendekatan dan hasil saya. Keseluruhan proses ini sudah sangat mendekati kerja sebenar.

Yang lebih menarik, penilaian terhadap penggunaan AI sendiri dibahagikan kepada dua mod. Sesetengah pusingan memerlukan penggunaan AI secara wajib, untuk melihat bagaimana anda “by code”; tetapi ada juga pusingan yang secara jelas melarang penggunaan AI, seperti dalam debug, yang menguji sama ada anda mampu mengesan ralat tanpa bantuan AI, pada dasarnya menguji tahap dan selera kejuruteraan perisian peribadi anda.

Temu bual itu sendiri juga pelbagai. Sebagai contoh, ada syarikat yang meminta saya melakukan analisis perniagaan untuk menentukan industri mana yang sepatutnya mereka ambil alih.

Borang temu bual tingkah laku juga berubah. Ia bukan lagi soalan tradisional seperti “kelemahan dan kekuatan terbesar anda” atau “bagaimana menyelesaikan konflik dengan rakan sekerja”, tetapi melihat garis masa yang lebih panjang untuk memerhati perjalanan pertumbuhan seseorang, dari sekolah menengah hingga universiti, dari latihan hingga pekerjaan, dan terus mengikuti jejaknya untuk melihat “kemiringan hidup” anda, serta menilai sama ada anda adalah seseorang yang mampu tumbuh secara eksponen.

Salah satu kebaikan tak terduga yang datang dari tiada jawapan standard ialah: tiada siapa pun boleh mendapat tawaran kerja hanya dengan menghafal soalan. Bahkan rakan sekerja saya di Cognition secara terus terang berkata: “Jangan bersiap-siap, saya rasa tiada apa yang perlu disiapkan.”

Di Silicon Valley, orang-orang terbaik tidak pernah menjadi milik satu perusahaan tertentu, tetapi hanya menjadi milik "perusahaan terbaik di era tersebut". Dua puluh tahun lalu adalah Google, sepuluh tahun lalu adalah Uber dan Robinhood, lima tahun lalu adalah Coinbase, sekarang adalah perusahaan AI. Silicon Valley adalah "baki perak yang mengalir, tentara yang tak tergoyahkan". Orang-orang berbakat yang terpilih oleh standar baru ini akan tetap bertahan lebih karena misi, bukan karena "kompensasi". Organisasi-organisasi yang berkumpulnya orang-orang terbaik ini juga mengalami perubahan besar akibat重塑 AI.

Pemerhatian 4: Terlalu serakah terhadap "AI-natif"

Perusahaan di Silicon Valley mempunyai permintaan yang jauh lebih tinggi terhadap AI native daripada yang saya bayangkan. Kebanyakan perusahaan yang saya temui adalah tahap Seed, Series A, atau Series B. Satu soalan yang sering diajukan ialah: “Anda menggunakan alat AI apa?” Saya biasanya terus menghantar blog yang saya tulis sendiri, dan kebanyakan mereka akan “tercengang”.

Mereka akan mengatakan, bukan hanya ingin saya mengembangkan aplikasi AI, tetapi juga mendorong transformasi AI di dalam syarikat, menjadikan pasukan lebih berasaskan AI. Banyak syarikat sebenarnya sudah menghasilkan produk AI, tetapi pekerja belum membina alur kerja AI sendiri. Selain itu, mereka juga sangat memerlukan seseorang yang menghabiskan banyak masa setiap hari di Twitter, serta segera berkongsi penemuan AI baru atau teknik peningkatan kecekapan.

Perkara ini agak bertentangan dengan intuisi saya. Beberapa “hobi” saya yang lalu, seperti mencuba alat-alat baru setiap hari seperti Claude Code dan berkongsi penggunaan AI di Slack, malah menjadi peranan organisasi yang baru.

Sebelum ini semasa di Quora, saya berjaya membuat seluruh pasukan kejuruteraan menggunakan Claude Code. Setiap kali bertemu seorang jurutera di pejabat, saya akan bertanya, "Adakah anda menggunakan AI untuk pemrograman?" Saya ingat ada seorang jurutera keselamatan siber yang awalnya enggan, kerana merasa menggunakan AI untuk menulis kod terlalu berisiko. Saya kemudian meminta dia mengubah cara berfikir—tidak menulis kod, tetapi hanya menggunakan AI untuk membaca kod, memahami repositori kod, dan melakukan analisis data. Selepas itu, dia benar-benar mulai menggunakannya.

Pemerhatian 5: "Menggunakan AI dengan lebih baik" pada dasarnya adalah masalah transformasi organisasi

Semasa bekerja dengan AI di Cognition, saya semakin menyedari satu fakta: untuk menggunakan AI dengan lebih baik, mungkin bukan lagi masalah kejuruteraan semata-mata, tetapi masalah transformasi struktur organisasi.

Sebagai contoh, dalam syarikat internet dengan struktur organisasi tradisional, satu ralat dari penemuan hingga pembaikan sering melalui beberapa peringkat seperti penilaian keperluan, penjadualan kejuruteraan, pembangunan, pengujian, dan pelancaran. Menggunakan AI untuk menulis kod secara sebenar mungkin hanya memerlukan dua atau tiga jam, tetapi keseluruhan proses ini sering mengambil masa sebulan.

Dahulu, proses seperti ini adalah munasabah. Kerana memperbaiki satu bug, seorang jurutera mungkin memerlukan tiga hingga lima hari, dan nilai proses ini terletak pada koordinasi antara pasukan yang berbeza dan pengagihan sumber. Tetapi AI telah memampatkan masa ini.

Sekarang, dengan menggunakan produk jurutera perisian AI seperti Devin yang diperkenalkan oleh Cognition, kita boleh menyelesaikan kerja yang dahulu mengambil beberapa hari hanya dalam masa dua atau tiga jam. Di Cognition, kami bahkan boleh menggunakan Devin untuk mengenal pasti orang yang bertanggungjawab atas ralat ini, kemudian meminta Devin membantu mereka memperbaikinya—banyak proses koordinasi dan peralihan di antara kedua-duanya boleh dihapuskan tanpa sebarang pembaziran. Sebenarnya, AI sedang memaksa transformasi keseluruhan struktur organisasi.

Pemerhatian 6: Pengurus orang sedang hilang, pengurus mesti boleh menulis kod sendiri

Yang dimaksud dengan people manager ialah engineering manager. Dalam beberapa tahun terakhir di Amerika, terdapat pandangan yang popular bahawa sebagai seorang pengurus, anda perlu fokus pada pengurusan—lebih banyak bertanggungjawab atas koordinasi pasukan, komunikasi organisasi, mengurus emosi pekerja, dan memberi sokongan pertumbuhan, tanpa perlu memiliki kemampuan teknikal yang sangat kuat.

Namun, apabila masuk ke Cognition, saya mendapati struktur organisasi keseluruhan sangat rata. Sebagai contoh, atasan langsung saya bahkan adalah CPO, salah seorang penubuh bersama. Beliau tidak akan memperhatikan perkembangan peribadi anda secara mendalam; peranan beliau lebih kepada menentukan arah besar. Bahkan, boleh dikatakan bahawa dalam pasukan kejuruteraan Cognition yang kini berjumlah lebih 60 orang, hanya ada seorang people manager sebenar, manakala yang lain termasuk CPO semuanya adalah “pengurus yang juga menulis kod”. Ini sangat berbeza dengan pengalaman saya sebelum ini di Quora. Pada masa itu, seorang pengurus mungkin perlu mengawal lima atau enam jurutera.

Pasukan Cognition memakai pakaian merah secara bersama-sama untuk merayakan hari jadi seorang rakan sekerja yang biasa memakai pakaian merah.

Saya rasa ini mungkin perubahan struktur organisasi yang dibawa oleh AI. Saya memperhatikan bahawa sebarang syarikat rintisan AI yang penuh semangat sebenarnya begitu—hampir tidak ada pengurus yang hanya bertanggungjawab mengurus orang—jika dia mengurus orang, dia pasti juga sangat mahir secara teknikal.

Penilaian ini tidak hanya berlaku di Silicon Valley; dalam tempoh dua minggu antara dua temu bual, syarikat besar tempatan seperti Tencent dan ByteDance juga berturut-turut mengumumkan penghapusan peringkat pertengahan.

Perubahan yang diperhatikan oleh Ma Peiyuan tidak hanya berhenti pada tahap organisasi. Penilaian industri yang lebih makro: "Dalam kalangan syarikat AI di Silicon Valley, pengeluaran Token apa yang dianggap munasabah, dan model apa yang dianggap baik?" juga sedang dirobohkan dengan kelajuan yang jelas kelihatan. Kali ini, bahkan penilaian yang pernah beliau nyatakan semasa temu bual pertama pun tidak mampu bertahan selama dua minggu.

Industri AI di Silicon Valley sendiri sedang menggantikan dirinya sendiri setiap bulan atau bahkan setiap hari, dan tidak ada penilaian yang dapat tetap segar untuk masa yang lama.

Pemerhatian 7: Token Maxxing mengalami perbezaan, syarikat besar mula kembali memperhatikan kecekapan

Pada awal tahun ini, "Token-Maxxing" pernah menjadi trend di Silicon Valley. Syarikat-syarikat seperti Meta bahkan pernah mengeluarkan senarai peringkat penggunaan Token. Siapa yang paling banyak menggunakannya, dialah yang dianggap sebagai perwakilan "AI-natif". Saya rasa ini pertama-tama adalah perkara yang sangat bodoh—jumlah penggunaan token AI tidak boleh dianggap sama dengan kecekapan jurutera.

Rakan-rakan dari Google dan Meta juga memberitahu saya bahawa mereka sedang mengerjakan “Lompatan Besar AI”. Syarikat akan mengadakan “Minggu AI” khas, di mana semua orang perlu berhenti bekerja sementara waktu untuk menulis Kemahiran AI dan mempromosikan kemahiran mereka sendiri dengan cara yang sangat menarik.

Pada awalnya, hampir semua syarikat mengikuti pendekatan ini: pertama, dorong orang sebanyak mungkin untuk menggunakan AI, dan lihat sejauh mana ia boleh digunakan.

Namun, sekali menjadi peringkat awam, tingkah laku manusia akan terdistorsi. Jurutera akan menggunakan sistem hanya untuk “menggunakan lebih banyak”, bahkan muncul situasi yang sangat absurd, seperti meminta AI bergerak secara rawak setiap malam atau menjalankan tugas-tugas tanpa makna semata-mata untuk meningkatkan jumlah penggunaan. Ini sebenarnya sama seperti menggunakan GPA untuk mengukur kemampuan pelajar—indikator tunggal mudah menjadi tidak tepat.

Kemudian, banyak pegawai atasan juga mulai sedar akan masalah ini. Lebih khusus lagi, mereka terkejut dengan bil. Sebagai contoh, Uber telah menghabiskan hampir keseluruhan bajet AI tahunan 2026 dalam empat bulan pertama. Banyak syarikat besar mulai menghadkan penggunaan token semula. Jawatankuasa dan CEO akan mula bertanya, adakah penggunaan token ini benar-benar bernilai? Adakah ia benar-benar meningkatkan kecekapan kami sebanyak ini? Adakah pengeluaran sebanyak satu miliar dolar AS benar-benar dihasilkan daripada perbelanjaan satu miliar dolar AS?

Kekhawatiran ini dengan cepat diubah oleh Cognition menjadi satu jawapan perniagaan yang jelas dan boleh dinilai. Pada 4 Jun, Cognition melancarkan "Jaminan Produktiviti AI" — jika pelanggan korporat menggunakan Devin (produk jurutera perisian AI yang dilancarkan oleh Cognition) tetapi peningkatan kecekapan tidak mencapai tahap yang dijanjikan, ganti rugi tertinggi ialah 10 juta dolar AS. Orang yang menjalankan penyelidikan ini ialah seorang rakan sekerja saya yang telah memenangi tiga pingat emas Olimpiad Informatik Antarabangsa; beliau mengkaji 233 kes pelanggan sebenar, mengambil sampel rawak percakapan antara pelanggan dan Devin, dan bertanya kepada pelanggan, "Berapa lama masa yang diperlukan jika pekerjaan ini dilakukan sepenuhnya secara manual tanpa Devin?" Data ini kemudian digunakan untuk melatih satu sistem ramalan yang secara langsung menukar setiap percakapan Devin menjadi "jam jurutara setara", dan menggunakan gaji per jam jurutera untuk mengira berapa banyak wang yang berjimat.

Namun, banyak syarikat YC mungkin akan terus mengikuti model "token maxxing", kerana mereka mendapat banyak kuota token percuma dengan keuntungan polisi, ditambah lagi dengan skala kecil yang mungkin hanya terdiri daripada tiga orang, sehingga tiada isu pengurusan AI, dan pengurus boleh melihat secara langsung sama ada setiap orang sedang menggunakan AI untuk mengelakkan kerja.

Pemerhatian 8: Kultus terhadap model itu sendiri juga sedang digulingkan

Dalam tempoh dua minggu antara dua temu bual dalam artikel ini, saya mendapati bahawa hujah yang saya sampaikan sebelum ini sudah mulai tidak tepat lagi.

Dua minggu lalu, saya masih membincangkan model mana yang paling mutakhir pada masa ini. Kini, Cognition baru sahaja melancarkan ciri yang belum mempunyai nama terjemahan Cina, dengan kod nama fusion mode—menggabungkan dan menguruskan penggunaan beberapa model yang lebih murah bersama model terkemuka, bukan sekadar memanggil model termahal secara membabi buta. Anda tidak akan memandu Porsche anda setiap hari untuk membeli-belah kepasar, kan? Anda sepatutnya memandu Honda atau kereta yang lebih murah untuk tujuan itu. Kecepatan pengembangan model dalam dua minggu ini juga melampaui bayangan saya, sehingga saya tidak berani berkata dengan pasti siapakah yang “nombor satu”.

Saya tidak boleh katakan semuanya, tetapi anda mungkin mengatakan lebih daripada 60%, banyak mungkin akan berbalik sebaliknya selepas sebulan.

Peraturan sejarah setiap gelombang teknologi adalah begitu: kehancuran konsensus lama sering kali menjadi permulaan kepada pembinaan paradigma baru.

Apabila pasaran meninggalkan kekaguman buta terhadap model tunggal dan pembaziran kuasa pengiraan, permintaan untuk “bagaimana membuat AI boleh dilaksanakan secara stabil dan terkawal” serta “bagaimana mengatasi masalah sukar yang tidak dapat dipecahkan oleh model besar” meletup. Ma Peiyuan, yang mempunyai perspektif ganda sebagai jurutera dan pencari peluang pelaburan, memperhatikan bahawa sejumlah perniagaan baru yang tidak bergantung pada “mitos model besar” dan berfokus pada menyelesaikan masalah kompleks dunia nyata sedang tumbuh secara perlahan di kalangan perspektif bukan majoriti di Silicon Valley.

Pemerhatian 9: Infrastruktur AI baru sedang muncul

Mengelilingi “Token-Maxxing”, sebenarnya telah muncul sejumlah perusahaan startup baru yang secara khusus memantau dan mengawasi penggunaan AI oleh pasukan, menganalisis di mana token dibazarkan.

Masalah yang lebih dalam di sebalik ini ialah bahawa agen AI itu sendiri rapuh. Perubahan kecil dalam prompt boleh menyebabkan prestasi agen menurun. Oleh itu, infrastruktur AI baharu muncul, seperti sandbox, untuk mengasingkan operasi agen dan mengelakkan ia mengakses sistem sensitif secara langsung, seperti akaun bank atau data persekitaran pengeluaran.

Sementara itu, “pemantauan” itu sendiri juga menjadi lebih kompleks. Sistem tradisional boleh dipantau sekiranya terdapat ralat, tetapi agen tidak “melaporkan ralat”. Ia boleh beroperasi dengan lancar, tetapi mungkin mengalami masalah serius pada tahap output, seperti mengandungi bias, diskriminasi, atau menyebabkan pengalaman negatif yang jelas kepada pengguna. Ini memerlukan perisian baharu untuk memantau kapan “otak” agen rosak.

Pemerhatian 10: "Benda yang tidak boleh dilatih" sedang menjadi perniagaan baru

Dalam kalangan pelabur, terdapat satu penilaian yang semakin popular: agen AI berfokus pada bidang tertentu (vertical agent) telah kehilangan nilai pelaburan. Namun, saya tidak sepenuhnya bersetuju.

Pengarah Silicon Valley, Sarah Guo, pernah mencadangkan satu konsep—“the untrainable”, atau “sesuatu yang tidak boleh dilatih”. Pandangan utamanya ialah dalam banyak industri tegak, model bahasa tidak akan pernah sepenuhnya diautomatiskan. Ini kerana industri tegak dipenuhi dengan proses kompleks yang tidak boleh diabstrakkan, dan proses-proses ini sering memerlukan tenaga manusia untuk menyelesaikannya satu per satu.

Sebagai contoh, pelaporan cukai Amerika, 50 negeri mempunyai 50 cukai, yang masing-masing perlu disesuaikan secara perlahan-lahan; bidang undang-undang juga sama, undang-undang imigrasi, undang-undang sivil, undang-undang perniagaan, masing-masing mempunyai sistem yang kompleks, agen AI tidak boleh mencapainya dalam satu langkah.

Nilai syarikat agen AI tegak terletak pada penemuan masalah sebenar yang berterusan melalui interaksi dengan pelanggan dan FDE (Frontline Deployment Engineers). Masalah-masalah ini akan terukir ke dalam produk syarikat, dan inilah yang tidak boleh dilatih oleh syarikat besar lain atau dimakan oleh model umum.

Oleh itu, saya cenderung berpendapat bahawa agen vertikal masih mempunyai nilai pelaburan. Hanya sahaja pulangan yang mereka bawa mungkin bukan 1000 kali, tetapi lebih mungkin 20 kali, 50 kali, atau bahkan 100 kali—pulangan yang lebih stabil dan lebih kecil.