Huawei menerima empat paper di IJCAI 2026, menunjukkan tren teknis AI yang berpindah dari "kepadatan skala" ke "kepadatan desain".

Penulis artikel, sumber: Leifengwang

AI menuju skenario nyata, kemampuan rekayasa sistematis, adalah hambatan sekaligus terobosan.

IJCAI-ECAI 2026 akan diadakan dari 15 hingga 21 Agustus 2026 di Bremen, Jerman. Sebagai konferensi tingkat atas komprehensif di bidang AI, IJCAI selalu menjadi ujian kunci untuk menguji hasil penelitian mutakhir dari berbagai perusahaan selama setahun terakhir: siapa yang membuat kemajuan nyata di bidang mana, dan teknologi apa yang sedang membentuk konsensus, makalah adalah jawaban paling langsung.

Pada saat konferensi berlangsung, AI Technology Review juga sedang melakukan pemindaian sistematis terhadap makalah-makalah yang diterima di konferensi utama tahun ini untuk mengidentifikasi tren teknologi dan arah industri.

Tren yang jelas adalah: biaya kekuatan komputasi AI tetap tinggi, sementara manfaat marjinal dari ekspansi skala parameter sudah lama tidak lagi sebanding dengan biaya marjinalnya. Realitas ekonomi ini sedang membentuk ulang logika inovasi teknologi—beralih dari “apakah bisa dibuat lebih besar” menjadi “apakah bisa digunakan lebih hemat”.

Empat makalah Huawei yang diterima oleh IJCAI 2026 memberikan referensi jalur teknis untuk pergeseran ini: menggunakan desain arsitektur dan strategi pelatihan yang lebih canggih untuk mengimbangi keterbatasan kelangkaan data, guna mendapatkan output kecerdasan yang lebih tinggi per unit komputasi.

Perubahan orientasi teknologi ini juga mencerminkan perubahan mendalam dalam penerapan AI: ketika teknologi keluar dari laboratorium, persaingan sudah bukan lagi terfokus pada terobosan tunggal dalam satu kemampuan, melainkan pada pengelolaan sistematis antara akurasi, generalisasi, data, dan daya komputasi—setiap tahapan bisa menjadi bottleneck, sekaligus bisa menjadi titik terobosan.

Empat makalah berikut ini secara tepat menunjukkan kemampuan rekayasa sistematis dan pilihan teknologi Huawei dari keempat arah tersebut.

01 Breaking the Scale Barrier: Architecture + Training, Redefining the Capability Limits of Hierarchical ViT

Dalam perlombaan skalabilitas model dasar visual, selalu ada "langit-langit" tak terlihat. Skalabilitas ViT biasa terus melaju pesat, dari 6B hingga 22B, terus memperbarui batas atasnya. Namun, ViT hierarkis tetap terjebak di bawah 2 miliar parameter. Bukan karena tidak ingin memperbesar, tetapi karena tidak bisa memperbesar. Model hierarkis memerlukan persyaratan yang jauh lebih tinggi terhadap data dan strategi pelatihan dibandingkan ViT biasa; menerapkan secara langsung solusi skalabilitas ViT biasa tidak akan berhasil. Hal ini menciptakan kontradiksi struktural—ViT hierarkis secara alami unggul dalam representasi multi-skala dan tugas prediksi padat (deteksi objek, segmentasi, pemahaman video), tetapi karena tidak dapat diperbesar skalanya, batas kemampuannya terkunci.

Tim Huawei dalam artikel mereka "Distilling and Scaling Hierarchical Vision Transformer to 30B Parameters" langsung mendorong batas skala dari 2B menjadi 30B.

Bagaimana caranya? Jawabannya adalah dengan merancang ulang struktur model dan strategi pelatihan, keduanya sama-sama penting.

Desain inti struktural adalah arsitektur Efficient Hierarchical ViT. Ini menjaga kemampuan ekstraksi fitur multiscale sekaligus mempertimbangkan efisiensi komputasi.

Berdasarkan arsitektur ini, tim melatih model padat dengan parameter dari 200M hingga 5B, serta memperkenalkan varian Sparse Mixture of Experts (SMoE) untuk mendorong total parameter hingga 30B—skala parameter terbesar yang telah dipublikasikan di bidang ViT hierarkis saat ini.

Dalam pelatihan, tim merancang proses dua tahap:

Pada tahap pertama, lakukan pelatihan pra-pengawasan MAE di ImageNet-21K untuk membuat model memahami hukum dasar representasi visual;

Pada tahap kedua, dilakukan distilasi pengetahuan dari beberapa model dasar umum tercanggih saat ini pada dataset 27 juta gambar untuk mencapai lompatan kemampuan.

Hasil eksperimen memberikan bukti paling kuat. Dalam evaluasi linier ImageNet-1K, model MoE dengan total 30B parameter (EHV-5B-MoE) hanya mengaktifkan 6,7 miliar parameter saat inferensi, namun mencapai akurasi 89,0%, melebihi model dengan total parameter lebih besar di jalur ViT biasa, yaitu EVA-CLIP-18B. Lebih penting lagi, peningkatan performanya tidak terbatas pada klasifikasi gambar—model ini juga menunjukkan kinerja unggul dalam analisis video dan tugas prediksi padat. Ini menunjukkan bahwa EHV mempelajari bukan hanya fitur klasifikasi, tetapi representasi visual berkualitas tinggi dan dapat digeneralisasi.

Tim Huawei menggunakan pekerjaan ini untuk membuktikan bahwa ViT hierarkis tidak hanya bisa diperbesar, tetapi juga dapat mencapai akurasi lebih tinggi dengan parameter aktivasi yang lebih sedikit di sisi inferensi. Desain arsitektur menentukan batas kemampuan model, sedangkan strategi pelatihan menentukan sejauh mana batas tersebut dapat dilepaskan.

02 Input Pre-filtering: Paradigm Innovation of Learnable Frame Selector

Batas atas dasar model telah dinaikkan, tetapi konsumsi daya komputasi tidak hanya terjadi pada model itu sendiri, data yang diberikan ke model juga secara signifikan menghabiskan sumber daya komputasi. Saat memproses video, model bahasa besar berbasis video (Video-LLMs) menghabiskan biaya komputasi terutama pada encoding frame. Untuk mengendalikan biaya, model-model saat ini hampir semuanya menggunakan pengambilan sampel seragam—mengambil frame pada interval yang sama.

Namun, peristiwa penting dalam video tidak pernah didistribusikan secara merata. Sebuah aksi penting mungkin hanya berlangsung satu atau dua detik, dan jika jatuh tepat di antara dua titik sampel, akan benar-benar terlewatkan. Sebaliknya, adegan statis yang panjang justru dienkoding berulang-ulang, membuang sumber daya komputasi yang berharga.

Pendekatan alternatif adalah metode berbasis pencarian—mengambil frame yang relevan berdasarkan pertanyaan spesifik. Metode ini memang efektif dalam skenario pertanyaan dan jawaban video, tetapi deskripsi video rinci adalah tugas “tanpa pertanyaan”, di mana metode ini tidak dapat diterapkan.

Sampling uniformly terlalu kasar, sementara metode berbasis query tidak dapat digunakan. Bagaimana mengatasinya? Tim data AI Huawei mengusulkan frame selector yang dapat dipelajari, LFS (Learnable Frame Selector), untuk mencoba menyelesaikan masalah ini.

Alamat makalah: https://arxiv.org/pdf/2601.14594v1

Ide inti mereka sangat sederhana: alih-alih mengandalkan aturan manual untuk memilih frame, biarkan model belajar sendiri "apa yang harus dilihat".

Ini adalah paradigma pelatihan "berawal dari akhir", di mana LFS tidak lagi belajar "memilih frame mana yang memiliki skor lebih tinggi di titik tengah tertentu", melainkan belajar "memilih frame mana yang membuat model besar dapat menulis deskripsi yang lebih baik". Bagaimana caranya? Tiga desain kunci:

Pertama, latih jaringan penilaian untuk memberi skor "pentingnya peristiwa" pada setiap frame.

Kedua, pilih frame secara segmental bukan pengurutan global. Saat memilih frame, jangan gunakan pendekatan sederhana "K frame dengan skor tertinggi", tetapi potong seluruh video menjadi beberapa periode waktu, lalu pilih frame paling penting masing-masing dalam setiap periode. Dengan begitu, peristiwa penting tetap tertangkap, sekaligus memastikan distribusi frame merata sepanjang sumbu waktu.

Ketiga, langkah paling krusial—metode pelatihan. Setelah LFS memilih frame, frame-frame tersebut diberikan ke Video-LLM yang dibekukan untuk menghasilkan deskripsi, lalu deskripsi yang dihasilkan dibandingkan dengan deskripsi standar yang ditandai secara manual, menghitung kerugian, dan melakukan backpropagation untuk memperbarui parameter frame selector. Selama proses ini, model bahasa besar itu sendiri tidak berubah sama sekali; LFS berfungsi seperti modul eksternal yang bisa dicolokkan dan digunakan langsung.

Selain itu, tim peneliti juga menemukan sebuah masalah: ada kesenjangan yang cukup besar antara benchmark deskripsi video rinci yang ada dan kognisi manusia yang sebenarnya. Oleh karena itu, mereka membangun benchmark baru sendiri, ICH-CC, di mana semua video berasal dari skenario bisnis nyata tentang masakan warisan budaya takbenda Tiongkok (seperti dapur restoran, pelajaran memasak, dll.), dan semua deskripsi serta pertanyaan-jawaban ditulis secara manual dengan hati-hati, sehingga lebih dekat dengan aplikasi nyata.

Bagaimana hasil eksperimennya?

LFS memberikan peningkatan yang umum dan stabil pada berbagai model dan berbagai benchmark. Semua versi yang ditingkatkan dengan LFS melebihi model dasar pada semua benchmark pengujian, menunjukkan bahwa LFS tidak hanya mampu mencapai hasil yang baik pada satu benchmark, tetapi juga memiliki tingkat generalisasi tertentu.

Ini juga menjawab proposisi inti dari makalah tersebut: alih-alih memaksa model menghitung pada frame yang diambil secara seragam, lebih baik melakukan pemilihan cerdas di tahap input—memilih frame yang tepat, maka kinerja tugas downstream pun ikut meningkat.

03 Task Adaptation: Characterizing Modular Intervention Instead of Full Model Fine-Tuning

Kemampuan generalisasi lintas tugas pada model bahasa besar selalu menjadi masalah yang “penting dikatakan, sulit dilakukan”. Solusi utama saat ini adalah routing dinamis per-token—setiap token harus memilih di antara beberapa adapter LoRA saat diproses, menentukan jalur mana yang akan diambil. Mekanisme ini memang efektif, tetapi harganya tidak kecil: beban komputasi dan penggunaan memori GPU tetap tinggi, sehingga model berjalan lambat dan memakan banyak memori GPU.

Pendekatan alternatif—Representational Fine-Tuning (ReFT)—tidak mengubah parameter model, melainkan hanya mengedit representasi token awal dan akhir untuk mencapai adaptasi tugas tunggal, dengan efisiensi jauh lebih tinggi daripada LoRA. Namun, pendekatan ini memiliki dua kelemahan: pertama, semantik token itu sendiri ambigu, sehingga hanya mengubah awal dan akhir tidak cukup akurat; kedua, kurangnya mekanisme "self-guidance", sehingga model tidak tahu harus mengubah lapisan mana atau representasi mana ketika menghadapi tugas baru yang belum pernah dilihat sebelumnya.

Tim Huawei Cloud bekerja sama dengan beberapa universitas, mengusulkan kerangka RaMod (Representation-Aware Modularity) yang menyadari representasi, berhasil memperluas ide ReFT ke skenario generalisasi lintas tugas.

Pendekatan inti dapat dibagi menjadi dua bagian:

Bagian pertama adalah representasi modul ganda dan fine-tuning parameter. ReFT hanya dapat memodifikasi awal dan akhir, sedangkan RaMod jauh lebih halus—memilih subset yang telah disaring oleh strategi dari representasi tersembunyi di lapisan tengah, untuk melakukan intervensi modular. Di mana dan bagaimana mengubahnya dilakukan secara selektif dan strategis. Ini memungkinkan panduan yang lebih tepat kepada model untuk menyelesaikan tugas yang belum pernah dilihat sebelumnya.

Bagian kedua adalah asynchronous scheduler. Yang paling ditakuti dalam generalisasi lintas tugas adalah kekurangan memori VRAM, RaMod merancang mekanisme penjadwalan aktif: alokasikan memori VRAM sesuai kebutuhan intervensi, dan lepaskan secara aktif setelah digunakan. Dengan demikian, overhead penyimpanan ditekan seminimal mungkin.

Efeknya langsung terlihat. Eksperimen menunjukkan bahwa RaMod tidak hanya memiliki kemampuan generalisasi lintas tugas yang lebih baik, tetapi juga biaya yang jauh lebih rendah: dibandingkan dengan LLM asli, waktu pra-isian tambahan berkurang 83%, latensi generasi turun 100%, dan penggunaan memori GPU berkurang 79%.

Dengan kata lain, RaMod mengubah adaptasi tugas dari “mengubah model” menjadi “menyesuaikan representasi”—tidak mengubah inti model, hanya melakukan suntingan titik pada status tersembunyi di lapisan kunci. Jika pendekatan ini berhasil, ekonomi penyebaran model besar mungkin akan diubah: satu model dasar yang dipasangkan dengan beberapa modul intervensi ringan dapat melayani berbagai skenario tugas yang sangat berbeda dengan biaya rendah, tanpa perlu melatih atau memuat salinan lengkap terpisah untuk setiap skenario.

Namun sebelum "rewriting", metode penyesuaian representasi ini masih memiliki beberapa pertanyaan penting yang perlu dijawab, misalnya apakah akurasi tetap terjaga sambil secara signifikan mengurangi biaya daya komputasi dalam skenario sulit seperti penalaran kompleks.

04 Data Breakthrough: Language Experts Each Fulfill Their Roles, Progressive Training Proceeds Step by Step

Tiga makalah pertama semuanya menyelesaikan "bagaimana menggunakan model dengan lebih efisien". Namun, banyak tugas masih memiliki tantangan nyata yang lebih mendasar: bagaimana jika data pelatihan saja tidak mencukupi?

Tugas terjemahan suara code-switching (CS) memerlukan penerjemahan suara yang mencampurkan beberapa bahasa ke dalam bahasa target. Tugas ini tidak hanya kompleks dalam pemodelan semantik, tetapi kelangkaan data CS juga menjadi masalah besar.

Penelitian sebelumnya sebagian besar mengandalkan dua pendekatan: either membiarkan model memahami representasi semantik sendiri, dengan hasil yang tidak terkendali; atau menghabiskan biaya besar untuk anotasi manual, yang terlalu mahal dan sulit diskalakan.

Tim Layanan Terjemahan Huawei, bekerja sama dengan Universitas Xiamen dan Universitas Macau, dalam makalah ini mengusulkan pendekatan baru: alih-alih membiarkan model menemukan representasi semantik bahasa yang berbeda sendiri, lebih baik secara aktif menyelaraskannya—membuat “tim ahli” terpisah untuk setiap bahasa, di mana masing-masing tim bertanggung jawab atas pemodelan semantik bahasanya sendiri, lalu menyelaraskan semuanya secara terpadu.

Alamat makalah: https://arxiv.org/pdf/2511.10670

Ada dua desain kunci dalam implementasi spesifik:

Yang pertama adalah MoE (Mixture of Experts) voice projector. Projector tradisional memperlakukan semua bahasa secara sama, sehingga hasilnya tidak optimal. Versi MoE memberikan sekelompok "ahli" khusus untuk setiap bahasa, di mana setiap kelompok ahli hanya bertanggung jawab atas pemodelan fitur suara halus untuk satu bahasa. Mekanisme routing secara otomatis mengirimkan fitur suara ke kelompok ahli yang sesuai dengan bahasa tersebut.

Untuk memastikan routing tidak menyimpang, paper juga memperkenalkan dua loss tambahan: loss spesifik bahasa memastikan setiap ahli benar-benar mempelajari fitur bahasa yang sesuai, dan loss keseimbangan beban dalam grup mencegah semua token berkumpul pada satu ahli saja.

Yang kedua adalah paradigma pelatihan multi-tahap. Jika data tidak cukup, gunakan strategi untuk mengatasinya. Seluruh proses pelatihan terdiri dari empat langkah: pertama, gunakan data automatic speech recognition (ASR) untuk pra-latih masing-masing proyektor bahasa secara terpisah, membangun dasar penyelarasan suara-teks; kemudian, gabungkan proyektor bahasa menjadi struktur MoE, dan optimalkan secara bersamaan menggunakan kerugian khusus bahasa dan kerugian keseimbangan beban; selanjutnya, secara bertahap beralih dari data ASR ke data speech translation (ST) monolingual, menggunakan kerugian transisi untuk memperlancar migrasi; terakhir, sesuaikan dari data ST ke data speech translation CS.

Keunggulan desain progresif ini adalah—bukan memaksa model langsung memproses data CS yang langka, tetapi terlebih dahulu memperkuat kemampuan dasar dengan data ASR dan ST yang cukup, lalu secara bertahap beralih ke tugas tujuan.

Eksperimen membandingkan beberapa model baseline kuat seperti Whisper, SeamlessM4T, dan LLaST. Pada empat set pengujian Fisher dan NTUML2021, metode ini melebihi SeamlessM4T, yang merupakan model terbaik di antara yang lain, dengan BLEU tertinggi mencapai 39.52 dan COMET tertinggi mencapai 81.33.

The message conveyed by this work is clear: in cross-lingual scenarios with scarce data, sophisticated architectural design and progressive training strategies may be more effective than simply stacking data.

Perlu diperhatikan bahwa solusi "pisau tajam" ini efektif dalam skenario dengan jumlah bahasa terbatas dan kualitas data yang terkendali, namun apakah solusi ini dapat diskalakan dalam sistem terjemahan multibahasa umum yang mencakup puluhan bahasa masih perlu dibuktikan lebih lanjut.

05 Kesimpulan: Dengan kepadatan desain, terjemahkan biaya daya komputasi

30B ViT hierarkis merekonstruksi kerangka model, sehingga 6,7 miliar parameter aktivasi melampaui pesaing 18 miliar di ImageNet;

LFS melakukan pengurangan di input, menghalangi sejumlah besar overhead encoding frame yang tidak bermakna sebelum komputasi;

RaMod mengompres fine-tuning penuh menjadi edit titik tetap pada lapisan representasi, mengurangi penggunaan memori dan latensi secara bersamaan untuk adaptasi lintas tugas;

Penerjemahan suara dengan pengalihan kode menggunakan pembagian tugas MoE dan pelatihan progresif, membuktikan sebuah prinsip di lintasan dengan data paling minim: kecerdasan arsitektur terkadang dapat menggantikan kekurangan data.

Empat makalah, empat arah, semuanya menunjuk pada inti yang sama: Huawei sedang menggantikan "kepadatan skala" dengan "kepadatan desain". Keempat makalah tersebut berasal dari penelitian dasar, data AI, layanan cloud, dan pusat layanan terjemahan, menunjukkan bahwa prioritas efisiensi bukan lagi sekadar preferensi tim tertentu, tetapi logika ini telah tertanam dalam setiap pilihan teknis.

Jika kompetisi AI dua tahun terakhir dibandingkan dengan "perlombaan penambangan", maka tahun 2026 menunjukkan titik balik: era perlombaan "teknologi peleburan" telah dimulai. Aktivasi jarang, penyaringan cerdas, adaptasi modular, pelatihan progresif—jalur-jalur ini tidak bergantung pada lebih banyak chip dan daya komputasi, tetapi pada pemahaman yang lebih mendalam terhadap masalah itu sendiri.

Baik perusahaan besar maupun startup, sudah melewati perlombaan parameter; babak kedua AI adalah pemahaman terhadap masalah penerapan nyata, serta kemampuan teknik untuk menyelesaikan masalah-masalah ini secara sistematis, yang menjadi titik penentu kemenangan sejati.