Tether Melancarkan Kerangka AI untuk Latihan Model Telefon Bimbit

Wawasan Utama

• Tether memperkenalkan kerangka kerja yang membolehkan latihan model bahasa besar di telefon pintar.
• Sistem ini menggunakan arsitektur BitNet dan penyesuaian halus LoRA untuk mengurangi keperluan pengiraan.
• Syarikat-syarikat kripto meningkatkan perbelanjaan mereka pada infrastruktur AI dan pengiraan berprestasi tinggi.

Tether melancarkan kerangka latihan kecerdasan buatan yang baharu pada hari Selasa yang membolehkan model bahasa besar berjalan dan disesuaikan pada peranti pengguna. Sistem ini membentuk sebahagian daripada platform QVAC syarikat dan menyokong telefon pintar bersama beberapa prosesor bukan Nvidia. Jurutera merekabentuk kerangka ini untuk mengurangkan keperluan memori, dengan itu menurunkan halangan kos dalam membina dan menguji model bahasa.

Pelancaran ini berlaku apabila syarikat infrastruktur kripto bergerak lebih dalam ke arah pembangunan kecerdasan buatan dan pasaran pengiraan. Tether, penerbit koin stabil terbesar berdasarkan kapitalisasi pasaran, menjadikan pelancaran ini sebagai usaha untuk mendentralkan kemampuan pembelajaran mesin. Syarikat ini berhujah bahawa membolehkan latihan model pada peranti yang tersedia secara meluas boleh mengurangkan ketergantungan kepada penyedia awan terpusat.

Pengumuman Tether menggambarkan kerangka kerja itu sebagai persekitaran latihan yang dibina berdasarkan arsitektur BitNet Microsoft. Reka bentuknya menggunakan struktur rangkaian saraf satu-bit yang digabungkan dengan kaedah penyesuaian halus LoRA, membolehkan pembangun menyesuaikan model sambil mengekalkan permintaan pengiraan yang rendah.

Jurutera syarikat mengatakan sistem tersebut melatih model bahasa dengan sehingga satu miliar parameter pada telefon pintar dalam masa kurang daripada dua jam. Model yang lebih kecil dilaporkan menyelesaikan latihan dalam beberapa minit apabila dioptimumkan melalui pendekatan yang sama. Syarikat tersebut juga menyatakan bahawa platform tersebut menyokong model yang mencapai tiga belas miliar parameter pada peranti mudah alih.

Jurutera membina sistem untuk beroperasi merentas beberapa ekosistem peranti keras daripada bergantung kepada cip Nvidia. Kerangka tersebut menyokong pemproses AMD, arsitektur Intel, sistem Apple Silicon, dan pemproses grafik mudah alih dari Qualcomm dan Apple. Keserasian itu memperluaskan akses kepada eksperimen pembelajaran mesin selain daripada kumpulan komputasi berprestasi tinggi tradisional.

Reka bentuk teknikal juga mengurangkan keperluan memori grafik berbanding model piawai. Keputusan kejuruteraan dalaman menunjukkan bahawa arkaitektur BitNet mengurangkan penggunaan VRAM sehingga 77.8% berbanding sistem 16-bit yang sepadan.

Tether mengatakan arkaitektur itu membolehkan penyesuaian halus LoRA pada peranti di luar ekosistem Nvidia. Pembangun sebelum ini bergantung pada pemproses grafik Nvidia untuk beban latihan kerana cip-cip tersebut menangani pengiraan tensor besar dengan cekap. Jurutera Tether cuba menghapuskan had itu dengan membenarkan kaedah latihan bit rendah pada pemproses alternatif.

Syarikat berhujah bahawa arkaitektur tersebut juga meningkatkan kelajuan inferens untuk bebanan mudah alih. Ujian menunjukkan bahawa pemproses grafik mudah alih memproses model BitNet beberapa kali lebih pantas berbanding unit pemproses pusat biasa. Perbezaan ini membolehkan model berjalan secara tempatan pada peranti genggam tanpa memerlukan infrastruktur awan jauh.

Pembangun juga mengkaji kaedah pembelajaran mesin teragih dalam sistem tersebut. Tether menggambarkan penggunaan berpotensi untuk model pembelajaran federated yang dikemaskini melalui rangkaian peranti bebas. Di bawah struktur itu, model belajar daripada data tempatan sambil menyimpan maklumat pada setiap peranti daripada menghantarnya ke pelayan terpusat.

Syarikat mencadangkan pendekatan tersebut boleh menyokong persekitaran latihan yang menekankan privasi. Data kekal secara tempatan, manakala hanya kemas kini model dipindahkan melalui rangkaian. Arsitektur itu mencerminkan trend dalam sistem pengkomputeran terdesentralisasi dan rangkaian kriptografi teragih.

Aktiviti pasaran di sektor aset digital menunjukkan peningkatan pelaburan dalam infrastruktur kecerdasan buatan. Syarikat-syarikat kripto semakin mengubah semula kapasiti pengkomputeran yang awalnya dibina untuk operasi blok rantai kepada beban kerja pembelajaran mesin.

Fail awam mengungkapkan bahawa syarikat teknologi membentuk perkongsian untuk mengamankan kuasa pengkomputeran yang berkaitan dengan permintaan kecerdasan buatan. Sebuah perjanjian yang diumumkan pada Sept. memberikan saham minoriti kepada Google dalam Cipher Mining sebagai sebahagian daripada perjanjian 10 tahun bernilai $3 bilion. Perjanjian ini menghubungkan kapasiti pusat data dengan keperluan pemprosesan kecerdasan buatan.

Pengumuman korporat kemudian menunjukkan bahawa syarikat penambangan bitcoin juga mengalihkan modal ke arah perkhidmatan pembelajaran mesin. Pada Dis., penambang IREN menggariskan rancangan untuk mengumpulkan sebanyak 3.6 bilion dolar untuk memperluaskan infrastruktur bagi operasi kecerdasan buatan.

Laporan keuntungan korporat awal tahun ini memperkuat tren yang sama. HIVE Digital Technologies melaporkan pendapatan sebanyak $93.1 juta selepas memperluaskan perkhidmatan komputasi berprestasi tinggi. Pada masa yang hampir sama, Core Scientific mendapat fasiliti pinjaman $500 juta dari Morgan Stanley untuk menyokong pertumbuhan infrastruktur komputasi mereka.

Pembangun juga menguji coba agen kecerdasan buatan autonom yang diintegrasikan dengan infrastruktur blok rantai. Coinbase melancarkan alat dompet yang membolehkan agen perisian menjalankan transaksi secara langsung di atas blok rantai. Alchemy memperkenalkan perkhidmatan yang membolehkan agen mengakses data blok rantai sambil menyelesaikan pembayaran melalui infrastruktur koin stabil.

Rangkaian identiti juga mengkaji hubungan antara sistem kecerdasan buatan dan pengesahan digital. World, rangkaian identiti yang diasaskan bersama oleh ketua OpenAI, Sam Altman, telah mengeluarkan AgentKit awal minggu ini. Toolkit ini membolehkan agen perisian mengesahkan hubungan mereka dengan identiti manusia unik melalui sistem World ID.

Rangka kerja terkini Tether memasuki sektor yang sama yang sedang berkembang, di mana sumber daya pengkomputeran, pembelajaran mesin, dan sistem blok rantai bersilang.

Syarikat tersebut mengatakan pembangun boleh mengintegrasikan alat latihan ke dalam aplikasi teragih dan peranti tempatan tanpa bergantung kepada pelayan terpusat.

Perkembangan seterusnya untuk kerangka kecerdasan buatan Tether’s akan bergantung pada pengambilan oleh pembangun dan ujian prestasi pada peringkat peranti. Jurutera kemungkinan akan memantau bagaimana platform QVAC menangani model besar di sepanjang peranti pengguna yang teragih semasa rilis akan datang.

Post Tether Melancangkan Kerangka AI yang Membolehkan Latihan Model pada Telefon Pintar muncul pertama kali di The Coin Republic.