Tether Meluncurkan Kerangka Kerja AI untuk Pelatihan Model Smartphone

Wawasan Utama

• Tether memperkenalkan kerangka kerja yang memungkinkan pelatihan model bahasa besar di ponsel pintar.
• Sistem ini menggunakan arsitektur BitNet dan fine-tuning LoRA untuk mengurangi kebutuhan komputasi.
• Perusahaan kripto meningkatkan pengeluaran untuk infrastruktur AI dan komputasi berkinerja tinggi.

Tether meluncurkan kerangka kerja pelatihan kecerdasan buatan baru pada hari Selasa yang memungkinkan model bahasa besar berjalan dan disesuaikan pada perangkat konsumen. Sistem ini menjadi bagian dari platform QVAC perusahaan dan mendukung smartphone bersama beberapa prosesor non-Nvidia. Insinyur merancang kerangka kerja ini untuk mengurangi kebutuhan memori, sehingga menurunkan hambatan biaya dalam membangun dan menguji model bahasa.

Peluncuran ini terjadi seiring perusahaan infrastruktur kripto yang semakin dalam terlibat dalam pengembangan kecerdasan buatan dan pasar komputasi. Tether, penerbit stablecoin terbesar berdasarkan kapitalisasi pasar, menggambarkan rilis ini sebagai upaya untuk mendesentralisasi kemampuan machine-learning. Perusahaan berargumen bahwa memungkinkan pelatihan model pada perangkat keras yang tersedia luas dapat mengurangi ketergantungan pada penyedia cloud terpusat.

Pengumuman Tether menggambarkan kerangka tersebut sebagai lingkungan pelatihan yang dibangun di atas arsitektur BitNet Microsoft. Desainnya menggunakan struktur jaringan saraf satu-bit yang dikombinasikan dengan metode fine-tuning LoRA, memungkinkan pengembang untuk menyesuaikan model sambil tetap menjaga permintaan komputasi tetap rendah.

Insinyur perusahaan mengatakan sistem tersebut melatih model bahasa dengan hingga satu miliar parameter di smartphone dalam waktu kurang dari dua jam. Model yang lebih kecil dilaporkan menyelesaikan pelatihan dalam hitungan menit ketika dioptimalkan melalui pendekatan yang sama. Perusahaan juga menyatakan bahwa platform tersebut mendukung model dengan hingga tiga belas miliar parameter di perangkat seluler.

Insinyur membangun sistem untuk beroperasi di beberapa ekosistem perangkat keras daripada mengandalkan chip Nvidia. Kerangka kerja mendukung prosesor AMD, arsitektur Intel, sistem Apple Silicon, dan prosesor grafis seluler dari Qualcomm dan Apple. Kompatibilitas itu memperluas akses ke eksperimen pembelajaran mesin di luar kluster komputasi berkinerja tinggi tradisional.

Desain teknis juga mengurangi kebutuhan memori grafis dibandingkan dengan model standar. Hasil teknis internal menunjukkan bahwa arsitektur BitNet mengurangi penggunaan VRAM hingga 77,8% dibandingkan dengan sistem 16-bit sebanding.

Tether mengatakan arsitektur tersebut memungkinkan fine-tuning LoRA pada perangkat keras di luar ekosistem Nvidia. Para pengembang secara historis bergantung pada prosesor grafis Nvidia untuk beban pelatihan karena chip-chip tersebut menangani perhitungan tensor besar secara efisien. Insinyur Tether berusaha menghilangkan keterbatasan itu dengan memungkinkan metode pelatihan bit rendah pada prosesor alternatif.

Perusahaan berargumen bahwa arsitektur tersebut juga meningkatkan kecepatan inferensi untuk beban kerja seluler. Pengujian menunjukkan bahwa prosesor grafis seluler memproses model BitNet beberapa kali lebih cepat daripada unit pemrosesan pusat standar. Perbedaan itu memungkinkan model berjalan secara lokal di perangkat genggam daripada memerlukan infrastruktur cloud jarak jauh.

Para pengembang juga mengeksplorasi metode pembelajaran mesin terdistribusi dalam sistem tersebut. Tether menggambarkan potensi penggunaan model pembelajaran federasi yang diperbarui di seluruh jaringan perangkat independen. Di bawah struktur tersebut, model belajar dari data lokal sambil menyimpan informasi di setiap perangkat daripada mengunggahnya ke server terpusat.

Perusahaan tersebut menyarankan bahwa pendekatan ini dapat mendukung lingkungan pelatihan yang berfokus pada privasi. Data tetap lokal, sementara hanya pembaruan model yang ditransfer melalui jaringan. Arsitektur itu mencerminkan tren dalam sistem komputasi terdesentralisasi dan jaringan kriptografi terdistribusi.

Aktivitas pasar di sektor aset digital menunjukkan peningkatan investasi dalam infrastruktur kecerdasan buatan. Perusahaan kripto semakin mengalihfungsikan kapasitas komputasi yang awalnya dibangun untuk operasi blockchain menuju beban kerja pembelajaran mesin.

Dokumen publik mengungkapkan bahwa perusahaan teknologi membentuk kemitraan untuk mengamankan daya komputasi yang terkait dengan permintaan kecerdasan buatan. Kesepakatan yang diumumkan pada Sept. memberikan saham minoritas Google di Cipher Mining sebagai bagian dari kesepakatan 10 tahun senilai $3 miliar. Perjanjian ini menghubungkan kapasitas pusat data dengan kebutuhan pemrosesan kecerdasan buatan.

Pengumuman korporat selanjutnya menunjukkan bahwa perusahaan penambangan bitcoin juga mengalihkan modal ke layanan pembelajaran mesin. Pada Des., penambang IREN menguraikan rencana untuk mengumpulkan sekitar 3,6 miliar dolar untuk memperluas infrastruktur operasi kecerdasan buatan.

Laporan laba perusahaan awal tahun ini memperkuat tren yang sama. HIVE Digital Technologies melaporkan pendapatan sebesar $93,1 juta setelah memperluas layanan komputasi berkinerja tinggi. Pada periode yang hampir bersamaan, Core Scientific mendapatkan fasilitas pinjaman $500 juta dari Morgan Stanley untuk mendukung pertumbuhan infrastruktur komputasinya.

Para pengembang juga bereksperimen dengan agen kecerdasan buatan otonom yang terintegrasi dengan infrastruktur blockchain. Coinbase meluncurkan alat dompet yang memungkinkan agen perangkat lunak menjalankan transaksi langsung di-chain. Alchemy memperkenalkan layanan yang memungkinkan agen mengakses data blockchain sambil menyelesaikan pembayaran melalui infrastruktur stablecoin.

Jaringan identitas juga mengeksplorasi hubungan antara sistem kecerdasan buatan dan verifikasi digital. World, jaringan identitas yang didirikan bersama oleh kepala OpenAI Sam Altman, merilis AgentKit awal pekan ini. Toolkit ini memungkinkan agen perangkat lunak untuk memverifikasi koneksi mereka terhadap identitas manusia unik melalui sistem World ID.

Kerangka terbaru Tether memasuki sektor yang sama yang sedang berkembang, di mana sumber daya komputasi, pembelajaran mesin, dan sistem blockchain berpotongan.

Perusahaan mengatakan pengembang dapat mengintegrasikan alat pelatihan ke dalam aplikasi terdistribusi dan perangkat lokal tanpa bergantung pada server terpusat.

Perkembangan berikutnya untuk Tether’s kerangka kerja kecerdasan buatan akan bergantung pada adopsi pengembang dan pengujian kinerja tingkat perangkat. Insinyur kemungkinan akan memantau bagaimana platform QVAC menangani model besar di perangkat konsumen terdistribusi selama rilis mendatang.

Pos Tether Meluncurkan Kerangka AI yang Memungkinkan Pelatihan Model di Smartphone pertama kali muncul di The Coin Republic.