Tether, Akıllı Telefon Model Eğitimi İçin Yapay Zeka Çerçevesini Başlatıyor

Ana İpuçları

• Tether, akıllı telefonlarda büyük dil modellerinin eğitimi için bir çerçeve tanıttı.
• Sistem, hesaplama ihtiyaçlarını azaltmak için BitNet mimarisi ve LoRA ince ayarını kullandı.
• Kripto şirketleri, yapay zeka altyapısı ve yüksek performanslı hesaplama üzerine harcamalarını artırdı.

Tether salı günü, büyük dil modellerinin tüketici donanımlarında çalıştırılmasını ve ince ayarlanmasını sağlayan yeni bir yapay zeka eğitim çerçevesi yayınladı. Sistem, şirketin QVAC platformunun bir parçasını oluşturdu ve akıllı telefonları yanı sıra Nvidia dışındaki birkaç işlemciyi destekledi. Mühendisler, dil modelleri oluşturma ve test etme maliyetini düşürmek amacıyla çerçeveyi bellek gereksinimlerini azaltacak şekilde tasarladı.

Lansman, kripto altyapı şirketlerinin yapay zeka geliştirme ve hesaplama pazarlarına daha derinlemesine girmesiyle gerçekleşti. Tether, piyasa değeri en yüksek stablecoin'in yayıncısı, released'i makine öğrenimi yeteneklerini merkeziyetsizleştirmeye yönelik bir çaba olarak sundu. Şirket, modellerin yaygın olarak erişilebilir donanımlarda eğitilmesinin, merkezi bulut sağlayıcılarına olan bağımlılığı azaltabileceğini savundu.

Tether'in duyurusunda, çerçevenin Microsoft'un BitNet mimarisine dayalı bir eğitim ortamı olarak tanımlandığı belirtildi. Tasarım, bir-bit sinir ağı yapılarını LoRA ince ayar yöntemleriyle birleştirerek, geliştiricilerin hesaplama taleplerini düşük tutarken modelleri ayarlamasını sağladı.

Şirket mühendisleri, sistemin bir milyar parametreye kadar olan dil modellerini akıllı telefonlarda iki saat altında eğittiğini söyledi. Aynı yaklaşımla optimize edildiğinde daha küçük modellerin eğitimi dakikalar içinde tamamlandı. Şirket ayrıca platformun mobil cihazlarda on üç milyar parametreye kadar olan modelleri desteklediğini belirtti.

Mühendisler, sistemi Nvidia çiplerine bağımlı olmak yerine birkaç donanım ekosisteminde çalışacak şekilde inşa etti. Çerçeve, AMD işlemcilerini, Intel mimarilerini, Apple Silicon sistemlerini ve Qualcomm ile Apple’dan gelen mobil grafik işlemcilerini destekledi. Bu uyumluluk, makine öğrenimi deneyimlerine erişimi geleneksel yüksek performanslı hesaplama kümelerinin ötesine taşıdı.

Teknik tasarım, standart modellere kıyasla grafik belleği gereksinimlerini de azalttı. Dahili mühendislik sonuçları, BitNet mimarisinin, karşılaştırılabilir 16-bit sistemlere kıyasla VRAM kullanımını %77,8'e kadar azalttığını gösterdi.

Tether, LoRA ince ayarının Nvidia ekosistemi dışında olan donanımlarda yapılmasını sağladığını açıkladı. Geliştiriciler, bu çiplerin büyük tensör hesaplamalarını verimli bir şekilde işleyeceği için tarihsel olarak eğitim iş yükleri için Nvidia grafik işlemcilerine bağımlıydı. Tether mühendisleri, alternatif işlemcilerde düşük bitli eğitim yöntemlerine izin vererek bu sınırlamayı kaldırmayı denedi.

Şirket, mimarinin mobil iş yükleri için çıkarım hızlarını da artırdığını savundu. Testler, mobil grafik işlemcilerinin standart merkezi işlem birimlerinden birkaç kat daha hızlı BitNet modellerini işlediğini gösterdi. Bu fark, modellerin uzak bulut altyapısına ihtiyaç duymadan elle tutulan cihazlarda yerel olarak çalıştırılmasını sağladı.

Geliştiriciler, sistem içinde dağıtık makine öğrenimi yöntemlerini de inceledi. Tether, bağımsız cihaz ağları boyunca güncellenen federasyonel öğrenme modellerinin olası kullanım alanlarını tanımladı. Bu yapı altında, modeller, bilgileri merkezi sunuculara yüklemek yerine her cihazda yerel verilerden öğrenir.

Şirket, yaklaşımın gizliliğe odaklı eğitim ortamlarını destekleyebileceğini önerdi. Veriler yerel kalırken, yalnızca model güncellemeleri ağlar arasında aktarıldı. Bu mimari, merkeziyetsiz hesaplama sistemleri ve dağıtılmış kriptografik ağlar içindeki eğilimleri yansıttı.

Dijital varlık sektöründeki pazar aktivitesi, yapay zeka altyapısına yapılan yatırımların arttığını gösterdi. Kripto firmaları, blok zinciri operasyonları için orijinal olarak inşa edilen hesaplama kapasitesini artırmalı öğrenme iş yüklerine yönlendirmeye devam ediyor.

Kamu belgeleri, teknoloji şirketlerinin yapay zeka talebine bağlı hesaplama gücü sağlamak amacıyla ortaklıklar kurduğunu ortaya koydu. Eylül'de duyurulan bir anlaşma, Google'ın 3 milyar dolarlık değerindeki 10 yıllık bir anlaşmanın bir parçası olarak Cipher Mining'de azınlık hissesi edinmesini sağladı. Bu düzenleme, veri merkezi kapasitesini yapay zeka işleme ihtiyaçlarıyla ilişkilendirdi.

Kurumsal duyurular daha sonra, bitcoin madenciliği firmalarının da sermayelerini makine öğrenimi hizmetlerine yönlendirdiğini belirtti. Aralık ayında madenci IREN, yapay zeka operasyonları için altyapıyı genişletmek üzere yaklaşık 3,6 milyar dolar toplama planlarını açıkladı.

Yılın erken dönemlerindeki kurumsal kazanç raporları aynı eğilimi pekiştirdi. HIVE Digital Technologies, yüksek performanslı hesaplama hizmetlerini genişleterek 93,1 milyon dolarlık gelir bildirdi. Yaklaşık aynı dönemde Core Scientific, hesaplama altyapısındaki büyümeyi desteklemek için Morgan Stanley'den 500 milyon dolarlık kredi hattı sağladı.

Geliştiriciler, blok zinciri altyapısıyla entegre edilmiş otonom yapay zeka ajanları ile de denemeler yaptı. Coinbase, yazılım ajanlarının doğrudan blok zinciri üzerinde işlem yapmasını sağlayan cüzdan araçlarını sundu. Alchemy, ajanların blok zinciri verilerine erişmesini ve ödemeleri stablecoin altyapısı üzerinden çözmelerini sağlayan hizmetleri tanıttı.

Kimlik ağları yapay zeka sistemleri ile dijital doğrulama arasındaki bağlantıyı da inceledi. OpenAI başkanı Sam Altman tarafından ortak kurulan World, bu hafta başlangıçta AgentKit'i yayınladı. Bu araç seti, yazılım ajanlarının World ID sistemi aracılığıyla benzersiz bir insan kimliğine bağlantılarını doğrulamasını sağladı.

Tether'in en son çerçevesi, hesaplama kaynakları, makine öğrenimi ve blok zinciri sistemlerinin kesiştiği aynı genişleyen alana girdi.

Şirket, geliştiricilerin eğitim araçlarını merkezi sunuculara ihtiyaç duymadan dağıtılmış uygulamalara ve yerel cihazlara entegre edebileceğini söyledi.

Tether’in yapay zeka çerçevesi için sonraki gelişme, geliştirici kabulü ve cihaz seviyesindeki performans testlerine bağlı olacaktır. Mühendisler, yakında yapılacak sürümler sırasında QVAC platformunun dağıtılmış tüketicilerin donanımında büyük modelleri nasıl işlediğini izleyeceklerdir.

Tether, Akıllı Telefonlarda Model Eğitimini Mümkün Kılan Bir Yapay Zeka Çerçevesini Açıkladı ilk olarak The Coin Republic’da yayınlandı.