Google, gizliliğe ve yüksek belleğe odaklanan yeni AI çiplerini piyasaya sürüyor

icon币界网
Paylaş
AI summary iconÖzet
Google, gizliliği ve yüksek belleği vurgulayan iki yeni AI çipi olan TPU 8tx ve TPU 8i Max'i tanıttı. TPU 8tx, verileri korumak için gizli hesaplama kullanırken, TPU 8i Max bellek verimliliğini iki katına çıkardı. Google, gecikmeyi azaltmak için TPU Sync'i açık kaynak hale getirdi. Zincir üzerindeki veriler, AI altyapısına olan ilginin arttığını gösterirken, bu adım, korku ve avam endeksindeki piyasa duygusundaki değişimi yansıtmaktadır. TPU serisi, üniversiteler ve AI laboratuvarlarını da içeren 100'den fazla müşteriye hizmet vermektedir. Google, CEO sorunları nedeniyle hisse senedi düşüşü yaşayan NVIDIA'ya meydan okumayı hedeflemektedir.
CoinDesk tarafından rapor edildi:

Google, Pazartesi günü NVIDIA'yı zorlamak için gizlilik koruma ve büyük bellek özellikli çiplere odaklanan iki adet yapay zeka hesaplama sistemi duyurdu.

TPU 8tx ve TPU 8i Max, Google'nın sekizinci nesil Tensor Processing Unit ürün hattına katıldığında, şirketler AI modellerini eğitmek ve çalıştırmak için dört farklı yapılandırmaya sahip olacak. Google, hizmet verdiği müşterilerin AI laboratuvarlarından üniversitelere kadar yaklaşık 100 TPU müşterisine ulaştığını belirtti.

NVIDIA'nın yaygın olarak kullandığı grafik işlem birimlerinden farklı olarak, TPU'lar AI için özel olarak tasarlanmış akseleratörlerdir. Google, bu çipleri başlangıçta kendi hizmetleri için geliştirdi, ancak bugün yerel kurulum müşterileri de dahil olmak üzere dış şirketlere kullanım izni satmaya giderek artmaktadır.

Google'un baş teknoloji officer'ı ve AI ve altyapı üst düzey vice president'u Amin Vahdat, Google'un duyurusunda şunu yazdı: "Hesaplama insan ölçeğinden ajan ölçeğine geçtikçe, şirketler AI modellerinin büyük bağlam pencereleri boyunca çıkarım yapabilen akseleratörler arıyor."

Gizli bilgilerin gizliliğini koruma

TPU 8tx, AI'yi ciddi şekilde benimseyen birçok şirketin karşılaştığı bir soruna çözüm sunar: model verileri kullanırken hassas bilgileri nasıl koruyabilirsiniz?

Veriler, depolama ve iletim sırasında şifrelenir, ancak işleme sırasında genellikle bellekte çözülür. Google, bu yapılandırmanın, müşteri verilerini ve özel model parametrelerini çalıştırması sırasında bile izole edebilecek donanım seviyesinde gizli hesaplama kullandığını belirtti.

Sistem, TPU 8t çipini beşinci nesil AMD EPYC işlemcileri ve Google'ın düşük gecikmeli Boardfly ağıyla birleştiriyor. Google, sistemin TPU 8t'ye kıyasla gecikmeyi en fazla yüzde 50 azalttığını ve ek korumanın neredeyse hiçbir performans kaybına neden olmadığını belirtiyor.

Yani, gizlilik koruması gerektiren görevler hızı veya doğruluğu fedakârlık etmeden gerçekleştirilecektir.

Şirketler, hassas bilgileri kümeler arasında aktarmadan aynı sistemde modeli ince ayarlayabilir ve çalıştırabilir. Ancak gizli hesaplama, kötü tasarlanmış AI ajanlarının erişime izin verilen verileri kötüye kullanmasını önleyemez.

AI'nin bellek sınırlamasını aşın

TPU 8i Max, başka bir sınırlamayı hedefliyor: bellek. Özgün akıllı ajanlar, verileri, kod kütüphanelerini, belgeleri veya saatlerce video içeriğini analiz ederken geleneksel AI görevlerinden çok daha hızlı bir şekilde daha fazla bilgiye erişmeye ihtiyaç duyuyor.

Google, iki TPU 8i çipini tek bir modülde birleştirerek, TPU 8i'ye kıyasla hesaplama gücü, üzerindeki SRAM ve yüksek bant genişliği bellek verimliliğini iki katına çıkardı. Bu tasarım, aynı raf alanına iki kat daha fazla çip yerleştirmeyi sağlıyor.

Vahdat, "Dördüncü sistemimiz TPU 8i Max, başka bir sorun olan bellek duvarı için tasarlandı." dedi.

Google, TPU Sync adlı bir yazılım da açıkkaynak yaptı; bu yazılım, çip, sunucu ve depolama arasında AI çalışma belleğini taşıyor. Google, bu sistemin bazı veri aktarım gecikmelerini ve yanıt başlatma sürelerini %90'dan fazla azalttığını belirtiyor.

NVIDIA, yukarıdaki açıklamayı yaparken, Wall Street'ten artan baskıya maruz kalıyor. Perşembe günü NVIDIA hissesi %9,3 düştü ve önceki Pazartesi işlem sırasında %5 daha düştü; bu da CEO Jensen Huang'un, ABD istihbarat kurumları tarafından Çin için casusluk yapmakla şüphelenilen bir kadınla dış evlilik ilişkisi yaşadığına dair itiraf etmesinden sonra oldu. NVIDIA yönetim kurulu bağımsız bir soruşturma başlattı, ancak şirketin gizli bilgilerin sızdırıldığına dair hiçbir kanıt olmadığı belirtildi.

Bu skandal, rakiplerin AI çipleri üzerindeki egemenliğini hedef alması nedeniyle, NVIDIA'nın büyüme beklentilerine yönelik dışarıdaki endişeleri artırdı. OpenAI'nin, NVIDIA'ya olan bağımlılığını azaltmak amacıyla Google'ın TPU'larını satın almayı planladığı bildirildi. Bu haber henüz doğrulanmamış olsa da, Google'ın sürekli genişleyen çip ürün yelpazesinin, AI geliştiricilere daha büyük pazarlık gücü sağlayarak NVIDIA'nın piyasa payını ve gelecekteki büyüme beklentilerini tehdit edebileceği düşünülüyor.

Google, sadece çip hızı değil, aynı zamanda özel donanım ve yazılım ile de rekabet ediyor. Açık kaynaklı TorchTPU projesi, geliştiricilerin uygulamalarını yeniden yazmadan TPU üzerinde PyTorch ve Hugging Face modellerini çalıştırmalarını sağlıyor.

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.