Google Melancarkan Cip AI Baharu yang Berfokus pada Privasi dan Memori Tinggi

icon币界网
Kongsi
AI summary iconRingkasan
Google melancarkan dua cip AI baharu, TPU 8tx dan TPU 8i Max, dengan menekankan privasi dan memori tinggi. TPU 8tx menggunakan pengiraan rahsia untuk melindungi data, manakala TPU 8i Max menggandakan throughput memori. Google juga membuka sumber TPU Sync untuk mengurangkan latensi. Dengan data atas rantai yang menunjukkan peningkatan minat dalam infrastruktur AI, langkah ini berlaku ketika indeks ketakutan dan keserakahan menandakan perubahan perasaan di pasaran. Siri TPU kini melayani lebih 100 pelanggan, termasuk universiti dan makmal AI. Google bertujuan untuk menantang NVIDIA, yang sahamnya jatuh selepas isu CEO.
Laman web berita kripto melaporkan:

Google mengumumkan dua sistem pengiraan kecerdasan buatan pada hari Isnin, cuba menantang NVIDIA dengan cip yang menonjolkan perlindungan privasi dan memori besar.

Setelah TPU 8tx dan TPU 8i Max disertakan dalam jajaran Unit Pemprosesan Tensor generasi kedelapan Google, perusahaan akan mendapatkan empat konfigurasi untuk melatih dan menjalankan model AI. Google menyatakan bahawa pelanggannya telah mendekati 100 pelanggan TPU, merangkumi institusi seperti laboratorium AI hingga universiti.

Berbeza dengan pengolah grafik yang digunakan secara luas oleh NVIDIA, TPU adalah akselerator yang direka khas untuk AI. Google awalnya membangun cip-cip ini untuk perkhidmatan sendiri, tetapi kini semakin banyak menjual lesen penggunaan kepada syarikat luar, termasuk pelanggan yang melaksanakan secara tempatan.

Amin Vahdat, Chief Technology Officer dan Wakil Presiden Senior AI dan Infrastruktur Google, menulis dalam pengumuman Google: "Seiring komputasi berpindah dari skala manusia ke skala agen, perusahaan mencari akselerator yang mampu melakukan inferensi melintasi jendela konteks besar model AI."

Melindungi privasi maklumat sensitif

TPU 8tx menangani satu masalah yang dihadapi oleh banyak perusahaan yang serius mengadopsi AI: bagaimana melindungi maklumat sensitif semasa model menggunakan data.

Data dienkripsi semasa penyimpanan dan penghantaran, tetapi biasanya perlu didekripsi dalam memori semasa pemprosesan. Google menyatakan bahawa konfigurasi ini menggunakan pengiraan rahsia peringkat peranti keras, yang mampu mengasingkan data pelanggan dan parameter model milik semasa proses berjalan.

Sistem ini menggabungkan cip TPU 8t dengan prosesor AMD EPYC generasi kelima dan rangkaian Boardfly latensi rendah milik Google. Google menyatakan bahawa sistem ini boleh mengurangkan latensi sehingga separuhnya berbanding TPU 8t, dengan tambahan perlindungan yang hampir tidak menyebabkan kehilangan prestasi.

Dengan kata lain, tugas yang memerlukan perlindungan privasi tidak akan mengorbankan kelajuan atau ketepatan.

Perusahaan boleh menyesuaikan dan menjalankan model pada sistem yang sama tanpa perlu memindahkan maklumat sensitif antara kluster. Namun, pengiraan rahsia tidak dapat menghalang agen AI yang direka buruk daripada menyalahgunakan data yang diizinkan untuk diakses.

Menerobos batasan memori AI

TPU 8i Max pula menangani sekatan lain: memori. Agen autonomi memerlukan akses yang jauh lebih pantas kepada lebih banyak data semasa menganalisis kandungan seperti data, repositori kod, dokumen, atau video berjam-jam.

Google menggabungkan dua cip TPU 8i dalam satu modul, di mana keupayaan pengiraan, SRAM pada cip, dan throughput memori berkelajuan tinggi semuanya ganda ganda berbanding TPU 8i. Reka bentuk ini memuatkan dua kali ganda jumlah silikon dalam ruang rak yang sama.

Vahdat menulis: "Sistem keempat kami, TPU 8i Max, diciptakan untuk menangani masalah lain: dinding memori."

Google juga telah melepaskan TPU Sync, sebuah perisian yang menggerakkan memori kerja AI antara cip, pelayan, dan penyimpanan. Google menyatakan bahawa sistem ini boleh mengurangkan latensi penghantaran data dan masa permulaan respons sebanyak lebih 90%.

Pada masa Google mengeluarkan pengumuman di atas, NVIDIA sedang menghadapi tekanan yang semakin besar dari Wall Street. Pada hari Kamis, saham NVIDIA turun 9.3%, dan kemudian turun lagi 5% pada perdagangan hari Senin, selepas CEO Huang Renxun mengakui hubungan di luar perkahwinan dengan seorang wanita yang disyaki oleh agensi keamanan Amerika Syarikat sebagai melakukan spionaj untuk China. Dewan pengarah NVIDIA telah memulakan penyiasatan bebas, tetapi syarikat menyatakan tiada bukti bahawa rahsia perusahaan telah bocor.

Skandal ini memperburuk kebimbangan pihak luar terhadap prospek pertumbuhan NVIDIA, kerana pesaing sedang menargetkan keunggulan chip AI-nya. Dilaporkan bahawa OpenAI merancang untuk membeli TPU Google untuk mengurangkan ketergantungan terhadap NVIDIA. Sejauh ini, berita ini belum disahkan, tetapi jajaran produk chip Google yang terus membesar mungkin memberikan kuasa tawar-menawar yang lebih besar kepada pembangun AI, serta mengancam pangsa pasaran dan jangkaan pertumbuhan masa depan NVIDIA.

Google bukan hanya bersaing dalam kelajuan cip, tetapi juga dalam peranti khas dan perisian. Projek sumber terbuka TorchTPU-nya juga membolehkan pembangun menjalankan model PyTorch dan Hugging Face di TPU tanpa perlu menulis semula aplikasi.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.