avatar
Maya Zehavi

Mengikuti0Pengikut (X)20,99rbPostingan151Suka1,23rb
avatar

Seperti yang diprediksi, AI membutuhkan kriptografi untuk verifikasi. Dalam lingkungan multi-tenant dengan cloud yang dihosting dan model router, kebutuhan ini meningkat. Orang-orang perlu memverifikasi bahwa mereka mendapatkan model yang mereka bayar dan membuktikan kepada regulator model/weight apa yang mereka gunakan, karena model-model ini menjadi tulang punggung untuk keamanan dan alur kerja perusahaan di industri yang diatur. ZKP selalu menjadi solusi pelengkap untuk AI ketika layanan membutuhkan kepercayaan pihak ketiga terhadap kotak hitam AI. Namun perhatikan bahwa kebutuhan Anthropic untuk membuktikan inferensi berbeda dari penggunaan ZKP dalam kripto. Proyek-proyek kripto-natif dioptimalkan untuk verifikasi on-chain yang murah, sehingga mereka menginginkan bukti kecil dan menerima prover yang lambat. Anthropic dioptimalkan untuk auditor dan regulator off-chain, sehingga mereka menerima bukti sebesar 19 MB dan mendapatkan prover yang cepat. Anthropic memilih STARKs yang dapat menghasilkan bukti dengan cepat—sekelompok 24 permintaan dibuktikan dalam sekitar 223 detik, yang setara dengan sekitar 110 token/detik. Itu kira-kira 72x waktu GPU dibandingkan melayani permintaan yang sama dengan vLLM. Hal ini mendorong mereka mengadopsi bukti STARK yang aman terhadap komputer kuantum dan ramah GPU. Namun & ada satu hal besar—apa yang sebenarnya dibuktikan Anthropic kepada pihak ketiga hanyalah bahwa weight model dalam komitmen hash adalah apa yang dijalankan sebagai bilangan bulat sebagai respons terhadap satu prompt saja. Tidak cukup untuk membuktikan model apa yang sebenarnya dijalankan, hanya bahwa weight-nya adalah yang dikomitmenkan. Ini menyiratkan ada cara-cara intuitif untuk menipu sistem ini—mengkomitmen model yang lebih murah dengan weight serupa, menulis ulang prompt secara selektif untuk menipu sisa lalu lintas yang tidak diambil sampel atau dibuktikan, pemilihan acak dapat mengarahkan token dalam batas kesalahan bukti. https://t.co/VHR8DG0vbx

avatar

Sangat sulit untuk menilai berapa banyak sewa komputasi sekunder dan seberapa besar dampaknya terhadap pasar secara keseluruhan.

avatar

Saya sangat penasaran apakah ada hubungan antara serangan Polymarket dan serangan Binance. Terasa aneh karena kejadian itu hampir segera terjadi setelahnya. Ada yang melihat sesuatu yang menghubungkan kedua peristiwa ini?

avatar

Bacaan yang luar biasa, salah satu tulisan yang saya harap saya yang menulisnya. Saya pikir poin utamanya adalah peran mesin dalam pembiayaan pusat data. Dalam ABS pesawat, biaya mesin yang sangat besar menjadikannya faktor penentu dalam syarat pembiayaan, sama seperti GPU di pusat data AI dengan dua perbedaan utama: 1. Durasi nilai sisa. Mesin kehilangan nilai seiring penggunaan, dan lessor mengumpulkan dana perawatan untuk menutupinya. GPU kehilangan nilai karena usang, dan tidak ada yang menyisihkan dana untuk hal itu. Setiap penerbangan pesawat memengaruhi nilai sisa komponen-komponen pesawat yang tersisa. Setiap beberapa penerbangan, lessor membawa pesawat untuk perawatan dengan biaya yang dibiayai oleh dana perawatan yang telah dikumpulkan lessor. Jaminan pemberi pinjaman berubah nilainya sesuai dengan siklus mesin & perbaikan yang mengembalikan sebagian nilai yang hilang. Namun mesin itu sendiri dapat melayani lessor selama 25 tahun & dijual kembali di pasar sekunder. GPU sebaliknya tidak hanya menjadi usang, tetapi prosesnya jauh lebih cepat dalam rentang waktu 4-6 tahun. Ini berarti seluruh instrumen pembiayaan untuk pusat data adalah risiko jangka pendek dengan lebih banyak risiko ekor yang bergantung pada Nvidia, TPU, atau SRAM baru. Tidak ada yang benar-benar tahu berapa nilai B200 dalam 2 tahun, apalagi dalam 5 tahun. Ini semua adalah permainan tebak-tebakan. 2. Mesin GPU berdampak langsung pada pendapatan. Harga penerbangan ditentukan semata-mata oleh harga pasar, terlepas dari apakah penerbangan dari JFK ke Heathrow menggunakan GE GEnx-1B atau Rolls Royce Trent 1000. Harga penerbangan akan sama, tidak peduli mesin apa yang digunakan. Tidak ada yang tahu mesin apa yang ada di pesawat yang mereka naiki & hal itu tidak memengaruhi harga. Harga komputasi diturunkan langsung dari GPU mana yang disewa. Setiap chip melakukan hal yang berbeda & menghasilkan jumlah token yang berbeda, tetapi juga ada variasi di antara pusat data dengan GPU yang sama yang dapat memengaruhi jumlah token per jam yang tersedia.

avatar

Jika seluruh industri AI didanai oleh vendor di kedua ujungnya—Nvidia sebagai bank yang berinvestasi pada neocloud dan pemasok mereka dengan uang tunai, sementara pendapatan berasal dari konversi Anthropic, maka hampir semua pemain yang berada di tengah konflik dan tidak memiliki pendapatan nyata dari pihak lain sedang menunggu rugpull.

avatar

Kami berpindah dari kapitalisme tahap akhir dengan para tuan teknologi besar menjadi kesultanan yang bisa mengabaikan rakyat biasa. Ini hanya crypto di ruang terbuka, dan sekarang kita diminta untuk menyembah model-model dewa kecil.

avatar

Ironinya adalah sistem sanksi dinyatakan pada tahun 90-an di bawah Clinton & Rabin sebagai cara untuk mengatasi terorisme & proliferasi NCW. Sekarang coba jelaskan kepada orang awam bahwa tidak ada crypto atau blockchain yang merupakan solusi yang masuk akal untuk mempertahankan ekonomi maju yang dibangun di atas pendanaan VC untuk startup, m&a, & penjualan sistem pertahanan.