Jane Street, dünyadaki en gizli ve karlı kantitatif işlem firmalarından biri, AI altyapı yolculuğunu ortaya koydu. Altı Dell sunucusuyla başlayan bu yolculuk, Texas'ta 4.032 sıvı soğutmalı GPU'yu barındıran amaçlı bir veri merkezine dönüştü.
Şirket, donanımın kendisinden daha ilginç bir şey de ortaya koydu: takımların GPU hesaplama süresi için birbirleriyle teklif vermesini zorunlu kılan “hive bucks” adlı dahili bir açık artırma sistemi.
Altı sunucudan 4.032 GPU'ya
Jane Street’in AI hedefleri, büyük bir vizyon ve boş bir çekiyle başlamadı. Altı Dell kutusuyla başladı. Şirket, bu скром başlangıcı, yapay zeka araştırması ve ticaret modeli geliştirme için özel olarak tasarlanmış binlerce GPU ile dolu bir Texas tesisine dönüştürdü.
Sıvı soğutma sistemleri, hava soğutmalı karşılıklarına göre %15'e kadar daha fazla enerji verimliliğine sahip olabilir ve su, havadan çok daha etkili bir şekilde ısıyı transfer eder. Modern raf ölçekli tasarımlar, sıvı soğutma ile her rafa kadar 256 GPU destekleyebilir; bu yoğunluk, yalnızca fanlarla mümkün olmayacaktır.
Hesaplama iç ekonomisi
Şirket, GPU süresi için iç ekiplere dağıtılan bir sanal para birimi olan “hive bucks” oluşturdu. Ekipler, hesap sistemi üzerinden bilgi işlem talep etmiyor veya sıraya girmiyor. Aynı donanıma ihtiyaç duyan diğer ekiplerle rekabet ederek canlı bir ihalede onu teklif veriyorlar.
Sistem, takımlara gerçek seçimler yapmayı zorlar. Bir araştırma grubu, spekülatif bir eğitim çalışması için kovan parasını harcarsa, sonraki proje için daha az kaynaga sahip olur. Bu, hangi yapay zeka girişiminin en önemli olduğuna dair yukarıdan aşağıya yönetim kararlarına gerek kalmadan doğal önceliklendirmeye yol açar.