Jane Street หนึ่งในบริษัทการเทรดโดยใช้การวิเคราะห์เชิงปริมาณที่ลับที่สุดและทำกำไรสูงที่สุดในโลก ได้เปิดเผยเส้นทางโครงสร้างพื้นฐานปัญญาประดิษฐ์ของตน ซึ่งเริ่มต้นด้วยเซิร์ฟเวอร์ Dell หกเครื่อง และเติบโตขึ้นเป็นศูนย์ข้อมูลที่ออกแบบมาเฉพาะในรัฐเท็กซัส ที่มี GPU แบบระบายความร้อนด้วยของเหลวจำนวน 4,032 ตัว
บริษัทยังเปิดเผยสิ่งที่น่าสนใจยิ่งกว่าฮาร์ดแวร์เอง: ระบบประมูลภายในที่เรียกว่า “hive bucks” ซึ่งบังคับให้ทีมต่างๆ แข่งประมูลกันเพื่อขอเวลาการประมวลผลด้วย GPU
จากเซิร์ฟเวอร์หกตัวเป็น 4,032 GPU
ความทะเยอทะยานด้านปัญญาประดิษฐ์ของ Jane Street ไม่ได้เริ่มต้นด้วยวิสัยทัศน์อันยิ่งใหญ่และงบประมาณไม่จำกัด แต่เริ่มต้นด้วยกล่อง Dell หกเครื่อง นับตั้งแต่นั้น บริษัทได้เปลี่ยนจุดเริ่มต้นอันเรียบง่ายนี้ให้เป็นศูนย์เฉพาะทางในรัฐเท็กซัส ที่เต็มไปด้วย GPU นับพันตัวที่ออกแบบมาโดยเฉพาะสำหรับการวิจัยปัญญาประดิษฐ์และการพัฒนาโมเดลการซื้อขาย
ระบบระบายความร้อนด้วยของเหลวสามารถมีประสิทธิภาพการใช้พลังงานสูงกว่าระบบระบายความร้อนด้วยอากาศถึง 15% และน้ำสามารถถ่ายเทความร้อนได้มีประสิทธิภาพมากกว่าอากาศอย่างมาก การออกแบบในระดับแร็คสมัยใหม่สามารถรองรับได้สูงสุด 256 GPU ต่อแร็คด้วยระบบระบายความร้อนด้วยของเหลว ซึ่งเป็นความหนาแน่นที่เป็นไปไม่ได้หากใช้พัดลมเพียงอย่างเดียว
เศรษฐกิจภายในของการประมวลผล
บริษัทได้สร้าง “hive bucks” สกุลเงินเสมือนที่แจกจ่ายให้ทีมภายในเป็นงบประมาณสำหรับเวลาการใช้งาน GPU ทีมงานไม่เพียงแต่ขอทรัพยากรคอมพิวเตอร์ผ่านระบบตั๋วหรือรอคิว แต่ต้องเข้าร่วมการประมูลแบบเรียลไทม์ เพื่อแข่งขันกับทีมอื่นๆ ที่ก็ต้องการฮาร์ดแวร์เดียวกัน
ระบบบังคับให้ทีมต้องตัดสินใจอย่างแท้จริง หากกลุ่มวิจัยใช้ฮีฟบั๊กส์ของตนไปกับการฝึกอบรมที่มีความเสี่ยง สิ่งนี้จะทำให้มีทรัพยากรเหลือน้อยลงสำหรับโครงการถัดไป ซึ่งสร้างลำดับความสำคัญตามธรรมชาติโดยไม่จำเป็นต้องมีการตัดสินใจจากผู้บริหารระดับสูงว่าโครงการปัญญาประดิษฐ์ใดสำคัญที่สุด