ข่าวด่วนจาก Beating AI: NVIDIA Groq 3 LPX ได้เริ่มผลิตในปริมาณใหญ่แล้ว เมื่อเดือนธันวาคมปีที่แล้ว NVIDIA ใช้เงินประมาณ 20,000 ล้านดอลลาร์สหรัฐในการซื้อสิทธิ์เทคโนโลยีจาก Groq และจ้างทีมงานหลัก เช่น โจนาธาน รอสส์ ไปร่วมงาน หลังจาก 8 เดือน ผลิตภัณฑ์ฮาร์ดแวร์ชิ้นแรกจากธุรกรรมนี้ก็ปรากฏตัวอย่างเป็นทางการ Groq 3 LPX เป็นระบบเฉพาะทางที่ออกแบบมาเพื่อเร่งความเร็วการให้เหตุผลของโมเดลขนาดใหญ่ โดยใช้ชิป Groq 3 LPU จำนวน 256 ตัว ในการทดสอบของ Artificial Analysis เมื่อป้อน Gemma 4 31B ด้วย Token 100,000 ตัว Groq 3 LPX สามารถสร้างได้ถึง 3,431 Token ต่อวินาที ในเงื่อนไขการทดสอบเดียวกัน API ที่เร็วที่สุดที่สามารถเข้าถึงได้ในตลาดขณะนั้นมีเพียงประมาณ 870 Token ต่อวินาที ซึ่ง Groq 3 LPX เร็วกว่าเกือบ 4 เท่า ในสถานการณ์การใช้งานจริง Rubin GPU จะรับผิดชอบการคำนวณที่หนักกว่า ในขณะที่ Groq 3 LPX จะเน้นเพิ่มความเร็วในการสร้าง Token สำหรับ Coding Agent การเรียกใช้งานโมเดลต่อเนื่องหลายสิบหรือหลายร้อยครั้ง จะช่วยลดเวลาที่ต้องรอให้โมเดล “พูด” ออกมาได้อย่างชัดเจน Nebius จะเป็นผู้ให้บริการคลาวด์ AI รายแรกที่นำ Groq 3 LPX มาใช้งาน ที่น่าสนใจยิ่งกว่านั้นคือ Groq เองก็เป็นหนึ่งในผู้ใช้งานรายแรก และจะร่วมกับ Dell ในการติดตั้งระบบ เมื่อปีที่แล้วพวกเขาอนุญาตให้นำเทคโนโลยีไปใช้กับ NVIDIA แต่ปีนี้กลับเริ่มใช้ “Groq” ที่ NVIDIA พัฒนาขึ้น
ข้อตกลงมูลค่า 2 พันล้านดอลลาร์สหรัฐของ NVIDIA กับ Groq ให้ผลผลิตเมื่อชิป Groq 3 LPX เริ่มการผลิตจำนวนมาก
MarsBitแชร์
สรุป
ข่าวคริปโตเคอเรนซี: ชิป Groq 3 LPX ของ NVIDIA ได้เริ่มการผลิตเชิงพาณิชย์เต็มรูปแบบแล้ว เมื่อเดือนธันวาคมที่ผ่านมา บริษัทได้ซื้อเทคโนโลยีของ Groq ในราคา 2 พันล้านดอลลาร์สหรัฐ และรับพนักงานหลัก รวมถึงผู้ก่อตั้ง Jonathan Ross แปดเดือนต่อมา ผลิตภัณฑ์ชิ้นแรกได้เปิดตัวแล้ว ระบบ Groq 3 LPX ที่ออกแบบมาสำหรับการอนุมานแบบโมเดลขนาดใหญ่ ใช้ชิป Groq 3 LPU จำนวน 256 ตัว ในการทดสอบ ระบบสามารถสร้างผลลัพธ์ได้ 3,431 โทเค็นต่อวินาทีสำหรับ Gemma 2 31B หลังจากป้อนข้อมูล 100,000 โทเค็น—เร็วเกือบสี่เท่าเมื่อเทียบกับ API สาธารณะที่เร็วที่สุด Nebius จะเป็นผู้ให้บริการคลาวด์ AI คนแรกที่ใช้ Groq 3 LPX โดย Groq และ Dell ก็จะนำระบบไปใช้งานเช่นกัน ข่าวคริปโตเคอเรนซีนี้ถือเป็นก้าวสำคัญในการเร่งความเร็วของ AI
แหล่งที่มา:แสดงต้นฉบับ
คำปฏิเสธความรับผิดชอบ: ข้อมูลในหน้านี้อาจได้รับจากบุคคลที่สาม และไม่จำเป็นต้องสะท้อนถึงมุมมองหรือความคิดเห็นของ KuCoin เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ในการให้ข้อมูลทั่วไปเท่านั้น โดยไม่มีการรับรองหรือการรับประกัน และจะไม่ถูกตีความว่าเป็นคำแนะนำทางการเงินหรือการลงทุน KuCoin จะไม่รับผิดชอบต่อความผิดพลาดหรือการละเว้นในเนื้อหา หรือผลลัพธ์ใดๆ ที่เกิดจากการใช้ข้อมูลนี้
การลงทุนในสินทรัพย์ดิจิทัลอาจมีความเสี่ยง โปรดประเมินความเสี่ยงของผลิตภัณฑ์และความเสี่ยงที่คุณยอมรับได้อย่างรอบคอบตามสถานการณ์ทางการเงินของคุณเอง โปรดดูข้อมูลเพิ่มเติมได้ที่ข้อกำหนดการใช้งานและเอกสารเปิดเผยข้อมูลความเสี่ยงของเรา