ชิป Jalapeño ของ OpenAI ทำผลงานเหนือ NVIDIA Blackwell ในเกณฑ์สำคัญ

ผู้เขียนต้นฉบับ: ตงจิง

Source: Wall Street Journal

เปิดตัวชิปตัวแรกที่ OpenAI พัฒนาเอง Jalapeño ซึ่งเปลี่ยนแปลงโครงสร้างเดิมของอุตสาหกรรมชิป AI ด้วยความเร็วที่น่าตกใจ—นี่ไม่ใช่แค่การเปิดตัวผลิตภัณฑ์ แต่ยังเป็นสัญญาณว่า AI กำลังเปลี่ยนแปลงวิธีการออกแบบชิปเอง

ตามบทความของ 华尔街见闻文章 รายงานโดย Bloomberg เมื่อวันที่ 25 สิงหาคม OpenAI ระบุว่า Jalapeño นำหน้า NVIDIA GB300 ในสองตัวชี้วัดหลัก ได้แก่ ปริมาณงาน AI ที่สามารถจัดการได้ต่อหน่วยการใช้พลังงานและความเร็วในการตอบสนอง ชิปนี้พัฒนาโดย OpenAI ร่วมกับ Broadcom โดยออกแบบมาเฉพาะสำหรับขั้นตอนการอนุมาน AI และอาจเริ่มใช้งานจริงในช่วงปลายปีนี้ Richard Ho หัวหน้าทีมชิปของ OpenAI กล่าวว่า Jalapeño สามารถให้ประสิทธิภาพที่แข็งแกร่งด้วยการใช้พลังงานเพียง 700 วัตต์ ซึ่งช่วยลดต้นทุนไฟฟ้าของศูนย์ข้อมูลได้อย่างมาก

ตามการเปิดเผยของสถาบันวิจัยเซมิคอนดักเตอร์ SemiAnalysis ชิปนี้ใช้เวลาเพียงประมาณ 16 เดือนตั้งแต่เริ่มการออกแบบจนถึงการผลิตแบบฟลูว์ จุดสำคัญของการผลิตแบบ CoWoS สำเร็จในเดือนพฤศจิกายน 2025 ซึ่งเพิ่งผ่านไปเพียง 9 เดือนเท่านั้น น้อยกว่ารอบเวลาปกติของอุตสาหกรรมที่อยู่ระหว่าง 18 ถึง 36 เดือน

นักวิจัยจาก SemiAnalysis ได้เดินทางไปยังห้องปฏิบัติการ OpenAI โดยใช้ชุดการทดสอบแบบเฉพาะตัวของพวกเขา InferenceX เพื่อทดสอบ Jalapeño ผลลัพธ์สรุปตรงไปตรงมา: ชิปนี้มีประสิทธิภาพต่อวัตต์ (perf/W) ดีกว่าชิปทั้งหมดของ NVIDIA, AMD และ Google ที่พวกเขาเคยทดสอบมาก่อน

สิ่งที่น่าสนใจยิ่งกว่าคือ ผลงานนี้ได้รับมาโดยไม่ได้เปิดใช้งานการปรับปรุงต่างๆ เช่น การถอดรหัสเชิงกลยุทธ์ของ Jalapeño การแยกการเติมล่วงหน้าและการถอดรหัส ขณะที่ชิปอื่นๆ ที่เข้าร่วมการเปรียบเทียบได้เปิดใช้งานการตั้งค่าที่ดีที่สุดของตนเองแล้ว

ไม่แปลกใจที่นักวิเคราะห์เซมิคอนดักเตอร์ชื่อดัง Dylan Patel ก็กล่าวตรงไปตรงมาว่า “ไม่เพียงแต่ Blackwell จะถูกแทนที่ แต่แม้แต่ชิป Rubin ของ NVIDIA ก็ถูกเกินหน้าแล้ว!”

การวิเคราะห์ระบุว่าผลลัพธ์นี้เป็นการท้าทายโดยตรงต่อตำแหน่งทางตลาดของ NVIDIA และทำให้ตลาดทบทวนโครงสร้างการแข่งขันในตลาดชิป AI อีกครั้ง

ผลการทดสอบของ SemiAnalysis แสดงให้เห็นว่า Jalapeño มีข้อได้เปรียบอย่างชัดเจนในด้านประสิทธิภาพการให้เหตุผล

บนโมเดล GPT-OSS 120B Jalapeño สามารถสร้างโทเค็นได้ประมาณ 1,459 โทเค็นต่อวินาที ในขณะที่ NVIDIA GB200 มีเพียง 535 โทเค็นต่อวินาที; ในแง่ของความล่าช้าแบบ end-to-end Jalapeño ใช้เวลาเพียง 1.65 วินาทีในการ hoàn thànhงานหนึ่งงาน ขณะที่ GB300 ต้องใช้เวลาใกล้เคียง 6 วินาที ซึ่งต่างกันถึง 3.6 เท่า ในสถานการณ์ที่มีการโต้ตอบสูง เมื่อ GB300 ถูกผลักให้ทำงานที่ความเร็วการถอดรหัสเร็วที่สุด (169 โทเค็นต่อวินาที) Jalapeño มีปริมาณการรับส่งข้อมูลมากกว่าถึง 104.3 เท่า

ในตัวชี้วัดหลักของประสิทธิภาพการใช้พลังงานของศูนย์ข้อมูล ซึ่งวัดจำนวนโทเค็นที่สร้างได้ต่อเมกะวัตต์ต่อวินาที Jalapeño ทำได้ประมาณ 53 ล้านโทเค็น/MW/s บนโมเดล GPT-OSS ในขณะที่ GB200 NVL72 ทำได้เพียงประมาณ 10 ล้าน

SemiAnalysis ชี้ให้เห็นว่าตัวชี้วัดนี้โดยพื้นฐานแล้วเทียบเท่ากับจำนวนโทเค็นที่ผลิตได้ต่อจูลหนึ่ง ซึ่งกำหนดขีดจำกัดรายได้ของศูนย์ข้อมูลโดยตรง—ในยุคที่พลังงานจำกัดความสามารถในการประมวลผล ข้อได้เปรียบในมิตินี้จึงมีความสำคัญเป็นพิเศษ

ในแง่ของต้นทุนระดับระบบ ตามการคำนวณของ SemiAnalysis ที่รวมต้นทุนการจ่ายไฟ ระบบระบายความร้อน และเครือข่ายทั้งหมด ต้นทุนการถือครองทั้งหมดต่อชิปต่อชั่วโมงของ Jalapeño อยู่ที่ประมาณ 1.56 ดอลลาร์สหรัฐ ใกล้เคียงกับ H100 ที่ 1.55 ดอลลาร์สหรัฐ ในขณะที่ NVIDIA Vera Rubin สูงถึง 3.61 ดอลลาร์สหรัฐ

ควรสังเกตว่า SemiAnalysis ยังได้เสนอข้อสงสัยสำคัญหลายประการ

ประการแรก โมเดลที่ใช้ในการทดสอบไม่ใช่โมเดลล่าสุดในปัจจุบัน NVIDIA และ AMD ได้เผยแพร่ผลลัพธ์จากชุดเครื่องมือ AgentX บนโมเดลขนาดใหญ่กว่า เช่น DeepSeek V4 Pro และ Kimi K3 ขณะที่ Jalapeño ยังไม่ได้ทำการทดสอบด้วย AgentX — ชุดเครื่องมือนี้สามารถสะท้อนประสิทธิภาพในสถานการณ์การผลิตจริง เช่น การสนทนาหลายรอบและบริบทยาวนานได้ดีกว่า

ที่สอง ตัวเปรียบเทียบที่ยุติธรรมกว่าควรเป็น NVIDIA Vera Rubin ที่ใช้ HBM4 เหมือนกัน ไม่ใช่ Blackwell; ประสิทธิภาพต่อวัตต์ของ Vera Rubin สูงขึ้นประมาณ 5.4 เท่าเมื่อเทียบกับ GB200 NVL72 และเมื่อเทียบกับ Jalapeño ทั้งสองตัวมีต้นทุนรวมต่อ Token (TCO) ใกล้เคียงกัน

ประการที่สาม Jalapeño ยังอยู่ในขั้นตอนต้นแบบวิศวกรรม การผลิตในปริมาณมากคาดว่าจะค่อยๆ เพิ่มขึ้นในปี 2027

เหตุผลหลักที่ Jalapeño สามารถพัฒนาได้เร็วอย่างน่าทึ่งคือการใช้งานเครื่องมือ AI อย่างลึกซึ้ง ตามรายงานของ SemiAnalysis เปิดเผยว่า OpenAI ใช้โมเดล AI ภายในจำนวนมากในกระบวนการออกแบบชิป รวมถึง GPT-Astra ที่ได้รับความสนใจจากสาธารณะ

ผู้ใช้แพลตฟอร์มโซเชียล X Andrew Curran อ้างข้อมูลจาก OpenAI ว่า GPT-Astra มีส่วนร่วมอย่างลึกซึ้งในการพัฒนา Jalapeño ตลอดทั้งกระบวนการ:

ทีมงานใช้ Codex และ GPT-Astra ปรับแต่งโมเดลโอเพนซอร์สสามตัวที่ไม่ได้อยู่ในแผนการผลิตจำนวนมากของ Jalapeño ให้อยู่ในสถานะประสิทธิภาพสูงภายในสองเดือน

นั่นหมายความว่า AI ไม่เพียงแต่เร่งกระบวนการออกแบบชิปเท่านั้น แต่ยังขยายขอบเขตของโมเดลที่ชิปสามารถรองรับได้อย่างรวดเร็ว

ข้อมูลจาก SemiAnalysis ได้ระบุปริมาณการมีส่วนร่วมนี้เพิ่มเติม:

การออกแบบที่ช่วยด้วย AI ช่วยลดพื้นที่ของหน่วย SIMD ลง 8% และลดพื้นที่ของแมทริกซ์เอ็นจินลง 10% พร้อมทั้งให้ประสิทธิภาพด้านเวลาและพลังงานดีกว่ารุ่นเริ่มต้น

ในระดับซอฟต์แวร์ OpenAI ใช้ Codex รุ่นขยายภายในเขียนเคอร์เนล Jalapeño โดยรหัสเคอร์เนลบางส่วนมีความยาวประมาณ 3,000 บรรทัด; ในโมดูลการให้ความสำคัญและ MoE ที่ต้องการประสิทธิภาพสูงสุด รหัสที่ AI สร้างขึ้นเร็วกว่าการดำเนินการของวิศวกรชั้นนำของมนุษย์ 1.5 ถึง 1.8 เท่า

SemiAnalysis ประเมินอย่างเฉียบคมว่า: โมเดลของ OpenAI ที่ทำงานบน GPU ของ NVIDIA (เช่น GPT-5.6 Sol) กำลังถูกใช้เพื่อออกแบบชิปที่เป็นภัยคุกคามที่แท้จริงต่อแนวป้องกันของ CUDA — "GPU ของ NVIDIA กำลังสร้างผู้สืบทอดที่อาจแทนที่ตัวเองขึ้นมาแบบเรียลไทม์"

โดยทั่วไปแล้ว ผู้คนมักคาดการณ์ว่า Jalapeño เป็นชิปที่ออกแบบมาเฉพาะสำหรับโมเดลของ OpenAI เอง แต่ผลสรุปของ SemiAnalysis กลับตรงกันข้าม: Jalapeño เป็นชิปทั่วไปสำหรับการประมวลผล AI ที่สามารถรันโมเดลและงานต่างๆ ได้หลายประเภท รวมถึงเกม Doom ที่ถูกย้ายโค้ดโดย Codex

ในระดับสถาปัตยกรรม ปรัชญาการออกแบบหลักของ Jalapeño คือ "การกำจัดความล่าช้าที่คงที่" ต่างจาก GPU ที่พึ่งพาโครงสร้างหน่วยความจำที่ซับซ้อน Jalapeño เชื่อมต่อแกนคำนวณโดยตรงกับชิ้นส่วน HBM และใช้เครือข่ายรวมความเร็วสูงเฉพาะทางในการซิงโครไนซ์ระหว่างแกน ซึ่งลดความล่าช้าในการเข้าถึงหน่วยความจำอย่างมาก

นอกจากนี้ Jalapeño ใช้แกนแบบเรียกใช้งานแบบไม่เรียงลำดับ (OoO) ร่วมกับแคช L1 แทนหน่วยความจำชั่วคราวที่จัดการโดยซอฟต์แวร์ซึ่งใช้กันทั่วไปในอุปกรณ์เร่งความเร็วอื่นๆ ทำให้สามารถเข้าใกล้ค่าพีคเชิงทฤษฎีของฮาร์ดแวร์ได้ดีขึ้นในสถานการณ์ที่มีขนาดกลุ่มเล็กและหน่วงเวลาต่ำ

ในแง่ของแบนด์วิดธ์หน่วยความจำ Jalapeño ใช้ HBM4 ซึ่งบรรลุแบนด์วิดธ์หน่วยความจำต่อแพ็คเกจเดียวที่ 15.4 TB/s โดยมีแบนด์วิดธ์ HBM ต่อวัตต์อยู่ที่ 22 ในขณะที่ NVIDIA Rubin อยู่ที่ 11.1 และ GB300 อยู่ที่เพียง 5.71

SemiAnalysis ชี้ว่า Jalapeño มีความเร็วขา HBM4 ที่ 10Gbps ซึ่งสูงกว่าเล็กน้อยจาก Rubin ของ NVIDIA ที่ 9.6Gbps ผู้จัดหา HBM อาจเป็น Samsung

น่าสังเกตว่า Jalapeño ตัดสินใจไม่ใช้การปรับใช้แบบแยกการเติมล่วงหน้าและการถอดรหัส (PDD) SemiAnalysis ได้อธิบายรายละเอียดไว้ดังนี้:

ในสภาพแวดล้อมการผลิตจริง พารามิเตอร์ต่างๆ เช่น อัตราส่วนการป้อนข้อมูลและเอาต์พุต ปริมาณการร้องขอพร้อมกัน และอัตราการเข้าถึงแคช มีการเปลี่ยนแปลงอย่างต่อเนื่อง การแบ่งกลุ่มแบบคงที่จะทำให้ประสิทธิภาพการใช้งานโดยรวมลดลง ในขณะที่กลุ่มทรัพยากรแบบเหมือนกันสามารถตอบสนองต่อการเปลี่ยนแปลงของปริมาณการรับส่งข้อมูลได้อย่างยืดหยุ่น โดยจัดสรรทรัพยากรแบบไดนามิกระหว่างคำขอที่ไวต่อความล่าช้าและการประมวลผลแบบแบตช์ที่มีปริมาณสูง

SemiAnalysis ได้เสนอข้อสรุปที่มีน้ำหนักในรายงานว่า กำแพงป้องกันของ CUDA อาจได้ตายไปแล้ว

สิ่งนี้อิงจากความเร็วในการเริ่มต้นของซอฟต์แวร์ NVIDIA Rubin ใช้เวลาเสร็จสิ้นการผลิต CoWoS ช้ากว่า Jalapeño หนึ่งเดือน แต่จนถึงขณะนี้ ข้อมูลการทดสอบสาธารณะของ Rubin ที่ผู้ภายนอกสามารถเห็นได้ มีเพียงจากตัวอย่างวิศวกรรมของ CoreWeave เท่านั้น NVIDIA ไม่ได้เปิดให้บุคคลภายนอกเข้าไปทดสอบอย่างอิสระในห้องปฏิบัติการเหมือน OpenAI SemiAnalysis มองว่า สิ่งนี้สะท้อนถึงช่องว่างของความสุกงอมของซอฟต์แวร์ ไม่ใช่ช่องว่างของฮาร์ดแวร์โดยตรง

การสร้างสแต็กซอฟต์แวร์ตั้งแต่ศูนย์ทำให้ OpenAI สามารถหลีกเลี่ยงภาระทางประวัติศาสตร์และตัดสินใจออกแบบสถาปัตยกรรมที่สะอาดกว่าได้ OpenAI ใช้ภาษาโปรแกรมนิวเคลียสที่พัฒนาขึ้นเองชื่อ Gluon (ซึ่งสร้างขึ้นจาก Triton) และเครื่องประมวลผลภายในชื่อ "Teacup" พร้อมใช้ Codex เพื่อปรับแต่งนิวเคลียสอย่างรวดเร็ว SemiAnalysis สังเกตว่าภายในเวลาไม่ถึงสองสัปดาห์ ความจุของ Jalapeño ในความเร็วการโต้ตอบเฉพาะเจาะจงเพิ่มขึ้นมากกว่าสองเท่า ในเวลาแปดวัน ทีมได้ขยายการขนานแบบเทนเซอร์จาก TP8 เป็น TP32 และบรรลุการปรับใช้ในระดับตู้เต็มรูปแบบข้ามแร็ก

อย่างไรก็ตาม SemiAnalysis ยังชี้ให้เห็นอย่างชัดเจนว่า การทดสอบในปัจจุบันครอบคลุมเฉพาะงานโหลดที่ค่อนข้างง่ายอย่าง 8k1k เท่านั้น และยังไม่ได้ดำเนินการทดสอบหลายรอบแบบบริบทยาวของ AgentX ในงานโหลดตัวแทนที่ซับซ้อนยิ่งขึ้น ประสิทธิภาพของส่วนประกอบต่างๆ เช่น ตัวจัดเส้นทางและแคชคำนำหน้า จะกลายเป็นการทดสอบใหม่

เรื่องราวของ Jalapeño ยังไม่จบลง

ตามการเปิดเผยของ SemiAnalysis ขณะนี้ตัวอย่างที่ใช้ในการทดสอบแบบเปิดเผยทั้งหมดเป็นรุ่น A0 ขณะที่รุ่น B0 ได้เข้าสู่โรงงานผลิตวัสดุซิลิคอนแล้ว และคาดว่าจะเพิ่มประสิทธิภาพต่อวัตต์ขึ้นอีกประมาณ 25% เมื่อเทียบกับ A0—ประสิทธิภาพการคำนวณ MXFP4 ของ die หนึ่งชิ้นของ B0 จะอยู่ที่ 13.4 PFLOPs โดย TDP ยังคงอยู่ที่ 700W

ในระดับระบบ OpenAI ร่วมมือกับ Celestica เพื่อออกแบบโซลูชันชั้นวางที่สมบูรณ์: ตู้ ASIC แต่ละตู้ประกอบด้วยชิป Jalapeño 128 ตัว ระบบสองตู้มีการใช้พลังงานรวมประมาณ 160kW เทียบเท่ากับตู้คู่กว้างของ NVIDIA GB300

ในด้านการปรับใช้แบบขยายขนาดใหญ่ โดเมนเครือข่ายเดียวสามารถเชื่อมต่อ Jalapeño XPU ได้สูงสุด 2048 ตัว ครอบคลุม 16 เคาน์เตอร์ ในด้านการผลิตจำนวนมาก SemiAnalysis คาดการณ์ว่าจะค่อยๆ เพิ่มกำลังการผลิตในปี 2027 โดยเป้าหมายถัดไปคือการปรับใช้ขนาด 100MW

ภาพรวมเชิงกลยุทธ์ที่ใหญ่กว่าคือ OpenAI และ Broadcom ได้ลงนามในข้อตกลงความร่วมมือสำหรับตัวเร่งความเร็วแบบกำหนดเองขนาด 10GW ซึ่งมีปริมาณใกล้เคียงกับกำลังการผลิตเต็มรูปแบบของโรงไฟฟ้านิวเคลียร์สิบแห่ง

华尔街见闻文章指出，OpenAI 芯片负责人 Richard Ho 表示，公司已达到可显著降低基础设施成本的功耗与成本水平，“这仅仅是第一步”。他同时强调，英伟达仍是重要合作伙伴，OpenAI 对算力的需求极为庞大，短期内不会放弃现有供应商。

นักวิเคราะห์ชี้ว่า ความหมายของ Jalapeño อาจไม่ได้อยู่ที่ว่ามันสามารถแทนที่ชิปของ NVIDIA ได้กี่ตัวในวันนี้ แต่อยู่ที่การพิสูจน์สิ่งที่เคยถูกตั้งคำถามอย่างกว้างขวาง: บริษัท AI แห่งหนึ่ง ใช้เครื่องมือ AI สร้างชิปที่มีความสามารถแข่งขันได้จริงภายในเวลาที่สั้นที่สุดเท่าที่เคยมีมา วงจรหมุนเวียนนี้เริ่มต้นขึ้นแล้ว