Caltech เปิดแหล่งข้อมูลโมเดล Bonsai 1 บิต: 8 พันล้านพารามิเตอร์ที่ 1.15 GB, 44 โทก/วินาทีบน iPhone

iconChainthink
แชร์
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconสรุป

expand icon
ข่าวบนโซ่: PrismML ของ Caltech ซึ่งนำโดย Babak Hassibi ได้เปิดรหัสแหล่งที่มาของโมเดล AI Bonsai แบบ 1 บิต รุ่น 8B มีพารามิเตอร์ 8.2 พันล้าน ใช้หน่วยความจำ 1.15GB และทำงานได้ที่ 44 โทเค็นต่อวินาทีบน iPhone 17 Pro Max ข่าว AI + crypto: โมเดลนี้ใช้พลังงานน้อยกว่ารุ่น 16 บิตถึง 4-5 เท่า PrismML ได้ระดมทุนไปแล้ว 16.25 ล้านดอลลาร์สหรัฐผ่าน SAFE และรอบ seed จาก Khosla Ventures, Cerberus Capital และ Caltech

ChainThink รายงานว่า เมื่อวันที่ 1 เมษายน 2026 ตามการติดตามของ 1M AI News ห้องปฏิบัติการปัญญาประดิษฐ์ PrismML ซึ่งก่อตั้งร่วมโดยนักคณิตศาสตร์จากสถาบันเทคโนโลยีแคลิฟอร์เนีย Babak Hassibi ได้สิ้นสุดช่วงเวลาเงียบ และเปิดแหล่งที่มาของโมเดลภาษาขนาดใหญ่ซีรีส์ 1-bit Bonsai โมเดลหลัก 1-bit Bonsai 8B มีพารามิเตอร์ 8.2 พันล้านตัว โดยใช้หน่วยความจำเพียง 1.15 GB ลดขนาดลงประมาณ 14 เท่าเมื่อเทียบกับโมเดล 16-bit ในระดับเดียวกัน พร้อมเปิดตัวโมเดลขนาดเล็กเพิ่มเติมอีกสองรุ่นคือ 4B (0.5 GB) และ 1.7B (0.24 GB)


Bonsai 8B เป็นโมเดล 1-บิตแบบเต็มรูปแบบแบบ end-to-end โดยชั้นฝังตัว ชั้นความสนใจ ชั้น MLP และหัวเอาต์พุตทั้งหมดใช้ค่า +1 หรือ -1 เท่านั้นในการแทนน้ำหนัก โดยไม่มีพัทความแม่นยำสูง PrismML ระบุว่าความสามารถในการให้คำตอบและการเข้าใจภาษาบนมาตรฐานการทดสอบทั่วไปนั้นเทียบเท่ากับโมเดลความแม่นยำเต็ม 16-บิต คณิตศาสตร์การบีบอัดหลักถูกพัฒนาโดยทีมงานตลอดหลายปีที่แคลิฟอร์เนียเทคโนโลยี และเป็นทรัพย์สินทางปัญญาของแคลิฟอร์เนียเทคโนโลยี โดย PrismML เป็นผู้ได้รับสิทธิ์ผูกขาดแต่เพียงผู้เดียว โมเดลนี้ได้รับการฝึกอบรมด้วย Google TPU v4


ในแง่ความเร็วที่ทดสอบจริง: M4 Pro Mac ให้ความเร็ว 136 tok/s, RTX 4090 ให้ความเร็ว 440 tok/s, iPhone 17 Pro Max อยู่ที่ประมาณ 44 tok/s โมเดลมาตรฐาน 16-bit ขนาด 8B ไม่สามารถโหลดลงบน iPhone ได้เลย และการใช้พลังงานลดลงประมาณ 4-5 เท่าเมื่อเปรียบเทียบกับโมเดล 16-bit PrismML ชี้ให้เห็นว่าฮาร์ดแวร์ปัจจุบันไม่ได้ถูกออกแบบมาสำหรับการอนุมาน 1-bit ข้อได้เปรียบด้านความเร็วและการใช้พลังงานส่วนใหญ่มาจากการลดการใช้หน่วยความจำ หากในอนาคตมีฮาร์ดแวร์ที่ออกแบบมาเฉพาะสำหรับ 1-bit ประสิทธิภาพอาจเพิ่มขึ้นอีกหนึ่งระดับความเร็ว


PrismML ได้รับการระดมทุน SAFE และรอบ Seed มูลค่า 16.25 ล้านดอลลาร์สหรัฐ จาก Khosla Ventures, Cerberus Capital และ California Institute of Technology ผู้ก่อตั้ง Khosla Ventures คือ Vinod Khosla ได้ประเมินผลลัพธ์นี้ว่า “ไม่ใช่การปรับปรุงเล็กน้อย แต่เป็นความก้าวหน้าทางเทคโนโลยีครั้งใหญ่ เป็นความก้าวหน้าทางคณิตศาสตร์ ไม่ใช่แค่โมเดลเล็กๆ อีกอันหนึ่ง”

แหล่งที่มา:แสดงต้นฉบับ
คำปฏิเสธความรับผิดชอบ: ข้อมูลในหน้านี้อาจได้รับจากบุคคลที่สาม และไม่จำเป็นต้องสะท้อนถึงมุมมองหรือความคิดเห็นของ KuCoin เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ในการให้ข้อมูลทั่วไปเท่านั้น โดยไม่มีการรับรองหรือการรับประกัน และจะไม่ถูกตีความว่าเป็นคำแนะนำทางการเงินหรือการลงทุน KuCoin จะไม่รับผิดชอบต่อความผิดพลาดหรือการละเว้นในเนื้อหา หรือผลลัพธ์ใดๆ ที่เกิดจากการใช้ข้อมูลนี้ การลงทุนในสินทรัพย์ดิจิทัลอาจมีความเสี่ยง โปรดประเมินความเสี่ยงของผลิตภัณฑ์และความเสี่ยงที่คุณยอมรับได้อย่างรอบคอบตามสถานการณ์ทางการเงินของคุณเอง โปรดดูข้อมูลเพิ่มเติมได้ที่ข้อกำหนดการใช้งานและเอกสารเปิดเผยข้อมูลความเสี่ยงของเรา