ทีเทอร์เปิดตัวกรอบงานปัญญาประดิษฐ์สำหรับการฝึกโมเดลสมาร์ทโฟน

ข้อมูลเชิงลึกสำคัญ

• Tether ได้แนะนำกรอบการทำงานที่ช่วยให้สามารถฝึกโมเดลภาษาขนาดใหญ่บนสมาร์ทโฟน
• ระบบใช้สถาปัตยกรรม BitNet และการปรับแต่ง LoRA เพื่อลดความต้องการด้านการคำนวณ
• บริษัทคริปโตเพิ่มการใช้จ่ายบนโครงสร้างพื้นฐาน AI และการคำนวณประสิทธิภาพสูง

Tether เปิดตัว กรอบการฝึกอบรมปัญญาประดิษฐ์ใหม่เมื่อวันอังคาร ซึ่งช่วยให้โมเดลภาษาขนาดใหญ่สามารถทำงานและปรับแต่งได้บนฮาร์ดแวร์ผู้บริโภค ระบบดังกล่าวเป็นส่วนหนึ่งของแพลตฟอร์ม QVAC ของบริษัท และรองรับสมาร์ทโฟนร่วมกับโปรเซสเซอร์ที่ไม่ใช่ของ Nvidia วิศวกรออกแบบกรอบนี้เพื่อลดความต้องการหน่วยความจำ จึงลดอุปสรรคด้านต้นทุนในการสร้างและทดสอบโมเดลภาษา

การเปิดตัวเกิดขึ้นในขณะที่บริษัทโครงสร้างพื้นฐานด้านคริปโตเคลื่อนตัวลึกเข้าสู่การพัฒนาปัญญาประดิษฐ์และตลาดการประมวลผล Tether ผู้ออก Stablecoin ที่มีมูลค่าตลาดสูงสุด ได้ระบุว่าการเปิดตัวนี้เป็นความพยายามในการกระจายความสามารถด้านการเรียนรู้ของเครื่อง บริษัทอ้างว่าการเปิดให้สามารถฝึกโมเดลบนฮาร์ดแวร์ที่เข้าถึงได้ทั่วไปสามารถลดการพึ่งพาผู้ให้บริการคลาวด์แบบกลางได้

การประกาศของ Tether อธิบายกรอบงานนี้ว่าเป็นสภาพแวดล้อมการฝึกอบรมที่สร้างขึ้นบนสถาปัตยกรรม BitNet ของ Microsoft การออกแบบใช้โครงสร้างเครือข่ายประสาทแบบหนึ่งบิตร่วมกับวิธีการปรับแต่ง LoRA ซึ่งช่วยให้นักพัฒนาสามารถปรับโมเดลได้ในขณะที่ยังคงรักษาความต้องการด้านการคำนวณให้ต่ำ

วิศวกรของบริษัทระบุว่าระบบได้ฝึกโมเดลภาษาที่มีพารามิเตอร์สูงสุดหนึ่งพันล้านบนสมาร์ทโฟนในเวลาไม่ถึงสองชั่วโมง โมเดลขนาดเล็กกว่ามีรายงานว่าเสร็จสิ้นการฝึกภายในไม่กี่นาทีเมื่อปรับแต่งผ่านวิธีการเดียวกัน บริษัทยังระบุว่าแพลตฟอร์มนี้รองรับโมเดลที่มีพารามิเตอร์ถึงสิบสามพันล้านบนอุปกรณ์มือถือ

วิศวกรได้สร้างระบบให้ทำงานข้ามระบบนิเวศฮาร์ดแวร์หลายระบบแทนการพึ่งพาชิปของ Nvidia ฟรีมเวิร์กสนับสนุนโปรเซสเซอร์ของ AMD สถาปัตยกรรมของ Intel ระบบ Apple Silicon และหน่วยประมวลผลกราฟิกสำหรับมือถือจาก Qualcomm และ Apple ความเข้ากันได้นี้ขยายการเข้าถึงการทดลองด้านการเรียนรู้ของเครื่องให้กว้างขวางกว่าคลัสเตอร์การคำนวณประสิทธิภาพสูงแบบดั้งเดิม

การออกแบบทางเทคนิคยังลดความต้องการหน่วยความจำกราฟิกเมื่อเทียบกับรุ่นมาตรฐาน ผลการวิจัยภายในแสดงว่าสถาปัตยกรรม BitNet ลดการใช้งาน VRAM ได้สูงสุดถึง 77.8% เมื่อเทียบกับระบบ 16 บิตที่เทียบเคียงได้

Tether ระบุว่าสถาปัตยกรรมนี้ช่วยให้สามารถปรับแต่ง LoRA บนฮาร์ดแวร์ที่อยู่นอกเหนือระบบนิเวศของ Nvidia นักพัฒนาในอดีตต้องพึ่งพาหน่วยประมวลผลกราฟิกของ Nvidia สำหรับงานฝึกอบรม เนื่องจากชิปเหล่านี้สามารถจัดการคำนวณเทนเซอร์ขนาดใหญ่ได้อย่างมีประสิทธิภาพ วิศวกรของ Tether พยายามกำจัดข้อจำกัดนี้โดยอนุญาตให้ใช้วิธีการฝึกอบรมแบบบิตต่ำบนหน่วยประมวลผลทางเลือก

บริษัทอ้างว่าสถาปัตยกรรมนี้ยังช่วยเพิ่มความเร็วในการประมวลผลสำหรับงานบนอุปกรณ์พกพา การทดสอบแสดงให้เห็นว่าหน่วยประมวลผลกราฟิกสำหรับอุปกรณ์พกพาสามารถประมวลผลโมเดล BitNet ได้เร็วหลายเท่าเมื่อเทียบกับหน่วยประมวลผลกลางมาตรฐาน ความแตกต่างนี้ทำให้โมเดลสามารถทำงานได้บนอุปกรณ์พกพาโดยตรง โดยไม่จำเป็นต้องพึ่งโครงสร้างพื้นฐานบนคลาวด์ระยะไกล

นักพัฒนายังได้สำรวจวิธีการเรียนรู้ของเครื่องแบบกระจายภายในระบบ ทีเทอร์อธิบายการใช้งานที่เป็นไปได้ของโมเดลการเรียนรู้แบบฟีเดอเรตที่อัปเดตผ่านเครือข่ายของอุปกรณ์อิสระ ภายใต้โครงสร้างนี้ โมเดลจะเรียนรู้จากข้อมูลท้องถิ่นโดยเก็บข้อมูลไว้บนอุปกรณ์แต่ละเครื่องแทนการอัปโหลดไปยังเซิร์ฟเวอร์กลาง

บริษัทเสนอว่าแนวทางนี้สามารถสนับสนุนสภาพแวดล้อมการฝึกอบรมที่เน้นความเป็นส่วนตัว ข้อมูลยังคงอยู่ที่จุดท้องถิ่น ในขณะที่อัปเดตโมเดลเท่านั้นที่ถูกส่งผ่านเครือข่าย สถาปัตยกรรมนี้สะท้อนแนวโน้มภายในระบบการคำนวณแบบกระจายอำนาจและเครือข่ายเข้ารหัสแบบกระจาย

กิจกรรมตลาดในภาคส่วนสินทรัพย์ดิจิทัลแสดงให้เห็นถึงการลงทุนที่เพิ่มขึ้นในโครงสร้างพื้นฐานปัญญาประดิษฐ์ บริษัทคริปโตกำลังปรับใช้กำลังการประมวลผลที่สร้างขึ้นเดิมสำหรับการดำเนินงานบล็อกเชนไปสู่งานโหลดการเรียนรู้ของเครื่องอย่างเพิ่มขึ้น

เอกสารสาธารณะเปิดเผยว่า บริษัทเทคโนโลยีได้สร้างพันธมิตรเพื่อจัดหาพลังงานการประมวลผลที่เชื่อมโยงกับความต้องการปัญญาประดิษฐ์ ข้อตกลงที่ประกาศในเดือนกันยายนได้ให้ Google ถือหุ้นน้อยใน Cipher Mining ภายใต้ข้อตกลงระยะ 10 ปี มูลค่า 3 พันล้านดอลลาร์สหรัฐ การจัดการนี้เชื่อมโยงกำลังการผลิตศูนย์ข้อมูลกับความต้องการการประมวลผลปัญญาประดิษฐ์

การประกาศอย่างเป็นทางการของบริษัทต่อมาชี้ให้เห็นว่าบริษัทขุด Bitcoin ยังได้เปลี่ยนทุนไปใช้กับบริการการเรียนรู้ของเครื่องด้วย ในเดือนธันวาคม ผู้ขุด IREN ได้เปิดเผยว่ามีแผนจะระดมทุนประมาณ 3.6 พันล้านดอลลาร์เพื่อขยายโครงสร้างพื้นฐานสำหรับการดำเนินงานปัญญาประดิษฐ์

รายงานผลการดำเนินงานของบริษัทในช่วงต้นปียืนยันแนวโน้มเดียวกัน HIVE Digital Technologies รายงานรายได้ 93.1 ล้านดอลลาร์สหรัฐหลังจากขยายบริการคอมพิวเตอร์ประสิทธิภาพสูง ในช่วงเวลาเดียวกัน Core Scientific ได้รับเงินกู้มูลค่า 500 ล้านดอลลาร์สหรัฐจาก Morgan Stanley เพื่อสนับสนุนการเติบโตของโครงสร้างพื้นฐานด้านการคำนวณ

นักพัฒนายังทดลองใช้ตัวแทนปัญญาประดิษฐ์อัตโนมัติที่ผสานรวมกับโครงสร้างพื้นฐานบล็อกเชน Coinbase เปิดตัวเครื่องมือวอลเล็ตที่อนุญาตให้ตัวแทนซอฟต์แวร์ดำเนินการธุรกรรมโดยตรงบนบล็อกเชน Alchemy นำเสนอบริการที่ช่วยให้ตัวแทนสามารถเข้าถึงข้อมูลบล็อกเชนขณะชำระเงินผ่านโครงสร้างพื้นฐาน Stablecoin

เครือข่ายตัวตนยังสำรวจความเชื่อมโยงระหว่างระบบปัญญาประดิษฐ์กับการยืนยันตัวตนดิจิทัล โลก เครือข่ายตัวตนที่ร่วมก่อตั้งโดยแซม อัลต์แมน หัวหน้าของ OpenAI ได้เปิดตัว AgentKit เมื่อสัปดาห์ที่ผ่านมา ชุดเครื่องมือนี้ช่วยให้ตัวแทนซอฟต์แวร์สามารถยืนยันการเชื่อมต่อกับตัวตนของมนุษย์ที่ไม่ซ้ำกันผ่านระบบ World ID

กรอบงานล่าสุดของ Tether เข้าสู่ภาคส่วนที่กำลังขยายตัวเดียวกัน ซึ่งเป็นจุดตัดของทรัพยากรการคำนวณ ปัญญาประดิษฐ์ และระบบบล็อกเชน

บริษัทระบุว่านักพัฒนาสามารถรวมเครื่องมือการฝึกอบรมเข้ากับแอปพลิเคชันกระจายและอุปกรณ์ท้องถิ่นโดยไม่ต้องพึ่งพาเซิร์ฟเวอร์กลาง

การพัฒนาถัดไปของกรอบงานปัญญาประดิษฐ์ของ Tether’s จะขึ้นอยู่กับการรับรองจากนักพัฒนาและการทดสอบประสิทธิภาพระดับอุปกรณ์ วิศวกรมีแนวโน้มจะติดตามว่าแพลตฟอร์ม QVAC จัดการกับโมเดลขนาดใหญ่ข้ามฮาร์ดแวร์ผู้บริโภคที่กระจายอยู่ในรุ่นที่จะมาถึงอย่างไร

โพสต์ Tether เปิดตัวกรอบงาน AI ที่ช่วยให้สามารถฝึกโมเดลบนสมาร์ทโฟน ปรากฏครั้งแรกบน The Coin Republic