AI yang lebih pintar tidak selalu memerlukan peralatan yang lebih besar. Kadang-kadang, ia memerlukan pengoptimuman yang lebih baik. PrismaX baru sahaja membuat peningkatan signifikan kepada stak inferens π0.5-nya. Dengan memperbaiki dua ketidakefisienan memori dalam kodnya, pasukan berjaya mengurangkan penggunaan VRAM puncak daripada kira-kira 22 GB kepada 11.2 GB. Itu adalah pengurangan hampir 50%! Mengapa ini penting? • π0.5 kini boleh muat pada GPU 16 GB, termasuk RTX 5080 dan 5070 Ti. • Perkakasan desktop menjadi pilihan yang lebih praktikal untuk menjalankan model ini. • Keperluan perkakasan yang lebih rendah boleh menjadikan robotik berasaskan AI lebih boleh diakses. • Pasukan menganggarkan sekitar 100 ms setiap langkah inferens pada konfigurasi baharu ini. Yang menarik perhatian saya ialah pendekatan mereka: bukannya segera meminta perkakasan yang lebih mahal, PrismaX fokus pada menjadikan sistem sedia ada mereka lebih cekap. Itulah jenis kemajuan kejuruteraan yang patut diperhatikan. Pengoptimuman yang lebih baik. Rintangan perkakasan yang lebih rendah. Lebih banyak ruang untuk inovasi AI. Membina lebih pintar bersama @PrismaXai .❤️
