Hai HN, saya Guanming, salah satu pendiri General Instinct. Kami baru saja merilis InstinctFlash, sebuah framework serving berperforma tinggi untuk model robotika, dilisensikan di bawah AGPL-3.0.

Di Jetson Thor, kami melihat percepatan sekitar 1,2x hingga 7,9x hanya dari optimasi runtime, dan hingga 33,78x untuk LingBot-VA bila dikombinasikan dengan penjadwal difusi few-step yang didistilasi, dari 25 langkah visual / 50 aksi menjadi 2 / 4 langkah. Di 50 tugas Robotwin2.0, LingBot-VA dengan InstinctFlash pada 2/4 langkah mencapai tingkat keberhasilan 90,5%, dibandingkan dengan 92,1% untuk baseline pada 25/50 langkah.

InstinctFlash mendukung 8 keluarga model VLA / world-action, termasuk pi0.5 dan NVIDIA Cosmos Policy, di RTX 4090 / 5090 dan Jetson Thor. Cukup berikan checkpoint hasil fine-tuning Anda dan InstinctFlash menangani sisanya, mengekspos model yang dipercepat melalui runtime Python atau server WebSocket yang kompatibel dengan OpenPI.

Tim di Samsung, Siemens, dan startup robotika lainnya telah menggunakan InstinctFlash untuk akselerasi model pada VLA, WAM, dan world model berbasis difusi. Coba di sini: https://github.com/General-Instinct/InstinctFlash. Kami ingin mendengar masukan Anda!

Entitas Utama: Perusahaan: General Instinct, NVIDIA, Samsung, Siemens | Orang: Guanming