Hallo HN, hier ist Guanming, Mitgründer von General Instinct. Wir haben gerade InstinctFlash veröffentlicht, ein Hochleistungs-Serving-Framework für Robotikmodelle, lizenziert unter AGPL-3.0.

Auf dem Jetson Thor sehen wir allein durch Runtime-Optimierungen Beschleunigungen von etwa 1,2x bis 7,9x und bis zu 33,78x für LingBot-VA in Kombination mit einem destillierten Few-Step-Diffusion-Scheduler, von 25 visuellen / 50 Aktionsschritten auf 2 / 4 Schritte. Über 50 Robotwin2.0-Aufgaben erreichte LingBot-VA mit InstinctFlash bei 2/4 Schritten eine Erfolgsrate von 90,5 %, verglichen mit 92,1 % für die Baseline bei 25/50 Schritten.

InstinctFlash unterstützt 8 VLA-/World-Action-Modellfamilien, darunter pi0.5 und NVIDIA Cosmos Policy, auf RTX 4090 / 5090 und Jetson Thor. Geben Sie einfach Ihren feinabgestimmten Checkpoint an, und InstinctFlash erledigt den Rest und stellt das beschleunigte Modell über eine Python-Runtime oder einen OpenPI-kompatiblen WebSocket-Server bereit.

Teams bei Samsung, Siemens und anderen Robotik-Startups haben InstinctFlash zur Modellbeschleunigung bei VLAs, WAMs und diffusionsbasierten World-Modellen eingesetzt. Probieren Sie es hier aus: https://github.com/General-Instinct/InstinctFlash. Wir freuen uns auf Ihr Feedback!

Wichtige Entitäten: Unternehmen: General Instinct, NVIDIA, Samsung, Siemens | Personen: Guanming