Salut HN, ici Guanming, cofondateur de General Instinct. Nous venons de publier InstinctFlash, un framework de service haute performance pour les modèles robotiques, sous licence AGPL-3.0.

Sur Jetson Thor, nous observons des accélérations d'environ 1,2x à 7,9x rien qu'avec les optimisations du runtime, et jusqu'à 33,78x pour LingBot-VA lorsqu'il est combiné à un planificateur de diffusion distillé à quelques pas, passant de 25 pas visuels / 50 pas d'action à 2 / 4 pas. Sur 50 tâches Robotwin2.0, LingBot-VA avec InstinctFlash à 2/4 pas a atteint un taux de réussite de 90,5 %, contre 92,1 % pour la référence à 25/50 pas.

InstinctFlash prend en charge 8 familles de modèles VLA / d'action mondiale, dont pi0.5 et NVIDIA Cosmos Policy, sur RTX 4090 / 5090 et Jetson Thor. Donnez-lui simplement votre checkpoint affiné et InstinctFlash s'occupe du reste, exposant le modèle accéléré via un runtime Python ou un serveur WebSocket compatible OpenPI.

Des équipes de Samsung, Siemens et d'autres startups de robotique ont utilisé InstinctFlash pour l'accélération de modèles sur des VLA, des WAM et des modèles du monde basés sur la diffusion. Essayez-le ici : https://github.com/General-Instinct/InstinctFlash. Nous serions ravis d'avoir vos retours !

Entités clés : Entreprises : General Instinct, NVIDIA, Samsung, Siemens | Personnes : Guanming

FAQ : Qu'est-ce qu'InstinctFlash ?

InstinctFlash est un framework de service haute performance pour les modèles robotiques, publié par General Instinct sous AGPL-3.0, prenant en charge 8 familles de modèles VLA/d'action mondiale sur RTX 4090/5090 et Jetson Thor.

Question FAQ : Qu'est-ce qu'InstinctFlash ?

Réponse FAQ : InstinctFlash est un framework de service haute performance pour les modèles robotiques, publié par General Instinct sous AGPL-3.0, prenant en charge 8 familles de modèles VLA/d'action mondiale sur RTX 4090/5090 et Jetson Thor.