Hola HN, aquí Guanming, cofundador de General Instinct. Acabamos de lanzar InstinctFlash, un framework de servicio de alto rendimiento para modelos de robótica, con licencia AGPL-3.0.

En Jetson Thor, vemos aceleraciones de aproximadamente 1,2x a 7,9x solo con optimizaciones de runtime, y de hasta 33,78x para LingBot-VA cuando se combina con un planificador de difusión destilado de pocos pasos, pasando de 25 pasos visuales / 50 de acción a 2 / 4 pasos. En 50 tareas de Robotwin2.0, LingBot-VA con InstinctFlash a 2/4 pasos alcanzó una tasa de éxito del 90,5%, en comparación con el 92,1% de la línea base a 25/50 pasos.

InstinctFlash soporta 8 familias de modelos VLA / de acción mundial, incluyendo pi0.5 y NVIDIA Cosmos Policy, en RTX 4090 / 5090 y Jetson Thor. Solo dale tu checkpoint ajustado y InstinctFlash se encarga del resto, exponiendo el modelo acelerado a través de un runtime de Python o un servidor WebSocket compatible con OpenPI.

Equipos de Samsung, Siemens y otras startups de robótica han utilizado InstinctFlash para la aceleración de modelos en VLA, WAM y modelos de mundo basados en difusión. Pruébalo aquí: https://github.com/General-Instinct/InstinctFlash. ¡Nos encantaría conocer tu opinión!

Entidades clave: Empresas: General Instinct, NVIDIA, Samsung, Siemens | Personas: Guanming