HeadlinesBriefing favicon HeadlinesBriefing.com

InstinctFlash:高性能机器人服务运行时

Hacker News •
×

嘿 HN,我是 Guanming,General Instinct 的联合创始人。我们刚刚发布了 InstinctFlash,一个用于机器人模型的高性能服务框架,采用 AGPL-3.0 许可。

在 Jetson Thor 上,仅凭运行时优化,我们就实现了约 1.2 倍到 7.9 倍的加速;当与蒸馏的少步扩散调度器结合使用时,LingBot-VA 的加速最高可达 33.78 倍,从 25 个视觉步骤 / 50 个动作步骤降至 2 / 4 步。在 50 个 Robotwin2.0 任务中,采用 2/4 步的 LingBot-VA 配合 InstinctFlash 达到了 90.5% 的成功率,而基线在 25/50 步下的成功率为 92.1%。

InstinctFlash 支持 8 个 VLA / 世界动作模型系列,包括 pi0.5 和 NVIDIA Cosmos Policy,覆盖 RTX 4090 / 5090 和 Jetson Thor。只需提供你微调后的检查点,InstinctFlash 会处理其余一切,通过 Python 运行时或兼容 OpenPI 的 WebSocket 服务器对外暴露加速后的模型。

Samsung、Siemens 以及其他机器人初创公司的团队已经使用 InstinctFlash 在 VLA、WAM 和基于扩散的世界模型上进行模型加速。在这里试用:https://github.com/General-Instinct/InstinctFlash。非常期待你们的反馈!

关键实体:公司:General Instinct、NVIDIA、Samsung、Siemens | 人物:Guanming

FAQ:什么是 InstinctFlash?

InstinctFlash 是由 General Instinct 在 AGPL-3.0 下发布的高性能机器人模型服务框架,支持 8 个 VLA/世界动作模型系列,可在 RTX 4090/5090 和 Jetson Thor 上运行。

FAQ 问题:什么是 InstinctFlash?

FAQ 回答:InstinctFlash 是由 General Instinct 在 AGPL-3.0 下发布的高性能机器人模型服务框架,支持 8 个 VLA/世界动作模型系列,可在 RTX 4090/5090 和 Jetson Thor 上运行。