📡 Idea Radar 每天 8:00 / 18:00 推送 · 18:00 生成精选
hn · Show HN · 43 分 ← 返回列表

Show HN: InstinctFlash – Run 5B world-action models in real time on Jetson Thor

原文链接 ↗ ·guanming0717
Hey HN, Guanming here, cofounder of General Instinct. We just released InstinctFlash, a high-performance serving framework for robotics models. It’s licensed under AGPL-3.0. On Jetson Thor, we see speedups about 1.2x to 7.9x from runtime optimizations alone and up to 33.78x for LingBot-VA when we combine those runtime optimizations with a distilled few-step diffusion scheduler, going from the original 25 visual / 50 action steps to 2 / 4 steps. Across 50 Robotwin2.0 tasks, we evaluated 1,153 epi

五维评分

付费意愿
40
需求真实度
55
个人可落地
25
竞争空间
45
新鲜度
90

AI 分析

痛点:机器人 VLA/世界动作模型推理速度无法满足实时控制循环,部署优化门槛高。

目标用户:机器人初创公司、具身智能研究团队、在 Jetson/RTX 上部署 VLA 模型的开发者。

证据:we kept running into the same problem while deploying robot policies, the models were getting much better, but inference was often way too slow for the control loop we actually wanted.

变现:开源核心 + 企业级支持/托管推理云/针对特定硬件的模型量化编译服务/部署咨询。

MVP:选 1-2 个热门 VLA 模型(如 pi0.5、Cosmos Policy),做一个一键量化+编译+WebSocket 推理服务的 CLI/Docker,附带基准测试和 Jetson Thor 适配。

竞品:NVIDIA TensorRT / Triton / Isaac ROS、OpenPI、Hugging Face LeRobot、vLLM 类模型服务框架

摘要:General Instinct 发布 InstinctFlash,一个 AGPL-3.0 的机器人模型高性能服务框架,在 Jetson Thor 上对 5B 世界动作模型实现 1.2x–7.9x 运行时加速,结合蒸馏少步扩散调度可达 33.78x,LingBot-VA 在 2/4 步下成功率 90.5% vs 基线 25/50 步的 92.1%。它支持 8 个 VLA/世界动作模型家族(含 pi0.5、NVIDIA Cosmos Policy),面向 RTX 4090/5090 和 Jetson Thor,痛点是在机器人控制循环中推理太慢。