XInfer 是面向 VLA 机器人集群的生产级推理服务系统,把异构 VLA 计算与机器人执行的实时反馈需求放在一起调度,在利用计算并行的同时保护时间关键的反馈。论文在三款 VLA 模型与生产衍生负载上测试,有效机器人容量达到现有最优系统的 1.26 至 3.75 倍,代码已公开。
正文完
XInfer 是面向 VLA 机器人集群的生产级推理服务系统,把异构 VLA 计算与机器人执行的实时反馈需求放在一起调度,在利用计算并行的同时保护时间关键的反馈。论文在三款 VLA 模型与生产衍生负载上测试,有效机器人容量达到现有最优系统的 1.26 至 3.75 倍,代码已公开。