RoboNeuron: A Middle-Layer Infrastructure for Agent-Driven Orchestration in Embodied AI
这是一份面向零基础读者的结构化研究笔记。本文只把公开论文文本和 arXiv 元数据能支持的结论写成事实;本站没有本地训练、仿真或真机复现实验,因此不会把论文报告的部署效果写成本站 E4 结果。
一句话讲什么(TL;DR)
RoboNeuron 提出一个 embodied AI 中间层,用来连接 agent tool calling 生态和 ROS2 机器人中间件。它把 ROS message schema 自动派生成 agent 可调用的 MCP tools,让 LLM agent 可以通过统一工具接口调用机器人能力;同时把简单低延迟命令和复杂 perception-inference-control 流程分成两条执行路径,并把 VLA backend / runtime / acceleration preset 的变化限制在稳定 inference boundary 内。
如果只记一个直觉:RoboNeuron 不是新的 VLA 模型,而是把“会思考的 agent”和“会执行的机器人系统”之间的插座标准化。
所以这一节是想说:它解决的是具身 AI 部署中的接口和中间层问题。
这是个什么场景
真实机器人系统通常不是一个模型直接控制电机。底层有 ROS2、传感器节点、控制节点、话题、消息类型、驱动、仿真器、硬件适配器。上层 LLM agent 则习惯通过 tool calling 方式调用结构化工具。两边说的语言不一样:agent 讲 JSON schema / tool API,机器人中间件讲 ROS messages / topics / services。
如果每次把一个 VLA 或 LLM agent 接到机器人上,都手写 wrapper,系统会很脆弱。换一个机械臂、换一个传感器、换一个 VLA backend、换一个推理加速库,都可能要重写 glue code。RoboNeuron 的目标是降低这个工程摩擦。
LLM Agent / MCP tools
│
▼
RoboNeuron 中间层
│
├─ schema-based ROS tool derivation
├─ direct low-latency calls
└─ perception -> VLA inference -> control path
│
▼
ROS2 / hardware / simulation / controllers
两条执行路径
简单路径:Agent -> MCP tool -> ROS message -> 控制
复杂路径:Agent -> 感知节点 -> VLA 推理 -> 控制节点
这个场景在 Batch 5 很重要。前几批很多论文关注模型能力,但模型要落地到机器人,必须解决接口、生命周期、进程、消息、延迟和可替换性。RoboNeuron 就站在模型和工程之间。
所以这一节是想说:具身智能落地不只是训练模型,还要有稳定的软件中间层。

之前的人怎么做的,为什么不够好
已有很多 LLM agent for robotics 工作,用语言模型组织任务级推理;也有 ROS2、behavior tree、robot middleware 等成熟机器人软件栈;还有 OpenVLA、OpenVLA-OFT、π 系列等 VLA 模型。但是这些生态之间缺一个稳定、可复用的连接层。
论文指出三个痛点。第一,agent tool APIs 和 robot middleware interfaces 之间存在 mismatch。第二,很多实现靠 ad-hoc wrappers,难复用、难维护。第三,VLA backend 或 serving stack 一变,周围集成代码也要跟着改。
这些痛点会阻碍真实部署。研究原型可以手写脚本,但长期系统需要组件可替换、接口稳定、低层控制不被上层模型变化反复打断。
所以这一节是想说:RoboNeuron 关注的是“可维护的部署结构”,不是单次 demo。
这篇论文的新想法
RoboNeuron 的核心想法是做 middle-layer infrastructure。它位于 agent-side reasoning / policy layer 和 ROS2 / hardware / simulation / compute layer 之间,负责统一工具接口、能力暴露、模块组合和生命周期管理。
它使用 MCP 作为 LLM agent 工具协议一侧的语义接口,使用 ROS2 作为机器人中间件一侧的执行骨干。关键创新是 schema-based derivation:从 ROS message 和 interface definitions 自动生成 agent-callable tool signatures,减少手写 wrapper。
它还提出 composable modular execution。Agent 可以选择低延迟 direct path,也可以组合 perception、inference、control 模块形成复杂路径。VLA 相关变化被放进 inference module,使 backend、runtime、acceleration preset 的切换不影响周围控制逻辑。
所以这一节是想说:RoboNeuron 的新意是把 agent tool calling 和 ROS message interface 变成可派生、可组合、可替换的中间层。
它分几步做的(方法)
第 1 步:把 ROS 能力暴露成 MCP tools
RoboNeuron 通过解析 ROS message definitions,构建结构化 tool argument schema。工具调用被验证后,再递归映射回 ROS message 字段,发布到对应 topic 或调用相关接口。
这一步解决的是“LLM 输出结构化文本,ROS 需要严格消息类型”的问题。自动派生比手写 wrapper 更稳定,因为底层消息变更时可以重新从 schema 生成工具。
第 2 步:区分 direct path 和 complex path
direct path 面向低延迟 primitive,比如发布速度、查询状态、简单控制命令。它绕过 VLA inference,直接把 tool call 转成 ROS message。
complex path 面向视觉理解和序列决策。Agent 启动或编排 perception、VLA inference、control 等长运行模块,让它们通过 ROS2 数据平面通信。
Direct path
Agent tool call -> validated args -> ROS message -> topic publish
Complex path
Agent plan -> perception node -> VLA backend -> control node -> robot
第 3 步:把 VLA backend 放进稳定边界
RoboNeuron 的 inference module 通过 model wrapper registry 选择不同 VLA backend。论文提到覆盖 OpenVLA、OpenVLA-OFT 和 π0 等模型。它保持固定的 image input 和 vector-based action output contract,让下游 controller 不需要因为模型更换而重写。
这个设计像给电器统一插头。你可以换电器品牌,但墙上的插座和房间布线不变。对机器人系统来说,这意味着模型迭代不会频繁破坏控制链路。
第 4 步:管理生命周期和进程
RoboNeuron 把长运行模块作为 ROS2 node 或独立 OS process 启动,并通过 stop tool 管理清理。它强调 persistent / stream-driven 模块和 one-shot / message-driven tool 的区别。
这对真实机器人很重要。传感器流、VLA 推理和控制节点不应该每步都重新启动;但也必须能被显式停止和清理,避免资源泄漏。
第 5 步:评估中间层能力
论文把实验分为机制验证和 benchmark。Cases I-III 验证 unified tool interface、两条执行路径、模块组织、仿真和真实硬件;Case IV 研究 OpenVLA-OFT pruning 和 OpenVLA quantization / latency 等 backend/runtime 变化在稳定边界内如何比较。
所以这一节是想说:RoboNeuron 的方法从 schema、路径、边界、生命周期四层处理部署工程问题。

关键数字
论文页数为 8 页,重点不是刷一个大型 benchmark,而是验证中间层机制。它明确提到 Case I-III 是 mechanism-oriented case studies,Case IV 是 controlled benchmark evaluation。
论文中涉及 LIBERO-Spatial、OpenVLA-OFT pruning、OpenVLA quantization / latency 等评估设置。需要注意,这些是论文报告,不是本站本地跑过的 benchmark。
更重要的“数字”其实是架构分层:两条执行路径、一个 stable inference boundary、schema-based tool derivation pipeline、perception-inference-control 模块链。它们共同构成系统可替换性的证据。
所以这一节是想说:RoboNeuron 的贡献主要是中间层结构和可替换性,而不是单一成功率。
实验结果说明了什么
实验说明 RoboNeuron 试图验证三个问题。第一,agent 是否能通过统一工具接口触达 ROS2 能力。第二,简单命令和复杂 VLA 流水线是否能在同一接口下组织。第三,VLA backend、runtime 或 acceleration preset 的变化是否能局部化,不破坏周围控制拓扑。
这些结果对具身 AI 工程很关键。一个模型 benchmark 再好,如果每次换模型都要重接传感器、控制器和硬件 API,部署成本会非常高。RoboNeuron 让模型变化被限制在 inference boundary 内,把系统稳定性从“靠工程师小心维护”转向“靠接口层约束”。
但也要保留边界。中间层能降低集成成本,不代表上层 agent 一定计划正确,也不代表底层控制一定安全。它解决的是接口和编排问题,不替代安全验证、运动规划和硬件保护。
所以这一节是想说:RoboNeuron 证明了接口层可复用的价值,但不等于完整机器人安全方案。
术语表
- MCP:Model Context Protocol,面向 agent 的工具调用协议。
- ROS2:Robot Operating System 2,机器人中间件生态。
- Middleware:连接上层逻辑和底层系统的中间层。
- Schema-based derivation:从消息 schema 自动生成工具定义。
- Direct path:低延迟直接工具调用路径。
- Complex path:感知、推理、控制模块组合路径。
- Inference boundary:把 VLA 推理相关变化限制在稳定边界内。
- Wrapper:适配不同模型、传感器或硬件接口的封装。
所以这一节是想说:本文的关键词都围绕“接口稳定”和“模块解耦”。
局限和边界
第一,RoboNeuron 是中间层基础设施,不是新 VLA 算法。它不能直接提升模型认知能力。
第二,schema 自动生成工具能减少 wrapper 维护,但生成出的工具是否适合 agent 使用,仍需要命名、文档、权限和安全策略。
第三,ROS2 接口稳定不等于物理安全。真实机器人还需要碰撞检测、速度限制、急停、权限隔离和人类监督。
第四,论文的 benchmark 是中间层验证,不等于所有硬件和复杂长期任务都已经被验证。跨平台部署仍需要实机测试。
所以这一节是想说:RoboNeuron 是很有用的基础设施,但必须和安全控制、验证和治理一起使用。
和其他论文的关系
和 mobile-service-robot-foundation-survey 相比,RoboNeuron 是把综述里的部署约束落到软件接口层。服务机器人需要长期运行和多组件协作,中间层是基础。
和 embodied-agi-road-ahead 相比,RoboNeuron 不讨论 L1-L5,但它提供 L3+ 系统可能需要的工程底座:agent、工具、感知、VLA、控制可组合。
和 embodied-navigation-foundation-model 相比,NavFoM 训练导航基础模型,RoboNeuron 解决模型如何进入 ROS2 机器人系统。
和 efficient-vla-survey 相比,RoboNeuron 也关注 runtime 和 acceleration presets,但它的重点是接口边界和系统可替换性。
所以这一节是想说:它把模型研究和机器人软件工程连起来。
和本导读的关系
本站很多论文在讲模型本身,RoboNeuron 则提醒读者:模型只是机器人系统的一层。真实部署还要考虑 agent tools、ROS message、传感器流、控制节点和生命周期管理。
它适合放在“工程落地”章节,帮助读者理解为什么一个 VLA demo 到一个可维护机器人系统之间还有很长距离。
所以这一节是想说:RoboNeuron 是本站从读论文走向做系统时必须补的一课。
思考题
- 为什么 agent tool API 和 ROS message interface 会不匹配?
- direct path 和 complex path 分别适合什么任务?
- 为什么把 VLA backend 放进稳定 inference boundary 很重要?
- RoboNeuron 解决了接口问题后,还剩哪些安全问题?
FAQ
Q:RoboNeuron 是不是替代 ROS? A:不是。它建立在 ROS2 等机器人中间件之上,把 robot-side interface 暴露成 agent-callable tools。
Q:它是不是新的 VLA 模型? A:不是。它是中间层,可以接 OpenVLA、OpenVLA-OFT、π0 等 backend。
Q:MCP 在这里起什么作用? A:MCP 是 agent 工具调用一侧的协议,让 LLM agent 能用结构化方式调用机器人能力。
Q:本站有没有跑 RoboNeuron? A:没有。这里只记录论文描述和报告结果,不写成本站复现实验。
进一步读什么
- ROS2 官方文档:理解 topic、message、node、service 的基本概念。
- MCP 规范:理解 agent tool calling 的结构化接口。
- OpenVLA / OpenVLA-OFT / π0:理解 RoboNeuron 可接入的 VLA backend。
- mobile service robot survey:理解为什么服务机器人需要可维护部署层。
精读补充:为什么中间层是模型之外的关键能力
读 RoboNeuron 时,容易把它误解为“又一个工具封装库”。其实它瞄准的是具身 AI 系统里非常核心的工程断层:上层 agent 以工具调用表达意图,底层机器人以 ROS message 和实时控制表达能力。两边都合理,但直接相连会产生大量一次性胶水代码。胶水代码越多,系统越难维护,越难复现,也越难安全审计。
Schema-based derivation 的意义在这里。手写 wrapper 的问题不是写起来麻烦,而是它很容易和真实 robot-side interface 漂移。ROS message 改了字段,wrapper 可能没同步;agent tool 文档写得和底层行为不一致,LLM 就可能错误调用。RoboNeuron 从 ROS schema 自动派生工具定义,相当于让工具接口从底层事实源生成,减少人为失配。
Direct path 和 complex path 的区分也很重要。不是所有机器人动作都需要 VLA 推理。查询状态、发布简单速度、打开传感器、停止控制器,这些低延迟原语应该走直接路径。如果每个动作都过一遍大模型,不但慢,而且更难验证。复杂路径只用于需要视觉理解、序列决策和策略推理的任务,这样系统既保留智能,也保留实时性。
Stable inference boundary 则解决模型迭代的问题。VLA 领域变化很快,OpenVLA、OpenVLA-OFT、π0、不同量化和剪枝版本都可能替换。如果每次替换模型都牵动控制器、传感器、agent 工具和硬件接口,系统就无法长期演进。把模型变化限制在 inference module 内,是工程上对“模型快速变化”的一种隔离。
不过,中间层不能替代安全层。一个工具 schema 正确,不代表这个工具应该被任何 agent 在任何时刻调用;一个 ROS message 类型合法,不代表物理动作安全;一个 VLA backend 可替换,不代表替换后行为等价。因此,RoboNeuron 需要和权限控制、速度限制、碰撞检测、日志审计、人工接管和急停系统一起使用。
这篇论文也和当前 AI agent 趋势有关系。越来越多系统让 LLM 调工具,但机器人工具和网页工具不同。网页工具失败可能是请求错误,机器人工具失败可能撞到人或损坏设备。因此,agent-robot bridge 必须比普通软件工具调用更重视类型、生命周期、权限和实时边界。
还要注意,RoboNeuron 的价值不在于把所有机器人能力都“开放给大模型”。真正可用的 agent-robot system 往往需要分层授权:哪些工具只能读状态,哪些工具能移动底盘,哪些工具能控制机械臂,哪些工具必须人类确认后才能执行。中间层如果只提供接口而不提供边界,系统会变得更危险;但如果接口、权限和审计结合起来,它就能让 agent 行为更可追踪。
从学习角度看,RoboNeuron 也提醒我们不要只盯模型指标。Embodied AI 的系统能力常常卡在模型外面:传感器生命周期、ROS node 连接、消息 schema、实时调度、错误恢复、日志记录、部署版本管理。这些内容不如 benchmark 数字显眼,却决定了一个论文 demo 能不能变成持续运行的机器人系统。
它和 Batch 5 的另外几篇正好互补。Embodied AGI 路线图告诉我们高层能力等级,服务机器人综述告诉我们应用场景和约束,NavFoM 提供导航基础模型的例子,而 RoboNeuron 负责说明这些能力如何被 agent 编排进真实机器人软件栈。少了这一层,模型再强也可能停在 notebook 或 isolated demo。
所以这一节是想说:RoboNeuron 的价值是把模型迭代速度和机器人系统稳定性隔离开。
后续核验清单
如果之后要把本文从 UNVERIFIED 提升到人工核验状态,应逐项核对:标题是否采用 arXiv v2 的 Middle-Layer Infrastructure;MCP 与 ROS2 的桥接描述是否准确;direct path / complex path 是否来自论文;Case I-III 和 Case IV 的评估定位是否准确;不要把论文 benchmark 写成本站复现。
原文信息
- arXiv: 2512.10394
- PDF: https://arxiv.org/pdf/2512.10394
@article{guan2025roboneuron,
title = {RoboNeuron: A Middle-Layer Infrastructure for Agent-Driven Orchestration in Embodied AI},
author = {Guan, Weifan and Hu, Qinghao and Xi, Huasen and Zhang, Chenxiao and Li, Aosheng and Cheng, Jian},
journal = {arXiv preprint arXiv:2512.10394},
year = {2025}
}
◼
引用本笔记 / Cite this note
@online{eai_roboneuron_2026,
title = {(readable note) RoboNeuron: A Middle-Layer Infrastructure for Agent-Driven Orchestration in Embodied AI},
author = {Xun, Jason},
year = {2026},
note = {Note on a 2025 paper},
howpublished = {\url{https://estelledc.github.io/embodied-ai-reading-station/papers/roboneuron/}},
organization = {Embodied AI: Zero to One}
}
All 202 papers (full index)
- 1. LLaVA: Visual Instruction Tuning
- 2. 3DShape2VecSet: 3D Shape Representation for Diffusion Models
- 3. SayCan: Do As I Can, Not As I Say
- 4. OpenVLA: An Open-Source Vision-Language-Action Model
- 5. VLAS: VLA Model With Speech Instructions
- 6. MLA: Multisensory Language-Action Model
- 7. Cosmos Policy: Fine-Tuning Video Models for Visuomotor Control
- 8. CartoRadar: RF-Based 3D SLAM Rivaling Vision Approaches
- 9. mmCLIP: Boosting mmWave-based Zero-shot HAR via Signal-Text Alignment
- 10. mmNorm: Non-Line-of-Sight 3D Object Reconstruction via mmWave Surface Normal Estimation
- 11. Proactive Hearing Assistants that Isolate Egocentric Conversations
- 12. NeuralAids: Wireless Hearables With Programmable Speech AI Accelerators
- 13. Creating speech zones with self-distributing acoustic swarms
- 14. Conv-TasNet: Surpassing Ideal Time-Frequency Magnitude Masking for Speech Separation
- 15. SoundStream: An End-to-End Neural Audio Codec
- 16. AudioLM
- 17. Conformer
- 18. Dual-path RNN
- 19. EnCodec
- 20. Meta-StyleSpeech
- 21. MusicLM
- 22. Robust Speech Recognition via Large-Scale Weak Supervision
- 23. SeamlessM4T
- 24. Stable Audio
- 25. Universal Source Separation with Weakly Labelled Data
- 26. Meta-World: A Benchmark and Evaluation for Multi-Task and Meta Reinforcement Learning
- 27. RLBench: The Robot Learning Benchmark & Learning Environment
- 28. robosuite: A Modular Simulation Framework and Benchmark for Robot Learning
- 30. CALVIN
- 31. LIBERO
- 32. RH20T
- 33. What Matters in Learning from Offline Human Demonstrations for Robot Manipulation
- 34. DROID
- 35. Open X-Embodiment
- 36. RoboCasa
- 37. SimplerEnv
- 38. Diffusion Policy: Visuomotor Policy Learning via Action Diffusion
- 39. 3D Diffusion Policy: Generalizable Visuomotor Policy Learning via Simple 3D Representations
- 40. Consistency Policy: Accelerated Visuomotor Policies via Consistency Distillation
- 41. EquiBot: SIM(3)-Equivariant Diffusion Policy
- 42. DiT-Policy
- 43. Diffusion Policy Policy Optimization (DPPO)
- 44. Affordance-based Robot Manipulation with Flow Matching
- 45. FlowPolicy: 3D Flow-based Policy via Consistency Flow Matching
- 46. FAST: Efficient Action Tokenization for VLA
- 47. π₀: A Vision-Language-Action Flow Model for General Robot Control
- 48. pi_0.5: VLA with Open-World Generalization
- 49. A Reduction of Imitation Learning and Structured Prediction to No-Regret Online Learning
- 50. Generative Adversarial Imitation Learning
- 51. Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware (ACT/ALOHA)
- 52. AnyTeleop
- 53. Behavior Transformers: Cloning k Modes with One Stone
- 54. Implicit Behavioral Cloning
- 55. RoboCat
- 56. ALOHA 2
- 58. HumanPlus
- 59. Generalizable Humanoid Manipulation with 3D Diffusion Policies (iDP3)
- 60. Mobile ALOHA
- 61. SmolVLA
- 62. Universal Manipulation Interface
- 63. Behavior Generation with Latent Actions (VQ-BeT)
- 64. ImageBind: One Embedding Space To Bind Them All
- 65. Connecting Touch and Vision via Cross-Modal Prediction
- 66. AnyMAL: An Efficient and Scalable Any-Modality Augmented Language Model
- 67. AudioPaLM
- 68. FROMAGe: Grounding LLMs to Images
- 69. OneLLM
- 70. X-VLM: Multi-Grained Vision Language Pre-Training
- 71. Tactile Beyond Pixels (Sparsh-X)
- 72. Sparsh: Self-supervised Touch Representations
- 73. Tactile-VLA
- 74. TLA: Tactile-Language-Action
- 75. Code as Policies: Language Model Programs for Embodied Control
- 76. Inner Monologue: Embodied Reasoning through Planning with Language Models
- 77. LLM+P: Empowering LLMs with Optimal Planning
- 78. PaLM-E: An Embodied Multimodal Language Model
- 79. ProgPrompt
- 80. ChatGPT for Robotics
- 81. GenSim
- 82. RoboFlamingo
- 83. Tree-Planner
- 84. VoxPoser
- 85. See Through Smoke: Robust Indoor Mapping with Low-cost mmWave Radar
- 86. Can WiFi Estimate Person Pose?
- 87. 3DRIMR: 3D Reconstruction and Imaging via mmWave Radar based on Deep Learning
- 88. milliEgo: Single-chip mmWave Radar Aided Egomotion Estimation via Deep Sensor Fusion
- 89. High Resolution Point Clouds from mmWave Radar
- 90. RadarSLAM: Radar based Large-Scale SLAM in All Weathers
- 91. Through-Wall Pose Imaging in Real-Time with a Many-to-Many Encoder/Decoder Paradigm
- 92. RFMask: A Simple Baseline for Human Silhouette Segmentation with Radio Signals
- 93. RFPose-OT: RF-Based 3D Human Pose Estimation via Optimal Transport Theory
- 94. Argus: Multi-View Egocentric Human Mesh Reconstruction Based on Stripped-Down Wearable mmWave Add-on
- 95. Diffusion Model is a Good Pose Estimator from 3D RF-Vision
- 96. Enabling Visual Recognition at Radio Frequency (PanoRadar)
- 97. Wave-Former: Through-Occlusion 3D Reconstruction via Wireless Shape Completion
- 98. Habitat: A Platform for Embodied AI Research
- 99. Isaac Gym: High Performance GPU-Based Physics Simulation For Robot Learning
- 101. Habitat 2.0
- 102. ManiSkill
- 103. ProcTHOR
- 104. SAPIEN: A SimulAted Part-based Interactive ENvironment
- 105. BEHAVIOR-1K
- 106. BridgeData V2
- 106. Habitat 3.0
- 107. Isaac Lab
- 108. DexMV
- 108. MuJoCo Playground
- 109. DexCap
- 109. RT-1: Robotics Transformer for Real-World Control at Scale
- 110. 3D Diffusion Policy (DP3)
- 111. Octo: An Open-Source Generalist Robot Policy
- 112. RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control
- 113. RT-Trajectory: Robotic Task Generalization via Hindsight Trajectory Sketches
- 114. 3D-VLA
- 116. GR-2: Generative Video-Language-Action Model
- 117. DexVLA
- 117. OpenHelix
- 118. Cosmos World Foundation Model
- 118. OpenVLA-OFT
- 119. RDT-1B: Diffusion Foundation Model for Bimanual Manipulation
- 120. RoboMamba
- 121. SpatialVLA
- 122. TinyVLA
- 123. TraceVLA: Visual Trace Prompting
- 124. Learning Transferable Visual Models From Natural Language Supervision
- 125. Flamingo: a Visual Language Model for Few-Shot Learning
- 126. BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
- 127. BLIP: Bootstrapping Language-Image Pre-training for Unified Vision-Language Understanding and Generation
- 128. DeepSeek-VL: Towards Real-World Vision-Language Understanding
- 129. EVA-CLIP: Improved Training Techniques for CLIP at Scale
- 130. FILIP: Fine-grained Interactive Language-Image Pre-Training
- 131. Florence-2: Advancing a Unified Representation for a Variety of Vision Tasks
- 132. InternVL: Scaling up Vision Foundation Models and Aligning for Generic Visual-Linguistic Tasks
- 133. Improved Baselines with Visual Instruction Tuning
- 134. OBELICS
- 135. Qwen-VL: A Versatile Vision-Language Model for Understanding, Localization, Text Reading, and Beyond
- 136. Sigmoid Loss for Language Image Pre-Training
- 137. What matters when building vision-language models?
- 138. Expanding Performance Boundaries of Open-Source Multimodal Models with Model, Data, and Test-Time Scaling
- 139. The Llama 3 Herd of Models
- 140. LLaVA-NeXT-Interleave
- 141. LLaVA-OneVision: Easy Visual Task Transfer
- 142. Long-CLIP: Unlocking the Long-Text Capability of CLIP
- 143. Pixtral 12B
- 144. Dream to Control: Learning Behaviors by Latent Imagination
- 145. World Models
- 146. DayDreamer
- 147. Mastering Atari with Discrete World Models
- 148. Dreamer V3: Mastering Diverse Domains through World Models
- 149. Transformers are Sample-Efficient World Models
- 150. TWM: Transformer-based World Models
- 151. 1X World Model Challenge
- 153. GAIA-1
- 154. Genie: Generative Interactive Environments
- 155. Navigation World Models
- 156. UniSim
- 157. LeRobot: An Open-Source Library for End-to-End Robot Learning
- 158. CogACT: A Foundational Vision-Language-Action Model for Synergizing Cognition and Action in Robotic Manipulation
- 159. Universal Actions for Enhanced Embodied Foundation Models
- 160. LoHoVLA: A Unified Vision-Language-Action Model for Long-Horizon Embodied Tasks
- 161. AutoRT: Embodied Foundation Models for Large Scale Orchestration of Robotic Agents
- 162. EO-1: Interleaved Vision-Text-Action Pretraining for General Robot Control
- 163. Qwen-VLA: Unifying Vision-Language-Action Modeling across Tasks, Environments, and Robot Embodiments
- 164. RealMirror: A Comprehensive, Open-Source Vision-Language-Action Platform for Embodied AI
- 165. LLaDA-VLA: Vision Language Diffusion Action Models
- 166. Discrete Diffusion VLA: Bringing Discrete Diffusion to Action Decoding in Vision-Language-Action Policies
- 167. Vlaser: Vision-Language-Action Model with Synergistic Embodied Reasoning
- 168. X-VLA: Soft-Prompted Transformer as Scalable Cross-Embodiment Vision-Language-Action Model
- 169. Embodiment Transfer Learning for Vision-Language-Action Models
- 170. HiMoE-VLA: Hierarchical Mixture-of-Experts for Generalist Vision-Language-Action Policies
- 171. Green-VLA: Staged Vision-Language-Action Model for Generalist Robots
- 172. AC^2-VLA: Action-Context-Aware Adaptive Computation in Vision-Language-Action Models for Efficient Robotic Manipulation
- 173. MoS-VLA: A Vision-Language-Action Model with One-Shot Skill Adaptation
- 174. Asynchronous Fast-Slow Vision-Language-Action Policies for Whole-Body Robotic Manipulation
- 175. VLA-Forget: Vision-Language-Action Unlearning for Embodied Foundation Models
- 176. Membership Inference Attacks on Vision-Language-Action Models
- 177. A Survey on Efficient Vision-Language-Action Models
- 178. Survey of Vision-Language-Action Models for Embodied Manipulation
- 179. Embodied AI with Foundation Models for Mobile Service Robots: A Systematic Review
- 180. Toward Embodied AGI: A Review of Embodied AI and the Road Ahead
- 181. RoboNeuron: A Middle-Layer Infrastructure for Agent-Driven Orchestration in Embodied AI
- 182. Embodied Navigation Foundation Model
- 183. MiMo-Embodied: X-Embodied Foundation Model Technical Report
- 184. Open-H-Embodiment: A Large-Scale Dataset for Enabling Foundation Models in Medical Robotics
- 185. AlanaVLM: A Multimodal Embodied AI Foundation Model for Egocentric Video Understanding
- 186. 3D Generation for Embodied AI and Robotic Simulation: A Survey
- 187. DISCO: Language-Guided Manipulation with Diffusion Policies and Constrained Inpainting
- 188. Time-Unified Diffusion Policy with Action Discrimination for Robotic Manipulation
- 189. Learning Diffusion Policy from Primitive Skills for Robot Manipulation
- 190. Trace-Focused Diffusion Policy for Multi-Modal Action Disambiguation in Long-Horizon Robotic Manipulation
- 191. Gaze2Act: Gaze-Conditioned Vision-Language-Action Policies for Interactive Robot Manipulation
- 192. LACY: A Vision-Language Model-based Language-Action Cycle for Self-Improving Robotic Manipulation
- 193. villa-X: Enhancing Latent Action Modeling in Vision-Language-Action Models
- 194. InstructVLA: Vision-Language-Action Instruction Tuning from Understanding to Manipulation
- 195. Discrete Policy: Learning Disentangled Action Space for Multi-Task Robotic Manipulation
- 196. Towards Generalizable Vision-Language Robotic Manipulation: A Benchmark and LLM-guided 3D Policy
- 197. A Survey of Language-Conditioned Robot Manipulation
- 198. SafeEmbodAI: a Safety Framework for Mobile Robots in Embodied AI Systems
- 199. The Essential Role of Causality in Foundation World Models for Embodied AI
- 200. A call for embodied AI
- 201. Toward General-Purpose Robots via Foundation Models: A Survey and Meta-Analysis
- 202. What Breaks Embodied AI Security: LLM Vulnerabilities, CPS Flaws, or Something Else?