Jason / Works Embodied AIZero to One
Works
没主意?快捷入口
End-to-End VLA · Plate Nº 181

RoboNeuron: A Middle-Layer Infrastructure for Agent-Driven Orchestration in Embodied AI

12 min read · 4047 字 · ⭐⭐⭐⭐ · 长篇结构化

这是一份面向零基础读者的结构化研究笔记。本文只把公开论文文本和 arXiv 元数据能支持的结论写成事实;本站没有本地训练、仿真或真机复现实验,因此不会把论文报告的部署效果写成本站 E4 结果。

一句话讲什么(TL;DR)

RoboNeuron 提出一个 embodied AI 中间层,用来连接 agent tool calling 生态和 ROS2 机器人中间件。它把 ROS message schema 自动派生成 agent 可调用的 MCP tools,让 LLM agent 可以通过统一工具接口调用机器人能力;同时把简单低延迟命令和复杂 perception-inference-control 流程分成两条执行路径,并把 VLA backend / runtime / acceleration preset 的变化限制在稳定 inference boundary 内。

如果只记一个直觉:RoboNeuron 不是新的 VLA 模型,而是把“会思考的 agent”和“会执行的机器人系统”之间的插座标准化。

所以这一节是想说:它解决的是具身 AI 部署中的接口和中间层问题。

这是个什么场景

真实机器人系统通常不是一个模型直接控制电机。底层有 ROS2、传感器节点、控制节点、话题、消息类型、驱动、仿真器、硬件适配器。上层 LLM agent 则习惯通过 tool calling 方式调用结构化工具。两边说的语言不一样:agent 讲 JSON schema / tool API,机器人中间件讲 ROS messages / topics / services。

如果每次把一个 VLA 或 LLM agent 接到机器人上,都手写 wrapper,系统会很脆弱。换一个机械臂、换一个传感器、换一个 VLA backend、换一个推理加速库,都可能要重写 glue code。RoboNeuron 的目标是降低这个工程摩擦。

LLM Agent / MCP tools
        │
        ▼
   RoboNeuron 中间层
        │
        ├─ schema-based ROS tool derivation
        ├─ direct low-latency calls
        └─ perception -> VLA inference -> control path
        │
        ▼
 ROS2 / hardware / simulation / controllers
两条执行路径

简单路径:Agent -> MCP tool -> ROS message -> 控制
复杂路径:Agent -> 感知节点 -> VLA 推理 -> 控制节点

这个场景在 Batch 5 很重要。前几批很多论文关注模型能力,但模型要落地到机器人,必须解决接口、生命周期、进程、消息、延迟和可替换性。RoboNeuron 就站在模型和工程之间。

所以这一节是想说:具身智能落地不只是训练模型,还要有稳定的软件中间层。

RoboNeuron — 场景示意:这论文要解决的现实问题
Plate Nº IRoboNeuron — 场景示意:这论文要解决的现实问题

之前的人怎么做的,为什么不够好

已有很多 LLM agent for robotics 工作,用语言模型组织任务级推理;也有 ROS2、behavior tree、robot middleware 等成熟机器人软件栈;还有 OpenVLA、OpenVLA-OFT、π 系列等 VLA 模型。但是这些生态之间缺一个稳定、可复用的连接层。

论文指出三个痛点。第一,agent tool APIs 和 robot middleware interfaces 之间存在 mismatch。第二,很多实现靠 ad-hoc wrappers,难复用、难维护。第三,VLA backend 或 serving stack 一变,周围集成代码也要跟着改。

这些痛点会阻碍真实部署。研究原型可以手写脚本,但长期系统需要组件可替换、接口稳定、低层控制不被上层模型变化反复打断。

所以这一节是想说:RoboNeuron 关注的是“可维护的部署结构”,不是单次 demo。

这篇论文的新想法

RoboNeuron 的核心想法是做 middle-layer infrastructure。它位于 agent-side reasoning / policy layer 和 ROS2 / hardware / simulation / compute layer 之间,负责统一工具接口、能力暴露、模块组合和生命周期管理。

它使用 MCP 作为 LLM agent 工具协议一侧的语义接口,使用 ROS2 作为机器人中间件一侧的执行骨干。关键创新是 schema-based derivation:从 ROS message 和 interface definitions 自动生成 agent-callable tool signatures,减少手写 wrapper。

它还提出 composable modular execution。Agent 可以选择低延迟 direct path,也可以组合 perception、inference、control 模块形成复杂路径。VLA 相关变化被放进 inference module,使 backend、runtime、acceleration preset 的切换不影响周围控制逻辑。

所以这一节是想说:RoboNeuron 的新意是把 agent tool calling 和 ROS message interface 变成可派生、可组合、可替换的中间层。

它分几步做的(方法)

第 1 步:把 ROS 能力暴露成 MCP tools

RoboNeuron 通过解析 ROS message definitions,构建结构化 tool argument schema。工具调用被验证后,再递归映射回 ROS message 字段,发布到对应 topic 或调用相关接口。

这一步解决的是“LLM 输出结构化文本,ROS 需要严格消息类型”的问题。自动派生比手写 wrapper 更稳定,因为底层消息变更时可以重新从 schema 生成工具。

第 2 步:区分 direct path 和 complex path

direct path 面向低延迟 primitive,比如发布速度、查询状态、简单控制命令。它绕过 VLA inference,直接把 tool call 转成 ROS message。

complex path 面向视觉理解和序列决策。Agent 启动或编排 perception、VLA inference、control 等长运行模块,让它们通过 ROS2 数据平面通信。

Direct path
Agent tool call -> validated args -> ROS message -> topic publish

Complex path
Agent plan -> perception node -> VLA backend -> control node -> robot

第 3 步:把 VLA backend 放进稳定边界

RoboNeuron 的 inference module 通过 model wrapper registry 选择不同 VLA backend。论文提到覆盖 OpenVLA、OpenVLA-OFT 和 π0 等模型。它保持固定的 image input 和 vector-based action output contract,让下游 controller 不需要因为模型更换而重写。

这个设计像给电器统一插头。你可以换电器品牌,但墙上的插座和房间布线不变。对机器人系统来说,这意味着模型迭代不会频繁破坏控制链路。

第 4 步:管理生命周期和进程

RoboNeuron 把长运行模块作为 ROS2 node 或独立 OS process 启动,并通过 stop tool 管理清理。它强调 persistent / stream-driven 模块和 one-shot / message-driven tool 的区别。

这对真实机器人很重要。传感器流、VLA 推理和控制节点不应该每步都重新启动;但也必须能被显式停止和清理,避免资源泄漏。

第 5 步:评估中间层能力

论文把实验分为机制验证和 benchmark。Cases I-III 验证 unified tool interface、两条执行路径、模块组织、仿真和真实硬件;Case IV 研究 OpenVLA-OFT pruning 和 OpenVLA quantization / latency 等 backend/runtime 变化在稳定边界内如何比较。

所以这一节是想说:RoboNeuron 的方法从 schema、路径、边界、生命周期四层处理部署工程问题。

RoboNeuron — 方法示意:核心 pipeline
Plate Nº IIRoboNeuron — 方法示意:核心 pipeline

关键数字

论文页数为 8 页,重点不是刷一个大型 benchmark,而是验证中间层机制。它明确提到 Case I-III 是 mechanism-oriented case studies,Case IV 是 controlled benchmark evaluation。

论文中涉及 LIBERO-Spatial、OpenVLA-OFT pruning、OpenVLA quantization / latency 等评估设置。需要注意,这些是论文报告,不是本站本地跑过的 benchmark。

更重要的“数字”其实是架构分层:两条执行路径、一个 stable inference boundary、schema-based tool derivation pipeline、perception-inference-control 模块链。它们共同构成系统可替换性的证据。

所以这一节是想说:RoboNeuron 的贡献主要是中间层结构和可替换性,而不是单一成功率。

实验结果说明了什么

实验说明 RoboNeuron 试图验证三个问题。第一,agent 是否能通过统一工具接口触达 ROS2 能力。第二,简单命令和复杂 VLA 流水线是否能在同一接口下组织。第三,VLA backend、runtime 或 acceleration preset 的变化是否能局部化,不破坏周围控制拓扑。

这些结果对具身 AI 工程很关键。一个模型 benchmark 再好,如果每次换模型都要重接传感器、控制器和硬件 API,部署成本会非常高。RoboNeuron 让模型变化被限制在 inference boundary 内,把系统稳定性从“靠工程师小心维护”转向“靠接口层约束”。

但也要保留边界。中间层能降低集成成本,不代表上层 agent 一定计划正确,也不代表底层控制一定安全。它解决的是接口和编排问题,不替代安全验证、运动规划和硬件保护。

所以这一节是想说:RoboNeuron 证明了接口层可复用的价值,但不等于完整机器人安全方案。

术语表

  • MCP:Model Context Protocol,面向 agent 的工具调用协议。
  • ROS2:Robot Operating System 2,机器人中间件生态。
  • Middleware:连接上层逻辑和底层系统的中间层。
  • Schema-based derivation:从消息 schema 自动生成工具定义。
  • Direct path:低延迟直接工具调用路径。
  • Complex path:感知、推理、控制模块组合路径。
  • Inference boundary:把 VLA 推理相关变化限制在稳定边界内。
  • Wrapper:适配不同模型、传感器或硬件接口的封装。

所以这一节是想说:本文的关键词都围绕“接口稳定”和“模块解耦”。

局限和边界

第一,RoboNeuron 是中间层基础设施,不是新 VLA 算法。它不能直接提升模型认知能力。

第二,schema 自动生成工具能减少 wrapper 维护,但生成出的工具是否适合 agent 使用,仍需要命名、文档、权限和安全策略。

第三,ROS2 接口稳定不等于物理安全。真实机器人还需要碰撞检测、速度限制、急停、权限隔离和人类监督。

第四,论文的 benchmark 是中间层验证,不等于所有硬件和复杂长期任务都已经被验证。跨平台部署仍需要实机测试。

所以这一节是想说:RoboNeuron 是很有用的基础设施,但必须和安全控制、验证和治理一起使用。

和其他论文的关系

和 mobile-service-robot-foundation-survey 相比,RoboNeuron 是把综述里的部署约束落到软件接口层。服务机器人需要长期运行和多组件协作,中间层是基础。

和 embodied-agi-road-ahead 相比,RoboNeuron 不讨论 L1-L5,但它提供 L3+ 系统可能需要的工程底座:agent、工具、感知、VLA、控制可组合。

和 embodied-navigation-foundation-model 相比,NavFoM 训练导航基础模型,RoboNeuron 解决模型如何进入 ROS2 机器人系统。

和 efficient-vla-survey 相比,RoboNeuron 也关注 runtime 和 acceleration presets,但它的重点是接口边界和系统可替换性。

所以这一节是想说:它把模型研究和机器人软件工程连起来。

和本导读的关系

本站很多论文在讲模型本身,RoboNeuron 则提醒读者:模型只是机器人系统的一层。真实部署还要考虑 agent tools、ROS message、传感器流、控制节点和生命周期管理。

它适合放在“工程落地”章节,帮助读者理解为什么一个 VLA demo 到一个可维护机器人系统之间还有很长距离。

所以这一节是想说:RoboNeuron 是本站从读论文走向做系统时必须补的一课。

思考题

  1. 为什么 agent tool API 和 ROS message interface 会不匹配?
  2. direct path 和 complex path 分别适合什么任务?
  3. 为什么把 VLA backend 放进稳定 inference boundary 很重要?
  4. RoboNeuron 解决了接口问题后,还剩哪些安全问题?

FAQ

Q:RoboNeuron 是不是替代 ROS? A:不是。它建立在 ROS2 等机器人中间件之上,把 robot-side interface 暴露成 agent-callable tools。

Q:它是不是新的 VLA 模型? A:不是。它是中间层,可以接 OpenVLA、OpenVLA-OFT、π0 等 backend。

Q:MCP 在这里起什么作用? A:MCP 是 agent 工具调用一侧的协议,让 LLM agent 能用结构化方式调用机器人能力。

Q:本站有没有跑 RoboNeuron? A:没有。这里只记录论文描述和报告结果,不写成本站复现实验。

进一步读什么

  • ROS2 官方文档:理解 topic、message、node、service 的基本概念。
  • MCP 规范:理解 agent tool calling 的结构化接口。
  • OpenVLA / OpenVLA-OFT / π0:理解 RoboNeuron 可接入的 VLA backend。
  • mobile service robot survey:理解为什么服务机器人需要可维护部署层。

精读补充:为什么中间层是模型之外的关键能力

读 RoboNeuron 时,容易把它误解为“又一个工具封装库”。其实它瞄准的是具身 AI 系统里非常核心的工程断层:上层 agent 以工具调用表达意图,底层机器人以 ROS message 和实时控制表达能力。两边都合理,但直接相连会产生大量一次性胶水代码。胶水代码越多,系统越难维护,越难复现,也越难安全审计。

Schema-based derivation 的意义在这里。手写 wrapper 的问题不是写起来麻烦,而是它很容易和真实 robot-side interface 漂移。ROS message 改了字段,wrapper 可能没同步;agent tool 文档写得和底层行为不一致,LLM 就可能错误调用。RoboNeuron 从 ROS schema 自动派生工具定义,相当于让工具接口从底层事实源生成,减少人为失配。

Direct path 和 complex path 的区分也很重要。不是所有机器人动作都需要 VLA 推理。查询状态、发布简单速度、打开传感器、停止控制器,这些低延迟原语应该走直接路径。如果每个动作都过一遍大模型,不但慢,而且更难验证。复杂路径只用于需要视觉理解、序列决策和策略推理的任务,这样系统既保留智能,也保留实时性。

Stable inference boundary 则解决模型迭代的问题。VLA 领域变化很快,OpenVLA、OpenVLA-OFT、π0、不同量化和剪枝版本都可能替换。如果每次替换模型都牵动控制器、传感器、agent 工具和硬件接口,系统就无法长期演进。把模型变化限制在 inference module 内,是工程上对“模型快速变化”的一种隔离。

不过,中间层不能替代安全层。一个工具 schema 正确,不代表这个工具应该被任何 agent 在任何时刻调用;一个 ROS message 类型合法,不代表物理动作安全;一个 VLA backend 可替换,不代表替换后行为等价。因此,RoboNeuron 需要和权限控制、速度限制、碰撞检测、日志审计、人工接管和急停系统一起使用。

这篇论文也和当前 AI agent 趋势有关系。越来越多系统让 LLM 调工具,但机器人工具和网页工具不同。网页工具失败可能是请求错误,机器人工具失败可能撞到人或损坏设备。因此,agent-robot bridge 必须比普通软件工具调用更重视类型、生命周期、权限和实时边界。

还要注意,RoboNeuron 的价值不在于把所有机器人能力都“开放给大模型”。真正可用的 agent-robot system 往往需要分层授权:哪些工具只能读状态,哪些工具能移动底盘,哪些工具能控制机械臂,哪些工具必须人类确认后才能执行。中间层如果只提供接口而不提供边界,系统会变得更危险;但如果接口、权限和审计结合起来,它就能让 agent 行为更可追踪。

从学习角度看,RoboNeuron 也提醒我们不要只盯模型指标。Embodied AI 的系统能力常常卡在模型外面:传感器生命周期、ROS node 连接、消息 schema、实时调度、错误恢复、日志记录、部署版本管理。这些内容不如 benchmark 数字显眼,却决定了一个论文 demo 能不能变成持续运行的机器人系统。

它和 Batch 5 的另外几篇正好互补。Embodied AGI 路线图告诉我们高层能力等级,服务机器人综述告诉我们应用场景和约束,NavFoM 提供导航基础模型的例子,而 RoboNeuron 负责说明这些能力如何被 agent 编排进真实机器人软件栈。少了这一层,模型再强也可能停在 notebook 或 isolated demo。

所以这一节是想说:RoboNeuron 的价值是把模型迭代速度和机器人系统稳定性隔离开。

后续核验清单

如果之后要把本文从 UNVERIFIED 提升到人工核验状态,应逐项核对:标题是否采用 arXiv v2 的 Middle-Layer Infrastructure;MCP 与 ROS2 的桥接描述是否准确;direct path / complex path 是否来自论文;Case I-III 和 Case IV 的评估定位是否准确;不要把论文 benchmark 写成本站复现。

原文信息

@article{guan2025roboneuron,
  title = {RoboNeuron: A Middle-Layer Infrastructure for Agent-Driven Orchestration in Embodied AI},
  author = {Guan, Weifan and Hu, Qinghao and Xi, Huasen and Zhang, Chenxiao and Li, Aosheng and Cheng, Jian},
  journal = {arXiv preprint arXiv:2512.10394},
  year = {2025}
}

引用本笔记 / Cite this note
BibTeX
@online{eai_roboneuron_2026,
  title       = {(readable note) RoboNeuron: A Middle-Layer Infrastructure for Agent-Driven Orchestration in Embodied AI},
  author      = {Xun, Jason},
  year        = {2026},
  note        = {Note on a 2025 paper},
  howpublished = {\url{https://estelledc.github.io/embodied-ai-reading-station/papers/roboneuron/}},
  organization = {Embodied AI: Zero to One}
}

All 202 papers (full index)
  1. 1. LLaVA: Visual Instruction Tuning
  2. 2. 3DShape2VecSet: 3D Shape Representation for Diffusion Models
  3. 3. SayCan: Do As I Can, Not As I Say
  4. 4. OpenVLA: An Open-Source Vision-Language-Action Model
  5. 5. VLAS: VLA Model With Speech Instructions
  6. 6. MLA: Multisensory Language-Action Model
  7. 7. Cosmos Policy: Fine-Tuning Video Models for Visuomotor Control
  8. 8. CartoRadar: RF-Based 3D SLAM Rivaling Vision Approaches
  9. 9. mmCLIP: Boosting mmWave-based Zero-shot HAR via Signal-Text Alignment
  10. 10. mmNorm: Non-Line-of-Sight 3D Object Reconstruction via mmWave Surface Normal Estimation
  11. 11. Proactive Hearing Assistants that Isolate Egocentric Conversations
  12. 12. NeuralAids: Wireless Hearables With Programmable Speech AI Accelerators
  13. 13. Creating speech zones with self-distributing acoustic swarms
  14. 14. Conv-TasNet: Surpassing Ideal Time-Frequency Magnitude Masking for Speech Separation
  15. 15. SoundStream: An End-to-End Neural Audio Codec
  16. 16. AudioLM
  17. 17. Conformer
  18. 18. Dual-path RNN
  19. 19. EnCodec
  20. 20. Meta-StyleSpeech
  21. 21. MusicLM
  22. 22. Robust Speech Recognition via Large-Scale Weak Supervision
  23. 23. SeamlessM4T
  24. 24. Stable Audio
  25. 25. Universal Source Separation with Weakly Labelled Data
  26. 26. Meta-World: A Benchmark and Evaluation for Multi-Task and Meta Reinforcement Learning
  27. 27. RLBench: The Robot Learning Benchmark & Learning Environment
  28. 28. robosuite: A Modular Simulation Framework and Benchmark for Robot Learning
  29. 30. CALVIN
  30. 31. LIBERO
  31. 32. RH20T
  32. 33. What Matters in Learning from Offline Human Demonstrations for Robot Manipulation
  33. 34. DROID
  34. 35. Open X-Embodiment
  35. 36. RoboCasa
  36. 37. SimplerEnv
  37. 38. Diffusion Policy: Visuomotor Policy Learning via Action Diffusion
  38. 39. 3D Diffusion Policy: Generalizable Visuomotor Policy Learning via Simple 3D Representations
  39. 40. Consistency Policy: Accelerated Visuomotor Policies via Consistency Distillation
  40. 41. EquiBot: SIM(3)-Equivariant Diffusion Policy
  41. 42. DiT-Policy
  42. 43. Diffusion Policy Policy Optimization (DPPO)
  43. 44. Affordance-based Robot Manipulation with Flow Matching
  44. 45. FlowPolicy: 3D Flow-based Policy via Consistency Flow Matching
  45. 46. FAST: Efficient Action Tokenization for VLA
  46. 47. π₀: A Vision-Language-Action Flow Model for General Robot Control
  47. 48. pi_0.5: VLA with Open-World Generalization
  48. 49. A Reduction of Imitation Learning and Structured Prediction to No-Regret Online Learning
  49. 50. Generative Adversarial Imitation Learning
  50. 51. Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware (ACT/ALOHA)
  51. 52. AnyTeleop
  52. 53. Behavior Transformers: Cloning k Modes with One Stone
  53. 54. Implicit Behavioral Cloning
  54. 55. RoboCat
  55. 56. ALOHA 2
  56. 58. HumanPlus
  57. 59. Generalizable Humanoid Manipulation with 3D Diffusion Policies (iDP3)
  58. 60. Mobile ALOHA
  59. 61. SmolVLA
  60. 62. Universal Manipulation Interface
  61. 63. Behavior Generation with Latent Actions (VQ-BeT)
  62. 64. ImageBind: One Embedding Space To Bind Them All
  63. 65. Connecting Touch and Vision via Cross-Modal Prediction
  64. 66. AnyMAL: An Efficient and Scalable Any-Modality Augmented Language Model
  65. 67. AudioPaLM
  66. 68. FROMAGe: Grounding LLMs to Images
  67. 69. OneLLM
  68. 70. X-VLM: Multi-Grained Vision Language Pre-Training
  69. 71. Tactile Beyond Pixels (Sparsh-X)
  70. 72. Sparsh: Self-supervised Touch Representations
  71. 73. Tactile-VLA
  72. 74. TLA: Tactile-Language-Action
  73. 75. Code as Policies: Language Model Programs for Embodied Control
  74. 76. Inner Monologue: Embodied Reasoning through Planning with Language Models
  75. 77. LLM+P: Empowering LLMs with Optimal Planning
  76. 78. PaLM-E: An Embodied Multimodal Language Model
  77. 79. ProgPrompt
  78. 80. ChatGPT for Robotics
  79. 81. GenSim
  80. 82. RoboFlamingo
  81. 83. Tree-Planner
  82. 84. VoxPoser
  83. 85. See Through Smoke: Robust Indoor Mapping with Low-cost mmWave Radar
  84. 86. Can WiFi Estimate Person Pose?
  85. 87. 3DRIMR: 3D Reconstruction and Imaging via mmWave Radar based on Deep Learning
  86. 88. milliEgo: Single-chip mmWave Radar Aided Egomotion Estimation via Deep Sensor Fusion
  87. 89. High Resolution Point Clouds from mmWave Radar
  88. 90. RadarSLAM: Radar based Large-Scale SLAM in All Weathers
  89. 91. Through-Wall Pose Imaging in Real-Time with a Many-to-Many Encoder/Decoder Paradigm
  90. 92. RFMask: A Simple Baseline for Human Silhouette Segmentation with Radio Signals
  91. 93. RFPose-OT: RF-Based 3D Human Pose Estimation via Optimal Transport Theory
  92. 94. Argus: Multi-View Egocentric Human Mesh Reconstruction Based on Stripped-Down Wearable mmWave Add-on
  93. 95. Diffusion Model is a Good Pose Estimator from 3D RF-Vision
  94. 96. Enabling Visual Recognition at Radio Frequency (PanoRadar)
  95. 97. Wave-Former: Through-Occlusion 3D Reconstruction via Wireless Shape Completion
  96. 98. Habitat: A Platform for Embodied AI Research
  97. 99. Isaac Gym: High Performance GPU-Based Physics Simulation For Robot Learning
  98. 101. Habitat 2.0
  99. 102. ManiSkill
  100. 103. ProcTHOR
  101. 104. SAPIEN: A SimulAted Part-based Interactive ENvironment
  102. 105. BEHAVIOR-1K
  103. 106. BridgeData V2
  104. 106. Habitat 3.0
  105. 107. Isaac Lab
  106. 108. DexMV
  107. 108. MuJoCo Playground
  108. 109. DexCap
  109. 109. RT-1: Robotics Transformer for Real-World Control at Scale
  110. 110. 3D Diffusion Policy (DP3)
  111. 111. Octo: An Open-Source Generalist Robot Policy
  112. 112. RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control
  113. 113. RT-Trajectory: Robotic Task Generalization via Hindsight Trajectory Sketches
  114. 114. 3D-VLA
  115. 116. GR-2: Generative Video-Language-Action Model
  116. 117. DexVLA
  117. 117. OpenHelix
  118. 118. Cosmos World Foundation Model
  119. 118. OpenVLA-OFT
  120. 119. RDT-1B: Diffusion Foundation Model for Bimanual Manipulation
  121. 120. RoboMamba
  122. 121. SpatialVLA
  123. 122. TinyVLA
  124. 123. TraceVLA: Visual Trace Prompting
  125. 124. Learning Transferable Visual Models From Natural Language Supervision
  126. 125. Flamingo: a Visual Language Model for Few-Shot Learning
  127. 126. BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
  128. 127. BLIP: Bootstrapping Language-Image Pre-training for Unified Vision-Language Understanding and Generation
  129. 128. DeepSeek-VL: Towards Real-World Vision-Language Understanding
  130. 129. EVA-CLIP: Improved Training Techniques for CLIP at Scale
  131. 130. FILIP: Fine-grained Interactive Language-Image Pre-Training
  132. 131. Florence-2: Advancing a Unified Representation for a Variety of Vision Tasks
  133. 132. InternVL: Scaling up Vision Foundation Models and Aligning for Generic Visual-Linguistic Tasks
  134. 133. Improved Baselines with Visual Instruction Tuning
  135. 134. OBELICS
  136. 135. Qwen-VL: A Versatile Vision-Language Model for Understanding, Localization, Text Reading, and Beyond
  137. 136. Sigmoid Loss for Language Image Pre-Training
  138. 137. What matters when building vision-language models?
  139. 138. Expanding Performance Boundaries of Open-Source Multimodal Models with Model, Data, and Test-Time Scaling
  140. 139. The Llama 3 Herd of Models
  141. 140. LLaVA-NeXT-Interleave
  142. 141. LLaVA-OneVision: Easy Visual Task Transfer
  143. 142. Long-CLIP: Unlocking the Long-Text Capability of CLIP
  144. 143. Pixtral 12B
  145. 144. Dream to Control: Learning Behaviors by Latent Imagination
  146. 145. World Models
  147. 146. DayDreamer
  148. 147. Mastering Atari with Discrete World Models
  149. 148. Dreamer V3: Mastering Diverse Domains through World Models
  150. 149. Transformers are Sample-Efficient World Models
  151. 150. TWM: Transformer-based World Models
  152. 151. 1X World Model Challenge
  153. 153. GAIA-1
  154. 154. Genie: Generative Interactive Environments
  155. 155. Navigation World Models
  156. 156. UniSim
  157. 157. LeRobot: An Open-Source Library for End-to-End Robot Learning
  158. 158. CogACT: A Foundational Vision-Language-Action Model for Synergizing Cognition and Action in Robotic Manipulation
  159. 159. Universal Actions for Enhanced Embodied Foundation Models
  160. 160. LoHoVLA: A Unified Vision-Language-Action Model for Long-Horizon Embodied Tasks
  161. 161. AutoRT: Embodied Foundation Models for Large Scale Orchestration of Robotic Agents
  162. 162. EO-1: Interleaved Vision-Text-Action Pretraining for General Robot Control
  163. 163. Qwen-VLA: Unifying Vision-Language-Action Modeling across Tasks, Environments, and Robot Embodiments
  164. 164. RealMirror: A Comprehensive, Open-Source Vision-Language-Action Platform for Embodied AI
  165. 165. LLaDA-VLA: Vision Language Diffusion Action Models
  166. 166. Discrete Diffusion VLA: Bringing Discrete Diffusion to Action Decoding in Vision-Language-Action Policies
  167. 167. Vlaser: Vision-Language-Action Model with Synergistic Embodied Reasoning
  168. 168. X-VLA: Soft-Prompted Transformer as Scalable Cross-Embodiment Vision-Language-Action Model
  169. 169. Embodiment Transfer Learning for Vision-Language-Action Models
  170. 170. HiMoE-VLA: Hierarchical Mixture-of-Experts for Generalist Vision-Language-Action Policies
  171. 171. Green-VLA: Staged Vision-Language-Action Model for Generalist Robots
  172. 172. AC^2-VLA: Action-Context-Aware Adaptive Computation in Vision-Language-Action Models for Efficient Robotic Manipulation
  173. 173. MoS-VLA: A Vision-Language-Action Model with One-Shot Skill Adaptation
  174. 174. Asynchronous Fast-Slow Vision-Language-Action Policies for Whole-Body Robotic Manipulation
  175. 175. VLA-Forget: Vision-Language-Action Unlearning for Embodied Foundation Models
  176. 176. Membership Inference Attacks on Vision-Language-Action Models
  177. 177. A Survey on Efficient Vision-Language-Action Models
  178. 178. Survey of Vision-Language-Action Models for Embodied Manipulation
  179. 179. Embodied AI with Foundation Models for Mobile Service Robots: A Systematic Review
  180. 180. Toward Embodied AGI: A Review of Embodied AI and the Road Ahead
  181. 181. RoboNeuron: A Middle-Layer Infrastructure for Agent-Driven Orchestration in Embodied AI
  182. 182. Embodied Navigation Foundation Model
  183. 183. MiMo-Embodied: X-Embodied Foundation Model Technical Report
  184. 184. Open-H-Embodiment: A Large-Scale Dataset for Enabling Foundation Models in Medical Robotics
  185. 185. AlanaVLM: A Multimodal Embodied AI Foundation Model for Egocentric Video Understanding
  186. 186. 3D Generation for Embodied AI and Robotic Simulation: A Survey
  187. 187. DISCO: Language-Guided Manipulation with Diffusion Policies and Constrained Inpainting
  188. 188. Time-Unified Diffusion Policy with Action Discrimination for Robotic Manipulation
  189. 189. Learning Diffusion Policy from Primitive Skills for Robot Manipulation
  190. 190. Trace-Focused Diffusion Policy for Multi-Modal Action Disambiguation in Long-Horizon Robotic Manipulation
  191. 191. Gaze2Act: Gaze-Conditioned Vision-Language-Action Policies for Interactive Robot Manipulation
  192. 192. LACY: A Vision-Language Model-based Language-Action Cycle for Self-Improving Robotic Manipulation
  193. 193. villa-X: Enhancing Latent Action Modeling in Vision-Language-Action Models
  194. 194. InstructVLA: Vision-Language-Action Instruction Tuning from Understanding to Manipulation
  195. 195. Discrete Policy: Learning Disentangled Action Space for Multi-Task Robotic Manipulation
  196. 196. Towards Generalizable Vision-Language Robotic Manipulation: A Benchmark and LLM-guided 3D Policy
  197. 197. A Survey of Language-Conditioned Robot Manipulation
  198. 198. SafeEmbodAI: a Safety Framework for Mobile Robots in Embodied AI Systems
  199. 199. The Essential Role of Causality in Foundation World Models for Embodied AI
  200. 200. A call for embodied AI
  201. 201. Toward General-Purpose Robots via Foundation Models: A Survey and Meta-Analysis
  202. 202. What Breaks Embodied AI Security: LLM Vulnerabilities, CPS Flaws, or Something Else?