旋风少女第二季

Cortex：自主切分规划subtask，上海AI Lab提出双向协同Agent实现长程化学操作任务_我的网站

A |     拿起漏斗，插入圆底烧瓶；拿起量筒，把液体倒入烧瓶；移走漏斗，将烧瓶放到搅拌器上，再塞入瓶塞并按下开关。    8月25日消息，ROG正式推出XBOX掌机X 20周年纪念版本，用来纪念品牌成立20周年，整机做了专属外观升级，硬件配置也有不少改动。    外观上采用半透黑色机身，内部金色结构可以直接看见，机身还镶嵌一枚专属20周年纪念徽章，走复古未来的典藏风格，定位偏向收藏向游戏设备。         对人来说，这是一串可以按顺序完成的动作；但对机器人，每一步都藏着两个判断：规划出的动作能否执行，当前动作是否完成。

B |     屏幕是这次升级的一大亮点，换上7.4英寸星云原画OLED屏，刷新率120Hz，HDR峰值亮度达到1400nits。对比普通版本7英寸IPS屏幕，色彩、对比度提升明显，玩游戏看画面观感会好不少。    操控部件升级TMR摇杆，相比普通摇杆抗漂移能力更强，细微操作跟手，打竞技类游戏的时候会更稳。前者决定规划会不会脱离机械臂的能力，后者决定模型会不会卡在重复动作里，或还没完成当前动作就进入下一步。

C |     核心硬件没有缩水，搭载AMD Ryzen AI Z2 Extreme处理器，搭配24GB LPDDR5X内存，内置1TB PCIe4.0固态硬盘。

D |          端到端 Vision-Language-Action（VLA）模型通常根据当前观测直接生成动作序列。     设备深度适配Xbox生态，Xbox平台的游戏可以直接打开游玩。

E | 对于短程任务而言，模型仅根据当前画面生成动作序列通常已经够用；但随着任务步骤增多，模型很难持续追踪哪些操作已经完成，也容易混淆画面相似的不同阶段，导致误判任务进度。    作为20周年典藏机型，这台掌机主打信仰收藏属性。目前官方还没有公布国内售价，美国市场预售价1299.99美元（约8700元），将于10月15日正式发售。    

F |          近日，来自清华大学、上海人工智能实验室等机构的研究团队提出了 Cortex，一个面向长程机器人操作的双系统具身智能体框架。         它的核心思路，是用统一的结构化子任务描述连接高层规划与低层执行：高层生成的每项任务都明确操作对象、目标位置和动作约束，并被限定在低层执行器已经掌握的技能范围内；低层执行器在训练时，也使用相同格式的子任务描述，即「双向对齐」。         论文标题：Cortex: A Bidirectionally Aligned Embodied Agent Framework for Long-horizon Manipulation          项目网站：https://steinate.github.io/cortex.github.io               论文链接：https://arxiv.org/abs/2607.05377               代码链接：https://github.com/InternRobotics/Cortex               为了让这种对齐真正作用于长程任务，Cortex 并未只设计一个通信接口，而是从架构、数据、训练和部署四个方面搭建了一套完整体系。         视频链接：https://mp.weixin.qq.com/s/_Dkk116WPqO-F8GdCaOvDQ          架构：双系统分工，精准解决          「能不能做」和「做没做完」两大核心问题          在架构上，Cortex 将长程操作分为 System-2 和 System-1 两个层次，通过结构化的子任务将两个系统协同对齐，并通过文本记忆持续跟踪任务进度。         其中上层的 System-2 负责理解任务目标、拆分任务、维护记忆并判断当前进度；System-1 则接收当前子任务，根据子任务描述里的物体与本体约束，并将其转化为连续的机器人动作。         System-2 不会一次性生成完整的动作流程，而是根据当前视觉观测和已有记忆，持续判断应该保持当前任务、重新尝试，还是进入下一步。

G | System-1 执行动作后产生的新观测会再次交给 System-2，用于更新记忆并判断任务是否完成。         由此，文章开头提到的两个问题被分别落实到系统设计中：结构化子任务接口保证高层提出的任务处于低层执行器的能力范围内，视觉观测与记忆的循环更新则帮助系统判断当前任务是否已经完成。         双向对齐的具身Agent架构，System-2接受观测和历史记忆输出当前子任务并更新实时记忆          数据：统一技能范式，          让规划指令可落地、无歧义          为消除高低层语义断层，Cortex 将操作行为归纳为 Pick、Place、Pour、Unscrew、Stir 等 32 种标准化技能原语，并为每类技能规定语言模板。

H |          开放式的「把水倒进烧杯」会被整理成技能、目标对象与必要属性都明确的命令。数据构建时，对于子任务输出，系统还写入颜色、空间位置、数量以及可达性等信息，减少「拿那个杯子」或「直接抓取不可达物体」一类语义正确、执行起来无法落地的规划。         对于记忆的更新，系统进行了语言压缩、关键信息如物体属性及统计数量写入等增强操作，提高 Cortex 完成空间理解、物体计数和失败恢复等复杂任务的成功率。         围绕这套接口，团队对 4000+ 小时开源长时序视频与轨迹进行结构化标注，并修改仿真数据引擎自动生成约 30 小时带子任务标注的仿真数据。已有数据通过视觉语言模型重写为统一的子任务模板；自采轨迹则采用一套结合视觉、机器人状态和动作特征，基于动态规划的子任务边界切分工具链，实现自动化精准标注。         训练：最关键的训练样本，          集中在动作交界处          长轨迹的大多数画面都落在动作进行中。若均匀抽帧，模型最常学到的是「继续做当前动作」，真正决定是否切换子任务的边界帧反而很少。         Cortex 采用事件均衡采样（Event-balanced Sampling） 策略：在子任务边界前后约 1 秒的窗口内加密采样，同时保留执行阶段样本。模型既要学会动作尚未完成时保持指令和记忆，也要在看到完成证据后更新记忆、切换下一步。         在 Galaxea 数据的消融实验中，采用事件均衡采样的模型仅需 272 万训练样本，少于对照组的 310 万样本，综合评分却从 7.58 提升至 8.18。这说明对高层规划器而言，增加关键转场附近的监督，比继续堆叠大量稳定执行画面更有效。

I |          Event-balanced sampling 示意图。橙色区间覆盖子任务切换；训练需要同时学会「耐心保持」和「及时换挡」。         实验：仿真领先几个百分点，          实机差距出现在完整任务上          Cortex 通过优化 Agent 框架 harness，直接面向真实机器人长程操作验证。

J | 团队不仅在 LIBERO-Long、RoboTwin 2.0 等仿真环境中测试，还将系统部署到真实双臂机器人平台上，Zero-shot 规划完成由数十个子任务组成的复杂化学实验任务。         在 LIBERO-Long 上，Cortex 的完整任务成功率为 95.5%，比单独使用 π0.5 的基线 92.4% 高 3.1 个百分点；在 RoboTwin 2.0 benchmark 下，整体成功率为 86.8%，比 π0.5 的 82.74% 高约 4.1 个百分点。这反映了整套 Agent 框架 —— 高层规划与底层执行对齐为长程任务的完成带来的增益。         更能体现系统差异的是实机长化学实验任务。研究者在 ARX ACONE 双臂平台上设计了两组 14 步流程，每组进行 20 次试验。Cortex 在化学液体搅拌实验和烧杯清洗任务上的完整成功率分别为 65% 和 55%；两种端到端模型（PI0.5 及 MEM）在这组试验中都因为混淆子任务阶段而中途失败。         14 步器皿操作流程。高层规划器需要持续记录漏斗、量筒、烧瓶和瓶塞的状态，并在确认每一步完成后再下发下一条局部指令。         相比传统端到端 VLA 方法，Cortex 的优势并不只是某一个模块的提升，而是对长程任务进行了系统化建模。

K |          它用结构化子任务接口约束高层规划，用视觉反馈和语言记忆追踪执行进度，再通过闭环更新持续校正后续决策，使机器人能够在多步骤任务中保持目标、状态与动作的一致性。         这种设计让 Cortex 在仿真基准和真实双臂机器人实验中都展现出更强的长程操作能力。更重要的是，它给出了一个清晰的方向：面向真实场景的机器人智能，不能只依赖端到端动作生成，还需要能够围绕长期目标组织步骤、吸收反馈、更新状态，并在复杂流程中稳定推进。         对于真正进入实验室、家庭和工业现场的机器人来说，这种能力或许正是从 “完成一个动作” 走向 “完成一件事” 的关键一步。         作者介绍          论文共同第一作者彭嘉淇，余茜倩与冯德霖均来自上海人工智能实验室。其中彭嘉淇是清华大学与上海人工智能实验室联合培养的三年级博士生，导师为沈渊教授和林达华教授。在王泰研究员的指导下开展包括视觉动作语言模型，视觉语言导航，loco-manipulation 等机器人相关领域研究，致力于构造实现空间语义理解与长程移动操作的可落地具身智能体，曾发表多篇论文在 ICLR，ICRA 等会议上，NavDP/LoGoPlanner 一作，InternVLA-N1 核心作者，曾获得 ICRA oral。

L |

Current article:http://rgs0.yaoyaotoutuanmieshaideizun.buzz/news/20260826_558.html

Published on:12:04:55