Keyboard shortcuts

Press or to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

week2工作

1.lerobot支持的 符合当前项目的具身模型

模型是否LeRobot支持参数规模输入输出最大特点训练方式
SmolVLA✅ 官方重点支持450M左右图像 + 文本 + robot stateaction chunk小模型、端侧友好、低成本微调Transformer + Action Expert,模仿学习
OpenVLA✅ 可接入7B图像 + 文本action token当前最经典开源VLA之一,泛化能力强大规模机器人数据预训练 + SFT
Pi0 (π0)✅ 社区支持3B左右图像 + 文本 + proprioception连续动作Physical Intelligence提出,能力强Flow Matching + VLM

openvla和pi0都需要云端训练且都需要更大的数据集来训练

2.本周尝试的开源数据集和开源模型

调研LeRobot生态中基于SmolVLA的开源模型与数据集,重点关注SO101平台上的双视角(top+wrist)视觉输入任务

名称类型机器人任务功能摄像头数量摄像头配置
lerobot/smolvla_base模型通用通用VLA基础模型多camera任意
lerobot/svla_so100_pickplace数据集SO100方块抓取放置2路top + side/up
lerobot/svla_so101_pickplace数据集SO101方块抓取放置2路top + wrist/side
faye7/so101-smolvla模型SO101Pick & Place2路没说明
AndrewNoviello/so101-smolvla模型SO101Pick & Place2路没说明
rtsmc/smolvla_box_in_bin_so101_test模型SO101方块放入盒子2路top + wrist

复现 LeRobot / SmolVLA 后机器人动作异常(抽搐、不成功)原因分析:

  1. 摄像头视角不匹配:训练使用的 camera 数量、位置、视角和实际部署环境不同。
  2. 数据泛化不足:开源模型训练环境和自己的任务、物体、场景差异太大。
  3. 环境差异大:桌面背景杂乱,目前的演示视频基本都是在纯色背景下进行 环境杂乱可能要进行更多的后训练

解决方案:

1.重新采集机器人数据

  • 使用leader-follower遥操作方式采集任务轨迹。
  • 记录top摄像头和手腕摄像头图像。
  • 同步记录关节角度、夹爪状态和执行动作。

2.构建自定义VLA数据集

  • 输入:
    • 多视角图像
    • 机器人状态
    • 文本任务描述
  • 输出:
    • action chunk(未来多个控制动作)

3.基于SmolVLA进行微调

  • 使用官方450M SmolVLA作为初始化模型。
  • 使用自己的SO101数据进行监督微调。
  • 让模型学习机器人自身运动学和任务环境。

3.双臂场景的调研分析

场景双臂分工社区参考情况
双臂共同搬盒子左右臂分别夹住盒子两侧,移动到目标区域属于最基础的同步双臂控制任务,适合作为自采数据起点
一臂固定盒子,另一臂放入东西左臂扶住容器,右臂抓取并放入社区已有双臂抓取积木并放入箱子的 SmolVLA 训练案例。
双臂分别抓取物品并整理两臂各抓一个物体,分别放入杯子或箱子社区已有双 SO101 抓取马克笔并放入容器的 SmolVLA 模型
双臂传递方块左臂拿起,右臂接住并放置已有公开的双 SO100 方块交接数据集及 SmolVLA、π0、GR00T 等模型。
一臂打开盒盖,另一臂放物体左臂拉住盒盖,右臂完成抓取放置可由“开门”和“物体放入容器”两个已有社区任务组合而成,属于较实际的多阶段任务。
双臂搭简单金字塔两臂交替拿积木,完成底层和上层摆放已有基于约100条 episode 训练的双 SO101 SmolVLA 金字塔模型,但公开说明较少。
双臂展开或折叠毛巾两臂抓住毛巾两角,拉平后折叠LeRobot 社区已有衣物折叠演示,ArmnetBench 也包含双 SO101 毛巾折叠任务。
双臂分类物体左臂处理左侧物体,右臂处理右侧物体,按颜色放入不同区域属于双臂抓取整理任务的自然扩展,适合使用不同文本指令训练多任务 SmolVLA

初步定为左右手传递物品,双手传递相比单臂抓取放置:

扩大工作空间:一个机械臂抓不到或放不到的位置,可以通过另一只机械臂接力完成。

支持任务分工:左右机械臂可以分别负责取料和放置,形成连续的操作流水线。

减少单臂大范围运动:单臂不需要跨越整个桌面,能够缩短轨迹并降低碰撞风险。