机器人抓取示意图
← 返回项目列表
manipulation
进行中 72%

基于视觉引导的机械臂抓取规划系统

本项目设计并实现了一套完整的视觉引导机械臂抓取系统,从物体检测与位姿估计到运动规划与执行控制,打通了感知-规划-控制的全链路。系统在多种未知物体上实现了 85% 以上的抓取成功率。

技术栈

ROS 2MoveIt 2PyTorchOpen3DC++Python

核心功能

  • 基于 PointNet++ 的物体 6D 位姿估计
  • 多指灵巧手抓取姿态生成
  • 基于 RRT 的无碰撞运动规划
  • 实时视觉反馈闭环控制

亮点

获实验室最佳项目奖,相关论文投稿 ICRA 2026

项目背景

在非结构化环境中实现机器人的自主抓取是具身智能领域的核心挑战之一。传统的抓取系统往往依赖预先定义的物体模型和抓取姿态,难以泛化到未知物体。

系统架构

系统分为三个主要模块:

  1. 感知模块:使用 RGB-D 相机采集场景数据,通过深度学习模型检测物体并估计 6D 位姿。
  2. 规划模块:基于物体位姿生成可行抓取姿态,并使用运动规划算法生成无碰撞轨迹。
  3. 执行模块:控制机械臂执行抓取动作,并通过视觉反馈进行调整。

关键技术

6D 位姿估计

采用基于 PointNet++ 的架构,直接从点云数据回归物体的 6D 位姿:

T={RSO(3),tR3}T = \{R \in SO(3), t \in \mathbb{R}^3\}

抓取姿态生成

使用基于优化的方法生成力闭合抓取姿态:

minqiJi(q)Ji2\min_{q} \sum_{i} \|J_i(q) - J_i^*\|^2

实验结果

物体类型检测精度抓取成功率
圆柱体96.2%91.5%
立方体94.8%88.3%
不规则物体89.1%82.7%
平均93.4%87.5%