一个轻量化的开源具身智能全栈道场机器人项目
一个轻量化的开源具身智能全栈道场机器人项目, 包含家居训练道场,低成本开源机器人平台,技能模仿学习软件包。项目提供了一个数字机器人模型可以在没有实物样机的条件下完成对示教数据的采集,目前支持键盘、手势操控方式,并进一步基于斯坦福开源的ACT扩散模型完成技能模仿与训练,提供了一个基于点云分割和神经网络GPD的自主抓取软件包。 [td]软件包 | 说明 | 依赖 | home | 家居具身智能训练道场 | Webots2021a,Ubuntu20.04,pinocchio | Imitate | 基于ACT扩散模型优化的技能模仿学习软件包 | pytorch,cuda | Butler | 开源低成本具身智能抓取机器人控制软件包 | QT,RBDL | Grasp | 基于GPD点云端到端抓取位姿估计算法 | ROS,PCL |
一个轻量化的开源具身智能全栈道场机器人项目
1.home运行说明家居具身智能训练道场,是一个虚拟的数据训练环境,可以在其中加载Butler机器人完成对模仿学习数据的采集,并可用于自主导航、抓取控制等算法的开发,数字道场采用共享内存方式与ROS进行通讯,从而实现了软硬件解耦隔离,目前采用Webots2021a为主要的物理仿真引擎。
Webots2021a
ROS noetic
Pinocchio
RBLD
home项目源码在本项目home文件夹中,其中包含了Webots必要的控制器、模型与World:
一个轻量化的开源具身智能全栈道场机器人项目
1.1 安装与编译(1)在Ubuntu20.04系统中完成Webots2021a版本软件安装与ROS noetic软件的安装。
(2)拷贝Third party中的pinocchio动力学库到本地,完成cmake .. 和make, make install进行安装。
(3)拷贝home软件包到本地,解压world文件夹的素材与材质,在controllers\tinyscretch文件夹新建build目录。
(4)在math_src文件中打开kin_math_pino.cpp,修改调用的URDF路径,在build目录中进行cmake ..和make。
(5)将build目录下生成的tinystech可执行文件复制到\controllers\tinyscretch下替换原始文件。(也可以安装QT creator加载cmakelist进行编译)
(6)打开Webots加载apartment_simple_big1文件,如在控制台没有报错,机器人控制器加载正常。
(7)点击Webots仿真窗口采用如下的键盘进行操作。
其中数字按键1~5可以让机器人进入自主模式实现在仿真中WAY*路点位置的自主机动:
handcontrol2.py为手势操控,需自行安装python和google开源识别框架,启动时在采用的相机前方30~70cm处进行手势操控
一个轻量化的开源具身智能全栈道场机器人项目
提取码下载:
|