跳转至

手势控制

Hint

操作环境及软硬件配置如下:

  • OriginBot机器人(视觉版/导航版)
  • PC:Ubuntu (≥20.04) + ROS2 (≥Foxy)

启动机器人底盘

SSH连接OriginBot成功后,在终端中输入如下指令,启动机器人底盘:

$ ros2 launch originbot_bringup originbot.launch.py

image-20220822151626109

启动手势控制功能

$ cd /userdata/dev_ws

# 启动launch文件
$ ros2 launch gesture_control gesture_control.launch.py
$ cd /userdata/dev_ws

# 从TogetheROS的安装路径中拷贝出运行示例需要的配置文件
$ cp -r /opt/tros/lib/mono2d_body_detection/config/ .
$ cp -r /opt/tros/lib/hand_lmk_detection/config/ .
$ cp -r /opt/tros/lib/hand_gesture_detection/config/ .

# 启动launch文件
$ ros2 launch gesture_control hobot_gesture_control.launch.py

image-20220822151747385

Attention

启动应用功能时,请注意配置文件在当前运行的路径下,否则应用功能找不到配置文件,会运行失败。

手势控制机器人效果

启动成功后,站在OriginBot摄像头前,通过以下手势就可以控制机器人运动啦。

img

d7b39314d6

上位机可视化显示

打开浏览器,访问机器人的ip地址,即可看到视觉识别的实时效果。 image-20220922173203208

原理简介

手势控制功能为通过手势控制机器人小车运动,包括左右旋转和前后平移运动,由MIPI图像采集、人体检测和跟踪、人手关键点检测、手势识别、手势控制策略、图像编解码、WEB展示端组成,流程如下图:

20220922181402

详细原理讲解请见:

https://developer.horizon.cc/college/detail/id=98129467158916314

图片1