融合双目视觉与惯导信息的高效视觉里程计算法

为提高视觉里程计(VO)在大尺度环境下运行的实时性,提出一种融合双目视觉与惯导信息的视觉里程计算法,主要由前端位姿跟踪和后端局部地图优化两个线程组成.位姿跟踪线程首先使用惯导信息辅助光流法进行帧间特征点跟踪并估计相机初始位姿;接着通过最小化图像光度误差获取当前帧像素点与局部地图点的对应关系;而后最小化当前帧上局部地图点的重投影误差和惯性测量单元(IMU)预积分误差,得到当前帧准确的位姿估计.后端局部地图优化线程对滑动窗口内的关键帧提取特征点并三角化新地图点,使用光束平差法(BA)对逆深度参数化表示的地图点位置、关键帧位姿、速度以及陀螺仪和加速度计零偏进行滑窗优化,为前端提供更加精确的局部地图相机位姿和环境信息.在EuRoC数据集上的实验表明,相比于ORB-SLAM2、ORB-SLAM3算法,该融合双目视觉与惯导信息的视觉里程计算法的定位精度略有下降,但可以较大程度地提高位姿跟踪的实时性.     

双目视觉测量系统位姿解算方法研究

在大部件自动对准系统中,为了解决近距离观测无法获得被观测目标全部特征的问题,使用双目视觉位姿测量解算方法,设置其中一个相机为基准相机,利用两相机之间已知的位姿关系,将非基准相机拍摄的特征点信息转换到基准相机的相机坐标系下,然后利用位姿解算的迭代算法思想求解两部件之间的位姿关系.当特征点数目较少时,迭代算法的误差函数会陷入局部极小值,针对上述问题,设计了一种利用各坐标系之间的转换关系求解迭代初始值的方法,并通过仿真证明了算法的有效性.     

融合直接法与特征法的快速双目SLAM算法

为了实时得到搭载双目相机的机器人准确的3维位姿状态和环境信息,提出一种融合直接法与特征法的双目SLAM(同时定位与地图创建)算法.该算法主要分为4个线程:跟踪线程、特征提取线程、局部建图线程和闭环线程.跟踪线程通过最小化图像光度误差,获取双目的初始位姿估计和特征对应关系,而后通过最小化局部地图点的重投影误差,得到更为准确的机器人位姿估计.特征提取线程负责提取关键帧的关键点和描述子,能够保证待处理的关键帧较多时不影响后续局部建图线程的执行.局部建图线程管理局部地图,执行局部BA(光束平差法),优化局部关键帧位姿和局部地图点的位置,提高SLAM的局部一致性.闭环线程通过对关键帧的闭环检测和优化,提高SLAM的全局一致性.另外利用闭环线程处理机器人被绑架后重回已探测环境的定位问题.KITTI数据集、TUM数据集以及采集的双目数据实验表明,本文算法相对于ORB-SLAM2算法,在保证定位精度的同时,有效提高了相机位姿的输出帧率,并且在机器人被绑架的情况下,能够得到更为丰富的姿态信息和环境信息.     

考虑多位姿估计约束的双目视觉里程计

为了提升复杂环境中双目视觉里程计的精度,提出一种考虑多位姿估计约束的双目视觉里程计方法.首先,分别建立匹配深度已知点与深度未知点的数学模型,将深度未知点引入2D-2D位姿估计模型,从而充分利用图像信息;然后,基于关键帧地图点改进3D-2D位姿估计模型,并结合当前帧地图点更新关键帧地图点,从而增加匹配点对数,提高位姿估计精度;最后,根据改进的2D-2D及3D-2D位姿估计模型,建立多位姿估计约束位姿估计模型,结合局部光束平差法对位姿估计进行局部优化,达到定位精度高且累积误差小的效果.数据集实验和实际场景在线实验表明,所提出方法满足实时定位要求,且有效地提高了自主定位精度.     

单目主动摄像头真实三维重建

由于单目摄像头尺度缺失,导致鲁棒位姿估计结果不准确,为此提出单目主动摄像头真实三维重建方法.通过融合机器人的控制信息和尺寸信息,得到单目相机的位置信息,利用位置信息计算出等效基线,根据变基线等效双目策略理论获取精度更高的深度估计;采用GoDec-RANSAC算法排除样本点中的局外点,估计鲁棒位姿;通过获取的位姿,估计最后一帧图像与第一帧图像之间的相对位姿,得到全局位姿估计,完成单目主动摄像头真实三维重建.仿真实验结果表明,该方法能够准确的估计鲁棒位姿.     

基于手眼视觉的两种目标位姿测量法仿真分析

空间机器人手眼视觉系统利用合作目标物体上的合作特征点对目标物体进行位姿估计,以完成跟踪捕捉任务。针对空间机器人实时性的要求,给出了两种实时性较好的4个特征点的位姿测量算法,并且在相同仿真环境下对两种P4P位姿算法进行了分析比较。仿真结果表明:四面体体积测量的位姿测量算法对特征点的像点量化误差更加敏感,位姿测量结果偏差较大;坐标变换的位姿测量算法稳定,精度较高。后者在实际应用中,可以达到更高的精度。     

基于立体视觉六自由度大载荷实验平台的位姿检测*

提出利用双目视觉系统检测六自由度大载荷实验平台的位姿。首先,采用时空联合的分割算法提取运动目标并由运动目标上不共线三点描述当前时刻运动平台的位姿;然后,根据运动平台负载大、惯性大的特点,对相邻时刻的位姿变化加入补偿,以此估计平台下一时刻的位姿。实验结果表明,该算法在较小的允许误差范围内能够较好地跟踪运动平台,准确地估计下一时刻的位姿。     

基于未知物体三维点云特征的机器人六自由度抓取

针对非结构化环境中任意位姿的未知物体,提出了一种基于点云特征的机器人六自由度抓取位姿检测方法,以解决直接从点云中获取目标抓取位姿的难题.首先,根据点云的基本几何信息生成抓取候选,并通过力平衡等方法优化这些候选;然后,利用可直接处理点云的卷积神经网络ConvPoint评估样本,得分最高的抓取将被执行,其中抓取位姿采样和评估网络都是以原始点云作为输入;最后,利用仿真和实际抓取实验进行测试.结果表明,该方法在常用对象上实现了88.33%的抓取成功率,并可以有效地拓展到抓取其他形状的未知物体.     

改进PROSAC算法的并联机器人末端位姿检测方法

为解决双目视觉末端位姿检测中光照、噪声干扰等外部因素造成的检测精度降低问题,提出一种改进PROSAC (Progressive Sample Consensus)算法的水果分拣并联机器人双目视觉末端位姿检测方法。基于ORB算法进行特征提取和立体匹配;采用改进的PROSAC算法对立体匹配进行提纯,该改进通过穿插取点和预检验候选模型克服PROSAC算法存在的模型参数估计精度不高和验证错误候选模型耗时问题;将提纯后的匹配点对代入双目视觉模型求出末端位姿。实验结果表明,与未改进PROSAC算法的末端位姿检测方法相比,改进PROSAC算法的并联机器人末端位姿检测方法,其位姿各分量x、y、z、γ的误差平均绝对值分别降低了53.9%、65.5%、66.9%、47%,误差标准差分别降低了53.2%、67%、66.6%、56.6%,验证了所提出方法的有效性。     

便携式车轮定位参数视觉检测系统研究

将双目视觉测量技术应用到汽车四轮定位中,采用两个摄像机的立体视觉方法,采集目标板图像并提取目标板上特征点,并根据几何模型计算特征点的空间位置,求得目标板的空闯位姿,通过分析车轮运动模型建立车轮参数模型,进而得到需要的角度;完成了亚像素级角点提取并正确匹配,标定了两个摄像机的内外参数与视觉系统参数,得到了目标板的空间位姿,通过实验的方法,验证了方案的可行性,分析了误差来源,同时初步搭建了WINCE嵌入式实验平台进行嵌入式算法研究.     

基于主动形状模型的双目识别系统的设计与实现

给出了一种基于统计形状模型的双目识别系统实现方法.该系统根据识别目标在场景中的姿态有一定规律性的特点,用先验的样本信息指导识别的过程,并采用径向对齐约束的方法对摄像头内外参数进行标定,利用图像识别结果中特征点的顺序性完成特征匹配,进而获得目标的三维信息.     

基于神经网络的双目视觉下头部姿态估计

头部姿态估计是人体姿态检测的关键技术之一。本文基于神经网络设计一种在双目视觉下由人脸中的关键点在空间中的相对位置的变化估计头部姿态,并对头部进行定位的方法。将头部姿态分为6种,空间位置关系分为2种。利用改进SDM算法对双目视觉下的人脸关键点进行标记;标记出人脸关键点后利用的POSIT算法对头部姿态角度估计,计算出头部欧拉角;根据左右图像中对应的头部关键点位置的视差由三角测量原理算出其深度信息。并设定阈值对其进行分类。通过实验,该方法的头部姿态估计准确率高,头部空间定位精度良好。     

双摄象头三维视觉系统

本文介绍了一种较实用的双摄象头三维视觉系统.主要讨论了视场内具有六个自由度物体的定位问题.系统以Frei和Chen方法抽取边缘,并运用了非均匀量化和预加重技术.采用了改进的Moravec兴趣算子法,实现了特征点的自动抽取.基于边缘的序贯分层配准法大大缩短了配准时间.在用三维数据获取物体姿态时.根据刚体运动总结的规则解决了工作特征点和模型点匹配时的组合爆炸问题和多义性问题.     

基于双目相机的视觉里程计

针对移动机器人视觉导航定位需求,提出一种基于双目相机的视觉里程计改进方案。对于特征信息冗余问题,改进ORB(oriented FAST and rotated BRIEF)算法,引入多阈值FAST图像分割思想,为使误匹配尽可能减少,主要运用快速最近邻和随机采样一致性算法;一般而言,运用的算法主要是立体匹配算法,此算法的特征主要指灰度,对此算法做出改进,运用一种新型的双目视差算法,此算法主要以描述子为特征,据此恢复特征点深度;为使所得位姿坐标具有相对较高的准确度,构造一种特定的最小二乘问题,使其提供初值,以相应的特征点三维坐标为基础,基于有效方式对相机运动进行估计。根据数据集的实验结果可知,所提双目视觉里程具有相对而言较好的精度及较高的实时性。     

基于格雷码和多步相移法的双目立体视觉三维测量技术研究

传统的被动式双目立体视觉三维测量技术,具有操作简单,使用灵活方便,相机标定技术成熟的优点,但是对于特征点稀疏图像,寻找匹配点困难,匹配精度低。编码结构光测量方式通过向待测物体投射特定的编码图案,获取编码图像进行解码求解物体的三维信息,具有着测量精度高,速度快的优点,但是存在着投影仪标定精度低,实现难度大的缺点。提出了将双目立体视觉和编码结构光相结合的三维测量方法,在完成双目校正的基础上,向待测物体投射格雷码图案和多步相移图案,给予被测物体容易识别和可控制的特征信息,最后求取物体的三维信息。而且通过实验论证了投射多步相移图案比起4步相移图案,测量精度更高,能够更好的体现物体细节。     

结合YOLO的ORB双目图像匹配方法研究

针对双目视觉中ORB(Oriented Fast and Rotated Brief)图像匹配算法准确率不高以及会出现不同物体之间特征点错误匹配的问题,提出一种将YOLO(You Only Look Once)目标检测算法和ORB算法结合的双目图像匹配方法.该方法首先使用YOLO的卷积网络提取图像特征,并采用多尺度预测目标区域坐标和类别信息,以解决小目标与多目标识别不准的问题;接着,使用FAST(Features from Accelerated Segment Test)算子检测特征点和BRIEF(Binary Robust Independent Elementary Features)算子描述特征点,并利用ORB算法进行粗匹配;最后用去误匹配算法判断并去除不同类别和位置信息目标框中的匹配点.实验结果表明,该方法在单目标、双目标和多目标双目图像中的匹配准确率相较传统ORB匹配算法精度都有所提升.     

基于近红外与可见光双目视觉的活体人脸检测方法

针对人脸识别系统易受伪造攻击的问题,提出了一种基于近红外与可见光双目视觉的活体人脸检测方法。首先,采用近红外与可见光双目装置同步获取人脸图像,提取两图像的人脸特征点,利用双目关系实现特征点的匹配并获取其深度信息,再利用深度信息进行三维点云重建;然后,将全部人脸特征点划分为四个区域,计算各区域内人脸特征点在深度方向的平均方差;接着,选取人脸关键特征点,以鼻尖点为参照点,计算鼻尖点到人脸关键特征点之间的空间距离;最后,利用人脸特征点的深度值方差和空间距离来构造特征向量,使用支持向量机（SVM）实现活体人脸判断。实验结果表明,所提方法能够准确检测活体人脸以及有效抵御伪造人脸的攻击,在实验测试中达到99.0%的识别率,在准确性和鲁棒性上优于利用人脸特征点深度信息进行检测的同类算法。     

基于双目视觉的新型并联机构末端位姿检测

针对一种新型3-DOF驱动冗余并联机构,为提高双目视觉末端位姿检测的实时性和精度,首先采用Harris-SIFT算法对图片进行预匹配,通过Harris提取图像特征点,并采用SIFT特征描述子对图像进行匹配,使得匹配结果兼具实时性和稳定性;为解决匹配算法存在的误差匹配和错误匹配问题,提出一种改进的RANSAC算法对预匹配结果进行提纯,该改进方法通过分格取点和提前取点验算临时模型克服常规RANSAC算子匹配不准确、算法费时的缺点.实验结果表明,采用改进的RANSAC算法提纯较常规RANSAC算子不仅可以大幅度降低图像处理时间,而且可以更大程度提高匹配正确率,进而位姿检测的实时性和精度得以提高.     

Pose estimation from multiple cameras based on Sylvester’s equation

In this paper, we introduce a method to estimate the object’s pose from multiple cameras. We focus on direct estimation of the 3D object pose from 2D image sequences. Scale-Invariant Feature Transform (SIFT) is used to extract corresponding feature points from adjacent images in the video sequence. We first demonstrate that centralized pose estimation from the collection of corresponding feature points in the 2D images from all cameras can be obtained as a solution to a generalized Sylvester’s equation. We subsequently derive a distributed solution to pose estimation from multiple cameras and show that it is equivalent to the solution of the centralized pose estimation based on Sylvester’s equation. Specifically, we rely on collaboration among the multiple cameras to provide an iterative refinement of the independent solution to pose estimation obtained for each camera based on Sylvester’s equation. The proposed approach to pose estimation from multiple cameras relies on all of the information available from all cameras to obtain an estimate at each camera even when the image features are not visible to some of the cameras. The resulting pose estimation technique is therefore robust to occlusion and sensor errors from specific camera views. Moreover, the proposed approach does not require matching feature points among images from different camera views nor does it demand reconstruction of 3D points. Furthermore, the computational complexity of the proposed solution grows linearly with the number of cameras. Finally, computer simulation experiments demonstrate the accuracy and speed of our approach to pose estimation from multiple cameras.     

基于二维图像三维重建的人脸特征提取技术研究

采用基于二维图像的三维重建对人脸特征进行提取.首先应用平行双目视觉原理获取人脸的二维图像,然后对图像进行预处理,消除图像上的噪音点,增强图像,以便提取特征点,对这些二维图像上的特征点进行优化计算,最后得到整体人脸的三维特征点信息.