基于旋转不变深度层次聚类网络的点云分析

由于解决了三维点云的排列不变性问题,基于三维点云的深度学习方法在计算机三维视觉领域中取得了重大的突破,人们逐渐倾向于使用三维点云来描述物体并基于神经网络结构来提取点云的特征.然而,现有的方法依然无法解决旋转不变性问题,使得目前的模型鲁棒性较差;同时,神经网络结构的设计过于启发式,没有合理利用三维点云的几何结构与分布特性,导致网络结构的表达能力有待提升.鉴于此,提出了一种具有良好兼容性的严格旋转不变性表达以及深度层次类簇网络,试图从理论与实践两个层面解决上述问题.在点云识别、部件分割、语义分割这3个经典任务上进行了旋转鲁棒性对比实验,均取得了最优的效果.     

语义关系引导的面部动作单元分析

面部动作单元分析旨在识别人脸图像每个面部动作单元的状态,可以应用于测谎,自动驾驶和智能医疗等场景.近年来,随着深度学习在计算机视觉领域的普及,面部动作单元分析逐渐成为人们关注的热点.面部动作单元分析可以分为面部动作单元检测和面部动作单元强度预测两个不同的任务,然而现有的主流算法通常只针对其中一个问题.更重要的是,这些方法通常只专注于设计更复杂的特征提取模型,却忽略了面部动作单元之间的语义相关性.面部动作单元之间往往存在着很强的相互关系,有效利用这些语义知识进行学习和推理是面部动作单元分析任务的关键.因此,通过分析不同人脸面部行为中面部动作单元之间的共生性和互斥性构建了基于面部动作单元关系的知识图谱,并基于此提出基于语义关系的表征学习算法（semantic relationship embedded representation learning,SRERL）.在现有公开的面部动作单元检测数据集（BP4D、DISFA）和面部动作单元强度预测数据集（FERA2015、DISFA）上,SRERL算法均超越现有最优的算法.更进一步地,在BP4D+数据集上进行泛化性能测试和在BP4D数据集上进行遮挡测试,同样取得当前最优的性能.     

城市建设中供电问题的两点思考

从城市规划的角度对变电站的选址及中压配网系统的改造进行了一定的思考,同时结合南京地区的城网建设、自己的工作实践提出了一些粗浅的认识。     

移动增强现实系统的关键技术研究

针对传统的增强现实系统在使用范围和可操作性等方面的局限性,首先介绍了一种基于移动便携设备的户外移动增强现实系统,并且分析了其主要的关键技术,然后重点阐述了该系统的体系构架和用于移动便携设备的3维图像渲染技术,通过北京圆明园部分场景的增强现实的实验结果表明,该移动增强现实系统不仅具有较强的实用性和可行性,并且还显示该移动增强现实技术具有广泛的应用前景和巨大的商业价值。     

基于图像匹配的户外环境注册算法

为实现高速鲁棒的户外增强现实系统,提出了一种新的基于图像匹配算法的解决方案,同时描述了系统框架和工作原理,并在景深远小于物距的近似条件下,提出了一种基于全局视频信息的注册方法,即将环境注册问题通过基于快速傅里叶变换的图像匹配算法来实现。该方法先对当前摄像机摄入的图像和系统预存图像进行匹配;再将计算出的匹配信息对虚拟模型进行变换后叠加到当前的摄入图像上;最后输出到头盔显示设备,以实现户外增强现实。与已有方法相比,该方法具有运算量小、精度高、速度快的优点,试验结果证明了理论推导的正确性和该算法应用于数字圆明园重建的可行性。     

基于模板跟踪的实时无标志点注册算法

为了解决不依赖于标志点的增强现实系统的环境注册问题,提出了一种基于选定模板跟踪的无标志点注册算法。该算法使用已标定的单目摄像机进行场景捕捉,通过对运动目标上的选定模板进行实时跟踪,获得每帧场景图像中的对应特征,利用透射投影变换计算运动区域的单应性约束后,再结合摄像机内参数,完成对目标的3维姿态估计,从而得到场景的3维环境注册信息。实现了一种基于该算法的无标志点的增强现实系统。介绍了系统结构和工作流程,试验结果验证了理论的正确性和系统的鲁棒性。     

融合语义知识的深度表达学习及在视觉理解中的应用

近几年来,随着深度学习技术的日趋完善,传统的计算机视觉任务得到了前所未有的发展.如何将传统视觉研究中的领域知识融入到深度模型中提升深度模型的视觉表达能力,从而应对更为复杂的视觉任务,成为了学术界广泛关注的问题.鉴于此,以融合了语义知识的深度表达学习为主线展开了一系列研究.取得的主要创新成果包括3个方面：1)研究了将单类型的语义信息(类别相似性)融入到深度特征的学习中,提出了嵌入正则化语义关联的深度Hash学习方法,并将其应用于图像的相似性比对与检索问题中,取得了较大的性能提升;2)研究了将多类型信息(多重上下文信息)融入到深度特征的学习中,提出了基于长短期记忆神经网络的场景上下文学习方法,并将其应用于复杂场景的几何属性分析问题中;3)研究了将视觉数据的结构化语义配置融入到深度表达的学习中,提出了融合语法知识的表达学习方法,并将其应用到复杂场景下的通用内容解析问题中.相关的实验结果表明:该方法能有效地对场景的结构化配置进行预测.     

语言结构引导的可解释视频语义描述

视频描述技术旨在为视频自动生成包含丰富内容的文字描述,近年来吸引了广泛的研究兴趣.一个准确而精细的视频描述生成方法,不仅需要对视频有全局上的理解,更离不开具体显著目标的局部空间和时序特征.如何建模一个更优的视频特征表达,一直是视频描述工作的研究重点和难点.另一方面,大多数现有工作都将句子视为一个链状结构,并将视频描述任务视为一个生成单词序列的过程,而忽略了句子的语义结构,这使得算法难以应对和优化复杂的句子描述及长句子中易引起的逻辑错误.为了解决上述问题,提出一种新颖的语言结构引导的可解释视频语义描述生成方法,通过设计一个基于注意力的结构化小管定位机制,充分考虑局部对象信息和句子语义结构.结合句子的语法分析树,所提方法能够自适应地加入具有文本内容的相应时空特征,进一步提升视频描述的生成效果.在主流的视频描述任务基准数据集MSVD和MSR-VTT上的实验结果表明,所提出方法在大多数评价指标上都达到了最先进的水平.