针对黑盒智能语音软件的对抗样本生成方法

随着深度学习技术的成熟, 智能语音识别软件获得了广泛的应用, 存在于智能软件内部的各种深度神经网络发挥了关键性的作用. 然而, 最近的研究表明: 含有微小扰动的对抗样本会对深度神经网络的安全性和鲁棒性构成极大威胁. 研究人员通常将生成的对抗样本作为测试用例输入到智能语音识别软件中, 观察对抗样本是否会让软件产生错误判断...     

人工智能软件系统的非功能属性及其质量保障方法综述

随着神经网络等技术的快速发展,人工智能被越来越多地应用到安全关键或任务关键系统中,例如汽车自动驾驶系统、疾病诊断系统和恶意软件检测系统等.由于缺乏对人工智能软件系统全面和深入的了解,导致系统时常发生严重错误.人工智能软件系统的功能属性和非功能属性被提出以加强对人工智能软件系统的充分认识和质量保障.经调研,有大量研究者致力于功能属性的研究,但人们越来越关注于人工智能软件系统的非功能属性.为此,专注于人工智能软件系统的非功能属性,调研了138篇相关领域的论文,从属性定义、属性必要性、属性示例和常见质量保障方法几个方面对目前已有的研究工作进行系统的梳理和详细的总结,同时重新定义和分析了非功能属性之间的关系并介绍了人工智能软件系统研究中可以用到的开源工具.最后,展望了人工智能软件系统非功能属性的未来研究方向和挑战,以期为该领域的研究人员提供参考.