Deep Learning算法分析和模型改进

Deep Learning[1]带来了机器学习的新浪潮,Google Brain项目、微软全自动同声传译系统、百度研究院都是很好的见证。Deep Learning推动了"大数据+深度模型"时代的来临,已经受到学术界和工业界广泛重视,它带来的科技进步将改变人们的生活。本文从Deep Learning多隐含层感知架构、训练和数据处理过程方面,分析Deep Learning算法;并基于Regularization of Neural Networks using DropConnect[2]模型,提出了新的改进方法并描述分析了该新方法。最后提出了改进Deep Learning算法的思维方式并展望了Deep Learning的美好前景。     

MathWorks在MATLAB和Simulink产品系列中扩展了深度学习功能

正MathWorks推出了2018b版本的MATLAB和Simulink。该版本包含重要的深度学习增强功能,以及各个产品系列中的新功能和Bug修复。新的Deep Learning Toolbox取代了Neural Network Toolbox,为工程师和科     

数据挖掘聚类分析技术概述

由于互联网技术被人们广泛使用,大数据的产生需要人们加以梳理,数据挖掘的应用及其算法就显得尤为重要。因为大数据产生,超级计算机,Deep Learning在学术界和工业界的广泛重视,人们日常的需要,数据挖掘的存在更显示其意义。从数据挖掘算法分析,数据挖掘技术发展方向两个方面而言,介绍了数据挖掘领域的经典理论和近几年在国际级取得的研究成果,并讨论了数据挖掘技术研究的发展方向。     

一种快速收敛的最大置信上界探索方法

深度强化学习(Deep Reinforcement Learning,DRL)方法在大状态空间控制任务上取得了出色效果,探索问题一直是该领域的一个研究热点.现有探索算法存在盲目探索、学习慢等问题.针对以上问题,提出了一种快速收敛的最大置信上界探索(Upper Confidence Bound Exploration w...     

IBM升级“深蓝”

曾经创造国际象棋历史的超级计算机“深蓝”将变得更聪明。IBM 公司4月下旬宣布将升级 RS/6000 SP 超级计算机系列,该系列计算机因为其中的“深蓝”(“Deep Blue”)机型去年战胜现役国际象棋世界冠军 Garry Kasparov 而声名大噪,     

电力工程造价的随机权深度神经学习估算方法

为了实现对电力工程造价高效、精确的估算,提出了一种电力工程造价的随机权深度神经学习估算算法（Random Weighted Deep Neural Learning,RWDNL）。通过构建外权随机的带有小中间层的多隐层神经网络模型,利用神经网络深度学习实现了对海量数据有效特征的提取以及电力工程项目造价估算。数值仿真实验结果表明该方法使工程造价估算精度和速度大大提高,可获得令人满意的泛化能力。     

基于深度强化学习的燃料电池混合动力汽车能量管理策略研究

为提高燃料电池混合动力汽车的燃油经济性和燃料电池寿命,该文提出一种基于深度强化学习(Deep Reinforcement Learning,DRL)的能量管理策略.该策略首先在DRL奖励信号中加入寿命因子,通过降低燃料电池功率波动,起到延长燃料电池寿命的效果;其次,通过限制DRL的动作空间的方法,使燃料电池系统工作在高...     

超级计算机迈向理性

集群架构的超级计算机采用普通电脑上常见的CPU,以其高性价比和灵活性逐渐占据了超级计算领域的主流架构;而专门架构的超级计算机同样具有不可战胜的优势,两种架构将呈现融合的趋势。目前人们对超级计算机的发展不只是一味地追求更快的计算速度,而是让它们更好用,将其高性能转化为高生产力。     

Deep Web数据集成研究综述

随着World Wide Web(WWW)的飞速发展,Deep Web中蕴含了海量的可供访问的信息,并且还在迅速地增长.这些信息要通过查询接口在线访问其后端的Web数据库.尽管丰富的信息蕴藏在Deep Web中,由于Deep Web数据的异构性和动态性,有效地把这些信息加以利用是一件十分挑战性的工作.Deep Web数据集成至今仍然是一个新兴的研究领域,其中包含有若干需要解决的问题.总体来看,在该领域已经开展了大量的研究工作,但各个方面发展并不均衡.文中提出了一个Deep Web数据集成的系统架构,依据这个系统架构对Deep Web数据集成领域中若干关键研究问题的现状进行了回顾总结,并对未来的研究发展方向作了较为深入的探讨分析.     

基于Web 2．0的B—Learning学习系统开发技术研究

Web2．0的到来,给教育技术理论和开发技术都提出了新的研究课题。该文结合最新的建构主义理论,以B—Learning基本思想为指导．根据Web2．0的思想和技术对B—Learning2．0学习系统进行了技术架构设计,同时根据技术架构分析了实现B-Learning2．0系统的开发技术．完成了从系统架构到技术实现的基本工作。     

基于监督学习和深度强化学习的学前教育聊天机器人对话模型构建研究

聊天机器人的应用有助于满足儿童的好奇心与知识学习的欲望，利于学前教育质量的提升。在本次研究中为了提高聊天机器人在学前教育中的应用价值，通过深度强化学习(Deep Reinforcement Learning, DRL)与监督学习(Supervised Learning, SL)进行了聊天机器人对话模型的建立。基于SL的对话模型在训练集和验证集中的成功率均为100%,其损失函数值分别为0.018和0.024。随着训练次数的增加，基于DRL的对话模型的成功率增加至97.2%,平均对话轮数降低为7轮。结果表明，基于监督学习和深度强化学习建立的机器人对话模型具有较好的性能，能够人性化地完成聊天互动。     

万利达学习本

作为中国本土首家英特尔架构学习本原始设计厂家。万利达依托自身丰富的行业经验和雄厚的研发实力,基于英特尔领先的技术和架构平台。推出自主创新研发的学习本并由此加入英特尔学习系列（Intel Learning Series）的产业生态系统。     

CPU＋GPU架构是未来高性能计算的方向

如果说之前大学还对CUP＋GPU架构在高性能计算机领域的能力有所质疑,那么现在豪无疑问的是,未来的超级计算机和高性能计算机将由CPU＋GPU的架构构成。什么是超级计算机和高性能计算？     

基于受限玻尔兹曼机和粗糙集的风速区间概率预测模型

针对风速的不确定性、时变和非线性特征，提出一种用于风速预测的基于受限玻尔兹曼机和粗糙集理论的区间概率分布学习(Interval Probability Distribution Learning, IPDL)模型。该模型包含一组区间隐藏变量，利用Gibbs抽样和对比散度来获取风速的概率分布，结合模糊Ⅱ型推理系统(Fuzzy Type Ⅱ Inference System, FT2IS),设计一个有监督回归的实值区间深度置信网络(Interval Deep Belief Network, IDBN)。算例结果表明，该方法结合了IPDL和FT2IS的鲁棒性，风速预测性能较好。     

基于MLP算法的Glitch PUF机器学习攻击

随着攻击技术的不断进步,基于机器学习(Machine Learning,ML)、深度学习(Deep Learning,DL)等技术的建模攻击严重威胁了PUF的安全。针对Glitch PUF单元电路静态输出的缺陷,首次提出使用多层感知器(Multilayer Perceptron, MLP)算法对Glitch PUF进行机器学习,解决了Glitch PUF输出为非线性可分数据的问题,能够对Glitch PUF攻击并预测其输出。实验表明,对比于逻辑回归(Logistic Regression,LR)算法和随机森林(Random Forest,RF)二分类算法,提出的MLP算法显著降低了预测错误率。     

超级计算机的多层架构抽象及描述

超级计算机系统发展迅猛,不仅速度上日新月异,而且其结构也日益复杂化、多样化。为了能够准确有效地描述超级计算机的结构,给出统一的描述方法,提出超级计算机的多层架构思想。为超级计算机的进一步逻辑抽象或编写其模拟器提供了基础,并对超级计算机系统的设计具有一定的指导作用。     

深度学习技术及在花卉识别中的应用

深度学习(Deep Learning,DL)是机器学习领域的重要研究分支,当前已广泛应用在智能农业领域中的花卉识别、杂草检测和病虫害检测等方面。笔者介绍了深度学习的发展历程,阐述了主流的基于卷积神经网络的目标识别算法,将当前较为典型的两种图像识别算法FasterR-CNN和YOLO应用于识别花卉图片,通过比较分析两种方法在花卉图片识别过程中的优劣性,并提出了下一步的研究方向。     

基于分区缓存区重放与多线程交互的多智能体深度强化学习算法

近些年,深度强化学习(Deep Reinforcement Learning,DRL)已成为人工智能领域一个新的机器学习范式与方法论,它在许多高维度大状态的复杂空间任务中能够取得显著的成功.然而,传统的深度强化学习仍然存在着学习效率低、训练时间长的问题,在多智能体的行为决策研究中难以达到理想的效果.针对这些问题,本文提...     

信息熵角度下的深度学习旁路安全评估框架

基于深度学习的建模类旁路密码分析（Deep Learning Side Channel Analysis/Attack,DLSCA）对于各种旁路攻击场景的密码破解效果都十分显著,但是DLSCA仍存有安全评估问题。基于AES对称加密算法的能量分析,通过信息熵角度分析准确率等传统机器学习性能指标无法评估DLSCA深度神经网络（Deep Neural Network,DNN）模型训练程度的原因。定义密钥信息量,分别阐释密钥信息量与旁路安全评估、DNN模型训练阶段性能评估的关系,建立深度学习模型与旁路分析二者的联系,提出以密钥信息量为核心的DLSCA安全评估框架。     

大规模并行时域有限差分法电磁计算研究

基于我国超级计算机平台,开展了大规模并行时域有限差分法(Finite-Difference Time-DomainFDTD)的性能和应用研究。在我国首台百万亿次"魔方"超级计算机、具有国产CPU的"神威蓝光"超级计算机和当前排名世界第一的"天河二号"超级计算机上就并行FDTD方法的并行性能进行了测试,并分别突破了10000 CPU核,100000 CPU核和300000 CPU核的并行规模。在不同测试规模下,该算法的并行效率均达到了50%以上,表明了本文并行算法具有良好的可扩展性。通过仿真分析多个微带天线阵的辐射特性和某大型飞机的散射特性,表明本文方法可以在不同架构的超级计算机上对复杂电磁问题进行精确高效电磁仿真。