基于微服务的深度学习模型服务系统

Tensorflow Serving是Google开源的一个服务系统,针对Tensorflow Serving单体应用吞吐量低、服务调用烦琐、模型生命周期管理不完善等问题,本文设计了一种基于Tensorflow Serving的微服务软件架构方案,在部署Tensorflow Serving的Docker(开源的应用容器引擎)容器里添加本文研发的监控程序,该监控程序根据各个实例模型加载情况,将可用模型服务主动注册到微服务架构中的注册中心以实现对模型的编排管理。实验结果表明:采用本文的微服务架构方案,有效提升了Tensorflow Serving服务的吞吐量,降低了服务响应时间,简化了模型调用流程,从而满足Tensorflow Serving在生产环境中部署和运维的实际需求。     

基于Hadoop YARN的TensorFlow GPU集群的调度扩展

本文研究并实现了大数据平台 Hadoop YARN 与深度学习框架 TensorFlow 的结合。通过对 DRF 算法的扩展,使得 Hadoop YARN 在原先支持 CPU 和内存的基础上,可以对 GPU 资源进行管理和调度。通过 YARN 的应用接口,把 TensorFlow 封装成了 YARN 的应用程序之一,把原来的分布式程序在多节点手动分发启动改为了在单节点自动分发启动,单机版不变。本文设计了多组实验对 YARN+TensorFlow 进行了多方位的测试,实验结果表明 YARN 和 TensorFlow 相结合相比原生 TensorFlow 程序具有相似的加速比,可以满足单系统多用户对 GPU 资源的使用,有效提高 GPU 资源的使用效率和编程人员的工作效率,增加系统的复用率。     

基于Tensorflow对卷积神经网络的优化研究

针对卷积神经网络在性耗比上的不足,提出了异构式CPU+GPU的协同计算模型,在模型计算过程中使CPU负责逻辑性强的事物处理和串行计算,使GPU执行高度线程化的并行处理任务。通过实验测试与单GPU训练、单CPU训练进行对比,结果表明异构式CPU+GPU计算模型在性耗比上更加优异。针对在卷积神经网络中Swish激活函数在反向传播求导误差梯度时涉及参数较多所导致的计算量较大,收敛速度慢,以及ReLU激活函数在[x]负区间内导数为零所导致的负梯度被置为零且神经元可能无法被激活的问题,提出了新的激活函数ReLU-Swish。通过测试训练对比并分析结果,将Swish激活函数小于零与ReLU激活函数大于零的部分组成分段函数,并且通过CIFAR-10和MNIST两个数据集进行测试对比实验。实验结果表明,ReLU-Swish激活函数在收敛速度以及模型测试训练的准确率上对比Swish激活函数及ReLU激活函数有较明显的提高。     

基于TensorFlow框架的有源配电网深度学习故障定位方法

随着大规模分布式电源(DG)接入配电网,配电网的结构由传统的辐射型变为多端电源结构,传统的故障定位方法不再完全满足含DG的配电网系统,对此提出一种基于深度学习的有源配电网故障定位方法。首先通过馈线监控终端采集过电流故障数据与节点电压数据,结合各电源出力数据,形成故障数据向量;然后使用Tensorflow构建基于全连接网络的深度神经网络模型,挖掘故障数据向量与故障支路之间的映射联系,形成故障定位模型;最后利用该模型在线定位故障并验证其有效性。模型测试结果表示,与反向传播神经网络、学习向量量化神经网络模型相比,深度学习模型收敛速度更快,故障定位准确率更高,同时在数据畸变或缺失时,模型具有较高的容错性。     

基于多Inception结构的卷积神经网络人脸识别算法

人脸识别是视觉识别的一个重要领域,由于人脸识别尺度变化范围大,光照、姿态变化剧烈以及遮挡问题,导致该类非限制条件下的识别难度较大,为了解决该类问题,本文提出了一种基于Tensorflow平台的多Inception模型,通过将多个Inception结构进行串联,再通过分解卷积核的方式减少输入参数,实现了多维度同时卷积再聚合,提高了人脸识别的精度.实验结果表明,该方法在较少参数的条件下能提取出更具区分度的人脸特征,与分类损失方法及融合了其他度量学习方式的方法相比,提高了识别准确率,减少了计算时间.     

基于CTPN神经网络对营业执照文字检测模型

对于复杂背景图片的文字识别,首先要做的就是定位目标文字的位置,即文字检测。想要文字识别率高,那对文字检测的准确度的要求就非常高了。传统的RPN(region proposal network)神经网络在文字检测领域的研究已经很成熟,但RPN神经网络在营业执照水平文字检测的准确度上不是很理想。而基于CTPN(connectionist text proposal network)神经网络的文字检测模型明显提高了营业执照水平文字检测的正确率,但用于项目中的话,准确率还是远远不够的。该文是以最新的营业执照作为研究对象,由于检测的图片易受光照和采集设备的影响,加上营业执照的背景比较复杂,所以能够准确地检测到目标文字的位置就非常具有挑战性。文中是通过CTPN神经网络模型来检测出营业执照中水平文字所在的位置,用矩形框来标注,也就是横向水平检测。目前开源的CTPN模型,都是基于某种数据集来训练的,所以对营业执照的文字检测效果就很差,因此该文使用2000张营业执照图像作为实验数据,进行10000迭代训练CTPN模型,最终能够准确地检测到营业执照中目标文字的位置,供项目使用。     

多尺度特征融合的二维编码图像识别

为实现二维编码同时适合机器和人的识读,提出了一种二维编码图像结合的新型二维图像编码技术,并针对该二维编码图像无定位标识的特点,采用目标识别的算法进行识别,同时改进了SSD（Single Shot Multibox Detector）算法使其适用于此类目标识别。该算法针对小目标的识别特点,去掉了原有的空洞卷积层以及选择了浅层的图层进行特征融合,达到了准确识别二维编码图像的效果。此外搭建了基于GTX1080型号的GPU、Ubantu Linux和TensorFlow的深度学习平台,提出了一种网络学习和验证方法,该方法通过电脑生成相应的数据集来训练网络,并采用合成的数据集和真实图片分别对网络进行验证和测试。测试结果表明,该方法训练的网络对具有良好拍照条件的真实图片的编码识别准确率达到100%。     

Interworking technology of neural network and data among deep learning frameworks

Based on the growing demand for neural network technologies, various neural network inference engines are being developed. However, each inference engine has its own neural network storage format. There is a growing demand for standardization to solve this problem. This study presents interworking techniques for ensuring the compatibility of neural networks and data among the various deep learning frameworks. The proposed technique standardizes the graphic expression grammar and learning data storage format using the Neural Network Exchange Format (NNEF) of Khronos. The proposed converter includes a lexical, syntax, and parser. This NNEF parser converts neural network information into a parsing tree and quantizes data. To validate the proposed system, we verified that MNIST is immediately executed by importing AlexNet's neural network and learned data. Therefore, this study contributes an efficient design technique for a converter that can execute a neural network and learned data in various frameworks regardless of the storage format of each framework.     

应用Tensorflow 2进行银行客户分类研究

本文利用当前最流行的深度学习框架Tensorflow 2.3,设计了全连接神经网络模型,对银行历史购买理财产品的客户数据进行训练,生成了准确度高的神经网络模型,并利用该模型对新客户是否会购买理财产品预测。结果表明,该模型准确度达到90%以上,获得了较好的应用效果。     

基于Web的管廊可视化信息管理系统设计与实现

城市化进程促进了城市地下综合管廊的飞速发展,但目前管廊的巡检等运维管理工作大多以人工为主,且信息化水平低下,而且管廊内的管线复杂、人工运维管理效率低且危险隐患高。文章提出一种基于Web的管廊建筑结构与建筑信息轻量可视化及CO环境数据可通过浏览器在线训练与预测的系统。通过Revit二次开发技术将建筑信息模型轻量化解耦并通过WebGL技术将几何模型加载在浏览器前端页面,后台服务程序可以通过通信线程池将终端节点采集到的环境数据存入Mysql数据库,并与浏览器前端动态耦合。通过整合Tensorflow.js可以在浏览器前端实现基于LSTM算法的CO浓度预测模型在线训练与预测。经过测试,设计的系统工作可靠,满足设计需求。