本科“机器学习”课程教学改革初探

数学知识跨度大、实际应用范围广、技术更新迭代快是“机器学习”区别于其他课程的最大特征,传统“机器学习”课程教学中数学复习与模型讲解分离、教学内容枯燥缺乏实际联系、考核内容落后于技术发展,导致本科生对机器学习模型理解困难、学习兴趣不强、自主学习意识缺乏,难以运用机器学习前沿技术解决实际问题。围绕教学方法、内容和考核3个方面,提出了“机器学习”课程教学改革措施,融合线上学习和线下推演的教学方法,增加师生互动、串联关键知识点;引入科学家故事和兴趣挑战的教学内容,丰富课堂内容、培养学习兴趣;增加基于前沿技术的实战考核,引导自主学习、探索前沿技术,成功应用于广州大学方滨兴院士本科预备班“机器学习与数据挖掘”教学实践,改善了课程的教学效果。     

机器学习课程的教学实践——以北京大学“智能科学与技术”本科专业为例

分析当前智能科学专业机器学习课程的教学情况,从问题导向的教学模式、以点带面的内容安排和实践导向的课程项目等几方面提出机器学习课程教学要领,以北京大学为例,具体说明教学实践过程。     

智能信息处理课程群下的机器学习课程教学改革

围绕智能信息处理课程群论述机器学习课程的纽带作用,提出在机器学习教学中以"无免费午餐定理""丑小鸭定理""奥卡姆剃刀原则""大数定理""模型选择定理"等原则培养学生的计算思维、科学思维与人文素养。     

特征挖掘算法与不同机器学习方法在回归问题中的应用研究

近年来,机器学习方法在各个领域内的应用十分广泛,而特征挖掘则是机器学习过程中十分重要的数据预处理过程。Boruta算法是一种基于随机森林算法的特征筛选算法,该算法可以对机器学习过程中的自变量进行筛选,并且进行重要性排序。随机森林、支持向量机、k最近邻算法和梯度提升模型则是机器学习中的经典算法,在解决回归和分类问题中均有较广泛的应用。本文通过红葡萄酒案例,将Boruta算法与4种机器学习方法相结合,探讨Boruta算法的作用及几种不同机器学习方法的区别,为将特征挖掘算法和机器学习在回归问题中的应用提供参考。     

机器学习技术应用于乙烯裂解炉运行状况的分析与模拟

随着裂解炉原料和产品组成在线分析仪的应用,以及裂解炉自动化控制技术的不断完善,企业积累了大量的生产过程数据,但是这些过程数据并没有得到充分的利用。为此,本文介绍了机器学习技术的基本理论知识和目前国内外各领域机器学习技术的应用情况,并利用机器学习技术和采集的SL-I型石脑油裂解炉生产过程数据,建立了裂解炉产品分布的机器学习预测模型,并对比了机器学习模型和机理模型的优缺点。分析表明,机器学习模型可以准确预测石脑油裂解炉产物分布情况,机器学习模型具有建立过程便捷、适用于对计算速度和精度要求较高的应用场景、并具有维护成本较低的特点。     

基于多机器学习模型的变电站调试检修自动测试方法研究

为了提高变电站调试检修自动测试方法的智能水平,减少人工运维调试工作,提出一种构建LightGBM机器学习模型对变电站调试检修自动测试结果进行智能分析的方法。首先,构建LightGBM机器学习模型并对其进行参数调优和训练;然后采用变电站调试检修自动测试获取的数据对LightGBM机器学习模型进行测试;同时,构建XGBoost机器学习模型作为实验对照组,采用同样的实验方法对其进行训练与测试;最后,对比两种机器学习模型的综合性能。实验结果表明：LightGBM机器学习模型的拟合效果更好;XGBoost机器学习模型对自动检测方法故障类别预测出错数据的分析正确率最高为90.1%;而LightGBM机器学习模型的判断正确率维持在95%以上,最高达到了96.9%。可知在对变电站调试检修自动测试结果进行智能分析时,选择的LightGBM机器学习模型都更加适合,性能更稳定,能够实现提高变电站调试检修自动测试方法智能水平的目的。     

一种为辅助诊断筛选机器学习模型的方法

为自动向医生推荐用于疾病辅助诊断的机器学习模型，提出一种筛选机器学习模型的方法。该筛选方法分为3个步骤：用训练准确度和测试准确度筛选机器学习模型；用查准率、召回率和F1成绩筛选机器学习模型；用带权值的总成绩计算公式推荐最优的机器学习模型。以乳腺癌辅助诊断为例，最终从8个机器学习模型中筛选并训练出高斯核心函数向量机模型（γ=0.5）推荐给医生使用，因为这个模型除满足筛选方法的3个条件外，总成绩最高，达到了0.985。     

机器学习案例化教学方法研究

如何让学生正确理解机器学习理论、准确利用所学技术解决新问题,是机器学习课程教学的重点。提出一种由浅入深的案例化教学方法,设计综合案例实现机器学习全过程的融合,讲解每一个算法的理论知识和实现过程,并通过调整算法步骤、参数等,展示各个步骤、自变量和系数等对学习结果的影响。实践结果表明,该方法能够有效帮助学生理解理论知识,强化动手能力。     

复杂网络与机器学习融合的研究进展

近年来,随着大数据技术的进步,复杂网络与机器学习的交叉研究越来越受到众多学者的关注。复杂网络是自然界中众多复杂系统的抽象描述,主要以统计物理的角度研究系统的演化;机器学习又称为统计学习方法,主要研究从大量数据样本提取特征并建立模型。简要综述复杂网络领域主要的网络演化模型、常用统计度量方法以及网络上的动力学过程和机器学习领域内三种基本的学习技术;从交叉应用的两个角度,即基于复杂网络的机器学习方法和基于机器学习的复杂网络信息挖掘,详细对比了各种方法的计算思路。在此基础上,提出目前学界重点关注的两类问题,并展望了若干开放性挑战。     

基于粒子群优化算法的模型超参调优方法应用研究

机器学习模型的效果很大程度上取决于模型的超参数调优,如何实现自动化的超参数优化是机器学习领域的重点研究方向之一。提出一种改进粒子群优化算法的惯性系数动态更新的方法,实现基于粒子群优化算法的模型超参数的调优方法,并以信用卡核心业务场景建模的自动调参过程予以实际验证。实验结果表明,改进后的自动超参数优化方法在通过多轮迭代逐步逼近最优解的参数择优方面更容易达到预期模型的效果目标,能够提升机器学习模型的预测精度和泛化能力。     

基于AI Studio平台的机器学习课程实践教学

针对高校开设机器学习课程面临的实验环境难以搭建、教学案例设计困难、行业大数据集难以获取等痛点问题,提出基于百度AI Studio平台开展机器学习课程实践教学,从搭建机器学习课程环境、设置实践教学平台、加载实践案例到开设课程实践比赛各环节,探讨如何开展以实践驱动的机器学习通识课教学,从而培养学生使用人工智能技术解决本学科专业领域复杂问题的能力.     

一种优化的用于中文分词的CRF机器学习模型

目前效果最好的中文分词方法是基于字标注的机器学习方法。作为中文分词领域使用最广泛并且效果最好的机器学习模型,条件随机场(CRF)模型进行机器学习的代价很高,非常耗费时间和内存。通过对条件随机场机器学习模型的改进,增加模型导出功能和使其支持预定义Tag,降低了机器学习的代价。使用MSRA 2005开放测试语料库和6词位标注集,以及赵海博士提出的针对6词位的特征模板做实验,实验数据表明,改进后的模型缩短了机器学习的训练时间,提高了分词的速度,对F值也有小幅提高。     

一种基于数据复杂度的投毒数据检测方法

针对机器学习模型训练过程中攻击者可以利用修改原始训练数据生成投毒数据的方式对机器学习模型进行投毒攻击的问题,提出一种基于数据复杂度的投毒数据检测方法。该方法在正常数据集的基础上,应用梯度上升策略对正常数据集内的样本实例进行自我投毒,通过挖掘自我投毒产生的投毒数据对正常数据集数据复杂度的影响,训练能够辨别投毒数据的检测模型。该方法在选定的应用场景中的检测准确率比现有方法有更好的效果。实验结果表明,投毒数据能够有效降低机器学习模型预测能力,应用基于数据复杂度的检测方法能够有效检测投毒数据,降低投毒数据对模型预测能力的不良影响。     

面向网络空间防御的对抗机器学习研究综述

机器学习以强大的自适应性和自学习能力成为网络空间防御的研究热点和重要方向. 然而机器学习模型在网络空间环境下存在受到对抗攻击的潜在风险, 可能成为防御体系中最为薄弱的环节, 从而危害整个系统的安全. 为此科学分析安全问题场景, 从运行机理上探索算法可行性和安全性, 对运用机器学习模型构建网络空间防御系统大有裨益. 全面综述对抗机器学习这一跨学科研究领域在网络空间防御中取得的成果及以后的发展方向. 首先, 介绍了网络空间防御和对抗机器学习等背景知识; 其次, 针对机器学习在网络空间防御中可能遭受的攻击, 引入机器学习敌手模型概念, 目的是科学评估其在特定威胁场景下的安全属性; 然后, 针对网络空间防御的机器学习算法, 分别论述了在测试阶段发动规避攻击、在训练阶段发动投毒攻击、在机器学习全阶段发动隐私窃取的方法, 进而研究如何在网络空间对抗环境下, 强化机器学习模型的防御方法; 最后, 展望了网络空间防御中对抗机器学习研究的未来方向和有关挑战.     

机器学习高阶课程建设的探索与实践

针对人工智能技术迅猛发展背景下机器学习课程面临的挑战,提出机器学习研究生高阶课程培养方案,阐述如何开展基于百度AI Studio平台和飞桨（PaddlePaddle）深度学习框架的机器学习高阶在线课程,并对课程建设方案和实践教学模式进行总结。     

机器学习安全及隐私保护研究进展

机器学习作为实现人工智能的一种重要方法,在数据挖掘、计算机视觉、自然语言处理等领域得到广泛应用。随着机器学习应用的普及发展,其安全与隐私问题受到越来越多的关注。首先结合机器学习的一般过程,对敌手模型进行了描述。然后总结了机器学习常见的安全威胁,如投毒攻击、对抗攻击、询问攻击等,以及应对的防御方法,如正则化、对抗训练、防御精馏等。接着对机器学习常见的隐私威胁,如训练数据窃取、逆向攻击、成员推理攻击等进行了总结,并给出了相应的隐私保护技术,如同态加密、差分隐私。最后给出了亟待解决的问题和发展方向。     

面向机器学习课程的教学改革实践

针对智能科学与技术专业"机器学习"课程理论与实验教学实践中遇到的问题,从"机器学习"课程在计算智能教学体系中的根本作用出发,提出面对"机器学习"课程理论和实验教学的改革方案和相应的新教学大纲。     

基于最小不满足核的随机森林局部解释性分析

随着机器学习在安全关键领域的应用愈加广泛,对于机器学习可解释性的要求也愈加提高.可解释性旨在帮助人们理解模型内部的运作原理以及决策依据,增加模型的可信度.然而,对于随机森林等机器学习模型的可解释性相关研究尚处于起步阶段.鉴于形式化方法严谨规范的特性以及近年来在机器学习领域的广泛应用,提出一种基于形式化和逻辑推理方法的机器学习可解释性方法,用于解释随机森林的预测结果.即将随机森林模型的决策过程编码为一阶逻辑公式,并以最小不满足核为核心,提供了关于特征重要性的局部解释以及反事实样本生成方法.多个公开数据集的实验结果显示,所提出的特征重要性度量方法具有较高的质量,所提出的反事实样本生成算法优于现有的先进算法;此外,从用户友好的角度出发,可根据基于反事实样本分析结果生成用户报告,在实际应用中,能够为用户改善自身情况提供建议.     

基于卷积神经网络的JavaScript恶意代码检测方法

机器学习的JavaScript恶意代码检测方法在提取特征过程中耗费时间和人力,以及这些频繁使用的机器学习方法已经无法满足当今信息大爆炸的实际需要。提出了一种基于卷积神经网络的JavaScript恶意代码检测方法。采用爬虫工具收集良性和恶意的JavaScript脚本代码获得样本数据;将JavaScript样本转换为相对应的灰阶图像,得到图像数据集;通过构建卷积神经网络模型对图像数据集进行训练,使得模型具有检测JavaScript恶意代码的能力。实验结果表明,相对于机器学习,该方法对收集到的5 800条JavaScript代码样本,检测准确率达到98.9%。     

高校人工智能课程多模态知识图谱构建及可视化

人工智能课程在教学过程面临着知识概念多、理论抽象等问题,不利于学生理解相关知识点。文章采用机器学习方法,通过数据收集与实体关系分类体系构建、实体关系抽取、多模态资源链接3个步骤自动构建了人工智能课程多模态知识图谱,并对其进行了可视化展示。