关于软件工程专业教育方案的探讨

本文提出了一个适合国内软件工程专业的教育方案,并给出了软件工程专业教学应该涵盖的基本内容和计划。     

融合后验概率校准训练的文本分类算法

用于文本表示的预训练语言模型在各种文本分类任务上实现了较高的准确率,但仍然存在以下问题：一方面,预训练语言模型在计算出所有类别的后验概率后选择后验概率最大的类别作为其最终分类结果,然而在很多场景下,后验概率的质量能比分类结果提供更多的可靠信息;另一方面,预训练语言模型的分类器在为语义相似的文本分配不同标签时会出现性能下降的情况。针对上述两个问题,提出一种后验概率校准结合负例监督的模型PosCal-negative。该模型端到端地在训练过程中动态地对预测概率和经验后验概率之间的差异进行惩罚,并在训练过程中利用带有不同标签的文本来实现对编码器的负例监督,从而为每个类别生成不同的特征向量表示。实验结果表明：PosCal-negative模型在两个中文母婴护理文本分类数据集MATINF-C-AGE和MATINF-C-TOPIC的分类准确率分别达到了91.55%和69.19%,相比ERNIE模型分别提高了1.13个百分点和2.53个百分点。     

融合预训练语言模型的成语完形填空算法

根据上下文语境选择恰当的成语,是自然语言处理领域的重要任务之一.现有的研究将成语完型填空任务看成是文本匹配问题,虽然预训练语言模型能够在文本匹配研究上取得较高的准确率,但也存在明显的缺陷:一方面,预训练语言模型作为特征提取器时,会丢失句子间相互信息;另一方面,预训练语言模型作为文本匹配器时,计算开销大,训练时间和推理时间较长.另外,上下文与候选成语之间的匹配是不对称的,会影响预训练语言模型发挥匹配器的效果.为了解决上述两个问题,利用参数共享的思想,提出了TALBERT-blank.TALBERT-blank是将成语选择从基于上下文的不对称匹配过程转换为填空与候选答案之间的对称匹配过程,将预训练语言模型同时作为特征提取器和文本匹配器,并对句向量作潜在语义匹配.这样可以减少参数量和内存的消耗,在保持准确度的情况下,提高了训练和推理速度,达到了轻量高效的效果.在CHID数据集上的实验结果表明:作为匹配器,TALBERT-blank相较于ALBERT,在保证准确率的情况下,更大限度地精简了模型的结构,计算时间进一步缩短54.35%.     

基于关联记忆网络的中文细粒度命名实体识别

细粒度命名实体识别是对文本中的实体进行定位,并将其分类至预定义的细粒度类别中.目前,中文细粒度命名实体识别仅使用预训练语言模型对句子中的字符进行上下文编码,并没有考虑到类别的标签信息具有区分实体类别的能力.由于预测句子不带有实体标签,使用关联记忆网络来捕获训练集句子的实体标签信息,并将标签信息融入预测句子的字符表示中.该方法将训练集中带实体标签的句子作为记忆单元,利用预训练语言模型获取原句子和记忆单元句子的上下文表示,再通过注意力机制将记忆单元句子的标签信息与原句子的表示结合,从而提升识别效果.在CLUENER 2020中文细粒度命名实体识别任务上,该方法对比基线方法获得了提升.     

多知识点融合嵌入的深度知识追踪模型

知识追踪任务是根据学生历史答题记录追踪学生知识状态的变化,预测学生未来的答题情况.近年来,基于注意力机制的知识追踪模型在灵活性和预测性能上都明显优于传统知识追踪模型.但是现有深度模型大多只考虑了单一知识点题目的情况,无法直接处理多知识点题目,而智能教育系统中存在着大量的多知识点题目.此外,如何提高可解释性是深度知识追踪模型的关键挑战之一.为了解决这些问题,提出一种多知识点融合嵌入的深度知识追踪模型.所提模型考虑涉及多知识点的题目中知识点之间的关系,提出两种新颖的多知识点嵌入方式,并且结合教育心理学模型和遗忘因素提升预测性能和可解释性.实验表明所提模型在大规模真实数据集上预测性能上优于现有模型,并验证各个模块的有效性.     

基于Co-training的用户属性预测研究(研究生论坛)

针对当前基于第三方应用数据的用户属性预测算法较少考虑应用前台实际使用时长问题,提出了“手机应用前台均使用时长”特征,同时采用基于稀疏自编码器和神经网络的Co-training框架,充分利用大量未标注数据,从应用类别和前台均使用时长两个角度进行属性预测。实验进行时,首先使用未标注数据对网络进行初始化,然后采用基于准确率的梯度下降算法对参数进行更新。实验结果表明,本文算法提高了用户属性预测准确率。     

文档级分类记忆的中文命名实体识别

命名实体识别是将自然语句中的姓名,地点,组织等实体抽取出来,是自然语言处理的一个上游任务.基于文档级记忆的命名实体识别是将所有识别过的语句信息融入当前待识别的语句中,从而加强当前句子的语义表达,以获得更好的识别效果.鉴于当前文档级记忆的命名实体识别都是将所有记忆信息混合融入当前语句中,忽略了不同标签类别的记忆信息对当前语句的影响不同,论文提出了一种融入分类记忆信息的中文命名实体识别方法,将当前输入语句与记忆模块中已按类别分成B、M、E、S四份的记忆信息利用注意力机制相匹配,找到每个字语义最相近的不同类别的若干个记忆字信息,将得到的记忆信息分别融入当前语句经过LSTM输出后得到的输出向量信息中,得到融入记忆信息的输出向量表示.这样可以更全面地表示当前字向量属于不同标签的可能.论文方法在中文命名实体识别经典数据集Resume简历数据集中得到了很好的实验效果.     

融入多尺度特征注意力的胶囊神经网络及其在文本分类中的应用

近些年来,胶囊神经网络(Capsnets)由于拥有强大的文本特征学习能力而被应用到文本分类任务中.目前的研究工作大都将提取到的文本多元语法特征视为同等重要,而忽略了单词所对应的各个多元语法特征的重要程度由具体上下文决定的这一事实,这将直接影响到模型对整个文本的语义理解.针对上述问题,该文提出了多尺度特征部分连接胶囊网络...     

面向对象数据库系统的研究和开发

面向对象数据库技术和系统是当前数据库研究和开发的热点之一。本文着眼于国产化产品的研究和开发，综述了国际上的最新研究动态及发展趋势，阐述了在我国进行进一步研究和开发的意义，讨论了值得研究的主要内容和关键技术以及可采用的技术路线