在线社交网络文本内容对抗技术 |
| |
引用本文: | 刘晓明,张兆晗,杨晨阳,张宇辰,沈超,周亚东,管晓宏.在线社交网络文本内容对抗技术[J].计算机学报,2022(8):1571-1597. |
| |
作者姓名: | 刘晓明 张兆晗 杨晨阳 张宇辰 沈超 周亚东 管晓宏 |
| |
作者单位: | 西安交通大学电子与信息学部 |
| |
基金项目: | 国家自然科学基金(61902308,62103323,61822309,61773310,U1736205,U1766215); |
| |
摘 要: | 在线社交网络内容对抗技术是人工智能领域与网络空间安全领域的一个新兴研究方向.它是指人们基于特定任务,在社交网络受众广泛、内容数量庞大、内容质量参差、内容真伪难辨的环境下,利用新兴的大数据驱动的人工智能方法,自动完成在线社交网络中针对特定主题与群体的对抗内容发现、生成与投送,进而实现社交平台异常信息的检测与反制,以达到维护网络空间安全的目的.虽然在线社交网络对抗技术属于一个新概念,鲜有相关工作,但是已有的机器学习方法可以被应用到该领域,通过特征提取、文本模式解析、文本内容编码与重建、目标优化等技术对社交文本大数据进行解析与内容表示,解决网络空间中的文本内容安全问题,实现对社交网络文本环境的净化.此外,在社交网络文本内容对抗的过程中,对抗双方的策略可作为反馈信息,使对抗模型不断进行更新和优化,最终达到完善模型的目的.基于以上攻防对抗思想,本文着重从文本内容生成与检测两方面对在线社交网络对抗进行阐述.首先,本文介绍了有关在线社交网络文本对抗技术的相关基础知识.其次,针对社交网络文本内容检测方法,本文从基于零次分类器的模型、基于机器特征的模型、基于预训练语言模型的方法、基于人机协作的模型、基于...
|
关 键 词: | 社交网络对抗 人工智能 网络空间安全 文本内容自动生成 机器生成内容检测 |
|
|