新闻推荐算法可信评价研究 |
| |
作者姓名: | 刘总真 张潇丹 郭涛 葛敬国 周熙 王宇航 陈家玓 吕红蕾 林俊宇 |
| |
作者单位: | 中国科学院大学网络空间安全学院 北京 中国 100049;中国科学院信息工程研究所 北京 中国 100093 |
| |
基金项目: | 本课题得到中国科学院战略性先导科技专项(C类)项目(No.XDC02060400)。 |
| |
摘 要: | 随着AI、5G、AR/VR等新技术的快速发展,内容类应用如电子商务、社交网络、短视频等层出不穷,导致信息过载问题日益严重。人工智能技术的发展推动了智能算法的爆炸式运用,作为智能算法的一种,推荐算法在大数据、应用场景和计算力的推动下,通过信息过滤技术,为用户提供适应兴趣及行为的个性化及高质量的推荐服务,逐步提高了用户的使用体验、内容分发效率,在一定程度上缓解了信息过载的问题。但推荐算法的潜在偏见、黑盒化特性及内容分发方式也逐渐带来了决策结果不公平性、不可解释性,信息茧房、侵犯用户隐私等安全挑战。如何提高推荐算法的可解释性、公平性、可信程度等越来越受到国内外政府监管部门、产业及学术界的重点关注,推荐系统和推荐算法也由此从发展期进入管制期。为此,本文针对新闻推荐领域,分析推荐算法的稿件画像、用户画像、推荐推送、反馈干预和人工复审等关键要素,围绕推荐算法生态的参与者,如内容生产者、受众、算法模型、新闻平台,从公平性、可解释性和抗抵赖性三个方面提出了一种新闻推荐算法可信评价体系,并进行定量或定性分析。公平性、可解释性和抗抵赖性是正相关关系,当公平性和抗抵赖性越强、可解释程度越高,新闻推荐算法的可信度越高。希望弥补新闻推荐算法领域的可信研究的空白,建立可信推荐算法生态,加速安全推荐系统的建立和推广,同时为智能算法可信研究提供参考,为智能算法的监管和治理提供思路。
|
关 键 词: | 新闻 推荐算法 可信评价体系 公平性 可解释性 抗抵赖性 |
收稿时间: | 2021/4/30 0:00:00 |
修稿时间: | 2021/8/8 0:00:00 |
Trust Evaluation of News Recommendation Algorithms |
| |
Authors: | LIU Zongzhen ZHANG Xiaodan GUO Tao GE Jingguo ZHOU Xi WANG Yuhang CHEN Jiadi LV Honglei LIN Junyu |
| |
Affiliation: | School of Cyber Security, University of Chinese Academy of Science, Beijing 100049, China;Institute of Information Engineering, Chinese Academy of Science, Beijing 100093, China |
| |
Abstract: | |
| |
Keywords: | news recommendation algorithm trust evaluation system fairness interpretability anti-denying |
|
| 点击此处可从《》浏览原始摘要信息 |
|
点击此处可从《》下载全文 |