确保网络数据安全 应对新一代人工智能治理挑战

<正>ChatGPT的爆火在全球社会引发了一场研发大规模语言模型的热潮。以生成式人工智能为代表的新一代人工智能不仅革命性地改变了人机交互的形式,提升了人机交互的体验效果,还对人工智能产业产生了深刻影响,加速了人工智能大模型技术的发展与进步,带来了全新的发展机遇。     

基于数字水印技术的生成式人工智能标识研究

在过去的一年里,以ChatGPT为代表的深度预训练大模型展现出了异常强大的内容生成能力,引领着生成式人工智能技术的持续火热,生成式人工智能技术已经在科学和社会领域产生了广泛的影响。一方面,越来越多的高质量人工智能生成作品被源源不断地“创造”出来,给人们的生活带来了极大的便利,也为社会生产带来了更高的效率;另一方面,人工智能生成内容也带来了一些真实性、来源和版权等安全隐患,这些问题迅速凸显出来,并开始对教育、媒体、设计、客服等一系列行业产生冲击。     

基于数字水印技术的生成式人工智能标识研究

<正>在过去的一年里,以ChatGPT为代表的深度预训练大模型展现出了异常强大的内容生成能力,引领着生成式人工智能技术的持续火热,生成式人工智能技术已经在科学和社会领域产生了广泛的影响。一方面,越来越多的高质量人工智能生成作品被源源不断地“创造”出来,给人们的生活带来了极大的便利,也为社会生产带来了更高的效率;另一方面,人工智能生成内容也带来了一些真实性、来源和版权等安全隐患,这些问题迅速凸显出来,并开始对教育、媒体、设计、客服等一系列行业产生冲击。     

影响学习者使用MOOC意愿的关键因素分析

"完成度低、辍学率高、使用意愿不强烈"是当前大规模在线开放课程领域亟需解决的关键问题之一。本研究从学习者意愿的视角出发,以技术接受与采纳整合理论为指导,通过多元线性回归方程,对影响学习者使用MOOC学习的关键因素进行了科学分析。研究发现,在教学创新、努力期望、社会影响、促成因素、课程声誉、感知风险和绩效期望七个因素中,社会影响、促成因素、课程声誉和绩效期望是影响学习者利用MOOC学习意愿的关键因素,具有显著的正影响。按重要度排序,依次是促成因素、社会影响、课程声誉和绩效期望。     

加强安全治理,推动人工智能健康发展

近年来,人工智能一直是一个热门话题,尤其以ChatGPT为代表的生成式人工智能技术更是开启了人工智能应用的新纪元。人们在享受着人工智能技术带来的红利的同时,不得不面对可能出现的伦理、数据、舆情等方面的风险。在国内,相关政策的制定已经走在前列。今年4月,国家互联网信息办公室起草的《生成式人工智能服务管理办法(征求意见稿)》向社会公开征求意见,这意味着,当下备受关注的生成式人工智能产业将迎来首份监管文件。在当前各类生成式人工智能服务广受关注、千帆竞发之际,这有助于起到凝聚共识和规范指引作用。我刊特组织专题,从政策、标准、技术、案例等角度。     

风险社会视域下大规模语言模型的治安风险与多元治理——以ChatGPT为例

随着ChatGPT的发展,大规模语言模型进入全新时代。ChatGPT作为人工智能领域的最新里程碑,是科技为人类赋能的重要科研成果,但同时也引发出了潜在的治安风险,需要全社会引起足够重视。本文在风险社会视域下,梳理ChatGPT带来的治安风险,建议从法律、企业、个人、模型、应用五个层面对ChatGPT进行多元治理,将治安风险规制在可控范围内。这对ChatGPT及未来其他大规模语言模型治安风险识别与治理具有一定的借鉴意义。     

生成式人工智能训练数据风险的规制路径研究

探讨了生成式人工智能如ChatGPT在训练数据方面的法律风险与规制问题。首先分析了生成式人工智能在数据来源、歧视倾向、数据质量以及安全风险等方面的问题,通过对中欧法律体系的比较研究,建议明确界定治理原则,并针对数据合规性制定完善路径。最后,从具体措施层面,对中国现行的法律规制提出了具体的完善建议,为生成式人工智能的健康发展与法律规制提供有益参考。     

由ChatGPT引发的个人信息侵权救济法律思考

ChatGPT生成式人工智能作为科技史上的一次重大变革,吸引了全世界的关注,在进一步扩大人工智能适用领域的同时,也隐藏着不可忽视的风险。ChatGPT是大型语言模型的代表,其运作需要大量数据作为语料库进行训练,给个人信息安全造成越来越多的威胁,包括违法挖掘数据、信息泄露等。这些侵权行为具有侵权手段技术性、侵权损害方式隐蔽性等特征,导致个人信息侵权救济面临举证困难、损害认定难等困境,个人信息主体难以得到有效救济,故而有必要重构个人信息侵权救济路径。     

类ChatGPT技术嵌入政务服务网的应用场景、风险隐患与实施建议

政务服务网是企业和用户在线办理政务事项的统一平台。文章结合类ChatGPT人工智能的技术原理、运行条件、能力范围以及安全风险，分析在政务服务网不同的功能场景下嵌入类ChatGPT技术的必要性、可行性、安全性，并提出政务服务网嵌入类ChatGPT技术的安全隐患和实施建议，对建设数字政府和提高政府治理水平具有重要意义。     

ChatGPT类技术对我国影响的简要分析

ChatGPT类技术已经成为人工智能技术未来发展的趋势。本文首先对ChatGPT类技术的适用性进行了简要分析,ChatGPT类技术作为一种辅助性技术,并不能完全取代其他应用,而是通过嵌入现有应用或在其创造的新业态中产生价值;然后在此基础上进一步从经济层面、社会层面和网络安全层面讨论了ChatGPT类技术对我国可能产生的影响;最后,就ChatGPT类技术带来的挑战,本文从短期和长期两个层面提出了我国的应对策略。     

人工智能伦理审查与监管初探

<正>2022年11月,美国研究机构OpenAI发布对话式大规模语言训练模型ChatGPT,在全球引发了前所未有的热度。然而在其发布后不久,意大利数据保护局就以数据安全问题为由,禁止了ChatGPT在意大利境内的使用,并限制开发者OpenAI处理意大利用户的信息。与此同时,世界多地出现了对生成式人工智能进行规制的提议。     

生成式人工智能在高校学生教育中的应用

随着互联网技术的快速发展,生成式人工智能备受关注,其对高校学生教育的应用和影响逐渐凸显。本文将探讨生成式人工智能在高校学生教育中的应用和潜在风险。一方面,生成式人工智能为高校提供了个性化学习和教学资源的新机遇,有效提高教学效果和学生兴趣;另一方面,必须关注数据安全、隐私泄露,以及辨别生成式人工智能信息真伪等问题。在这个背景下,高校方面需要深入探讨如何平衡生成式人工智能在高校学生教育中的优势与挑战,以实现全面、持续的教育创新。     

基于UTAUT模型的手机视频APP用户使用意愿影响因素研究

基于技术接受与使用整合模型理论,结合最新的研究成果,构建手机视频APP用户使用意愿影响因素研究模型,不考虑个人属性特点即控制变量的影响,将绩效期望、努力期望、社会影响、信息化需求、娱乐性需求和个性化需求作为核心变量,从而提出初始理论模型与假设。然后,通过问卷调查搜集数据,利用结构化方程建模方法进行模型验证与修正。实证结果表明,绩效期望、社会影响、信息化需求、娱乐性需求与个性化需求对手机视频APP使用意愿有正向影响。     

ChatGPT生成式AI的法律风险及合规

新一代人工智能技术ChatGPT的问世引发了广泛的关注。通过认识ChatGPT基础技术架构,从多维度的视角研究新一代人工智能技术发现了ChatGPT带来的潜在法律风险。ChatGPT为社会带来巨大便利的同时,也带来了主要包括数据来源合法性、知识产权争议、生成不良或违法信息等法律风险。对此,监管机构与立法机构应提供相应的规制对策,包括明确ChatGPT人工智能数据来源的合法性,遵循知识产权规则以及生成内容的合法合规审查,构建合理的市场准入制度和严格的责任承担制度,提高ChatGPT产品安全性和准确性,以促进AIGC产业的健康发展。     

ChatGPT逻辑解构及带来的机遇和风险

ChatGPT内容生成型人工智能的出现,使人工智能进入到通用化时代。在技术原理上,ChatGPT通过构建超大型语言模型,使其初步具备了生成对话的能力,又通过人工反馈强化学习进行微调,使其最终成为能够与人类流畅对话的超级人工智能。从整体上看,ChatGPT能够释放生产力、推动产业转型升级、丰富互联网内容,与此同时,ChatGPT的大规模应用也会引起失业、网络安全、法律纠纷等诸多问题。作为一项新技术,ChatGPT具有无可比拟的技术优势与应用前景,因此,应当正确认识其风险,促进新一代人工智能技术的健康发展。     

浅析ChatGPT:历史沿革、应用现状及前景展望

近年来,人工智能技术接连取得突破,尤其是在强化学习、大规模语言模型和人工智能生成内容技术等方面,正逐步成为各个行业的创新驱动力。OpenAI于2022年11月30日发布的ChatGPT由于具有惊人的自然语言理解和生成能力,引起全社会大范围的关注,成为全球热议的话题,并被广泛应用于各个行业。仅两个月后,ChatGPT的月活跃用户数便达1亿,成为史上用户数增长最快的消费者应用。鉴于ChatGPT目前造成的影响,对其进行全面的分析较为必要。本文从历史沿革、应用现状和前景展望这3个角度对ChatGPT进行剖析,探究其对社会的影响、技术的原理和挑战以及未来发展的可能性,并从模型能力的角度简要介绍GPT-4相对于ChatGPT的改进。作为一个现象级技术产品,从技术角度而言ChatGPT对相关领域具有里程碑式的重要意义,从应用角度而言其可能会给人类社会带来巨大的影响。ChatGPT有潜力成为计算机领域最伟大的成就之一。但就目前而言,ChatGPT仍然存在一些局限,尚未达到强人工智能的水平。在当前阶段,研究人员需要对人工智能技术持有自信和谦虚学习的态度,继续发展相关的技术研究和应用。     

2023年度人工智能创新企业100强

<正>埋锅造饭自ChatGPT爆火出圈以来,AI行业已经进入发展的新纪元,如英伟达CEO黄仁勋所言：“AI行业迎来了‘iPhone时刻’。”由生成式AI和大语言模型引发的人工智能热潮正在席卷全球,无数企业和团队纷纷投身到人工智能领域的研究和应用中,以期在这场科技革命中占得先机。     

亦正亦邪大模型——大模型与安全专题导读

<正>2022年底以来,以ChatGPT为代表的大模型飞速发展,正在成为驱动新质生产力发展的新动能、人类探索未知的新工具.在显著提升人工智能(artificial intelligence, AI)模型通用理解和生成能力的同时,也带来了前所未有的安全风险.本专题聚焦“大模型与安全”主题,汇集了产学两界专家的优秀成果,旨在为读者提供一个了解大模型安全风险、研究现状和最新工作的窗口.1大模型的能力与风险生成式大模型因其强大的智能能力和巨大的应用潜力吸引了众多研究者和企业的关注.从智能能力的角度来看,研究人员观测到：当训练数据和参数规模持续增长,超过某个阈值的时候,模型能力会突然跃升,     

ChatGPT在商业与教育领域上应用的可行性分析

本文探讨了ChatGPT这一新型人工智能工具的出现,其应用在商业和教育两大领域的可行性。通过梳理ChatGPT简单概况、模型训练流程等,这些能为企业日后模型选择、数据训练及客户支持方面提供帮助。在教育和商业两个领域阐述ChatGPT应用的风险及挑战,同时也给出了它所带来的伦理影响和局限性。总而言之,ChatGPT今后有望在教育、商业等多个行业以更复杂的方式得到实际应用。     

拥抱并克制，合理使用AIGC技术辅助写作

ChatGPT是生成式人工智能技术（简称“AIGC技术”）的典型代表,其背后是大语言模型、深度学习、神经网络等技术,尤其在文字处理、内容生成方面具有强大的优势,人们也开始逐渐使用AIGC技术来帮助写作。本文探讨了AIGC技术的基本原理及如何帮助人类更好地写作,并关注了技术引发的伦理和规范问题。