基于端云协同体系的预训练大模型及其服务化

传统云计算模式将所有数据集中,以中心化原则在云上训练大模型,通过云服务支撑端侧多样服务需求,这一模式存在网络时延大、隐私安全低和算力成本高等不足。在“泛在互联、移动优先、AI赋能”时代,需要机器学习支撑丰富多样端侧应用,因此建立端云协同计算范式,既提供云上服务和端侧推理能力,又推动云上模型和端侧模型的协同进化,从云计算和端智能向端云协同进化计算模式进行跨越,充分发挥云上、端侧和端云链中各类计算资源的最佳效果是当前的重大挑战。本文围绕云上预训练大模型、端云协同体系、基于端云协同体系的预训练大模型服务化与隐私保护,以及未来挑战进行了讨论。     

2021至2023年人工智能领域研究热点分析述评与展望

在当今数字化和智能化的时代背景下,人工智能（artificial intelligence,AI）已成为科技创新的重要引擎,总结探讨AI研究的最新趋势和未来发展方向具有重要的研究和现实意义.为此,对2021—2023年间在中国计算机学会（CCF）推荐的AI领域CCF-A类国际会议和期刊所发表论文的研究成果进行收集,并在此基础上采用文献计量学的方法论来通过关键词对研究热点进行分析,进行基于高频关键词分析研究热点、基于新增关键词分析研究趋势、基于引用量加权的关键词分析高影响力研究,可以梳理AI研究的主流方向、发现AI主要研究方向的相互联系和交叉融合的特点.此外,对当前研究热点如大语言模型（large language model,LLM）、AI驱动的科学研究（AI for Science）和视觉生成相关论文的关联热点进行分析,可以挖掘技术路径和方法论的演变,展现技术创新背后的科学理论和应用前景,从而进一步揭示AI研究的最新趋势和发展前景.     

大小模型端云协同进化技术进展

生成式基座大模型正在引发人工智能领域的重大变革,在自然语言处理、多模态理解与内容合成等任务展现通用能力。大模型部署于云侧提供通用智能服务,但面临时延大、个性化不足等关键挑战,小模型部署于端侧捕捉个性化场景数据,但存在泛化性不足的难题。大小模型端云协同技术旨在结合大模型通用能力和小模型专用能力,以协同交互方式学习演化进而赋能下游垂直行业场景。本文以大语言模型和多模态大模型为代表,梳理生成式基座大模型的主流架构、典型预训练技术和适配微调等方法,介绍在大模型背景下模型剪枝、模型量化和知识蒸馏等大模型小型化关键技术的发展历史和研究近况,依据模型间协作目的及协同原理异同,提出大小模型协同训练、协同推理和协同规划的协同进化分类方法,概述端云模型双向蒸馏、模块化设计和生成式智能体等系列代表性新技术、新思路。总体而言,本文从生成式基座大模型、大模型小型化技术和大小模型端云协同方式 3 个方面探讨大小模型协同进化的国际和国内发展现状,对比优势和差距,并从应用前景、模型架构设计、垂直领域模型融合、个性化和安全可信挑战等层面分析基座赋能发展趋势。     

徐州矿务局召开安全现场会议

徐州矿务局于1979年1月4至6日在夹河煤矿召开了关于认真贯彻中发(78)67号文件和“两好、六消灭’安全现场会议。各矿、厂(处)的主要负责人、总工程师,基层干部共160余人参加了会议。会议认真总结了中发(78)67号文件的贯彻执行情况和一九七八年安全生产工作的经验教训。会上听取了张小楼煤矿、工程处安全生产一周年和夹河煤矿实现“两好、六消灭”矿