AI智算基础设施架构研究及关键技术分析

AI智算基础设施是实现人工智能快速发展的关键要素,电信运营商在构建AI智算基础设施时需要部署合理的技术架构,为用户提供高性能的AI计算能力。文章介绍了AI智算基础设施中AI-IaaS层、AI-PaaS层以及AISaaS层主要包括的组件以及主要功能。通过对当前AI智算基础设施能力短板进行分析,得出了运营商在部署新一代AI计算基础设施架构时,应重点优化的五项关键能力：高性能并行计算能力、兼容异构的开放能力、可信计算能力、资源弹性调度能力以及低碳绿色计算能力。     

何宝宏:生成式AI将推动产业格局大变革

以ChatGPT为代表的生成式AI技术将进一步突破人机交互的模态限制和用户体验,有望推动AI技术向着通用人工智能和强人工智能迈进。ChatGPT的火爆,使人工智能再次成为各界关注的焦点,2023年将成为人工智能发展的重要拐点,以ChatGPT为代表的生成式人工智能的突破,正在将人工智能带入新的发展阶段,同时也引发了全球人工智能领域新一轮的激烈竞争。随之而来的是我们想探索的一系列问题:ChatGPT为什么“火”?ChatGPT的火爆意味着什么?更为重要的是,ChatGPT对于我国人工智能发展有什么启示?     

智算中心IB及RoCE网络技术探究

增强智算中心的网络可靠性、降低网络传输中的时延,是提升GPU集群算力水平的关键。因此,RDMA成为了智算中心的关键网络技术。本文详细论述了RDMA中智算中心参数网络普遍使用的IB和RoCE网络技术,并对其组网方式进行了探讨研究。对于智算中心需要极致性能的大模型训练场景时,建议采用IB组建参数网络集群。只需普通性能的大模型训练或中小模型训练场景时,考虑成本问题,可优先采用RoCE组建参数网络。     

生成式人工智能技术对通信行业的影响研究

以ChatGPT为代表的基于大模型的生成式人工智能应用，引发了新一轮的人工智能发展浪潮，并将对这个世界产生深远影响。高速发展且不断进化的生成式AI，不仅实现了人工智能由“分类”向“生成”的转变，也为企业带来了全新的赋能价值和想象空间。详细剖析了生成式AI技术体系，探索其带来的前景价值，思考了技术背后的潜在风险并对企业提出了行动建议。同时，还探讨了通信运营商在生成式AI时代浪潮下的定位及应对之策。     

人工智能驱动科学研究新范式综述——模型、应用与案例

人工智能技术的快速发展引领了第四科学研究范式—“智能科学”的发展。在该人工智能驱动科学研究的新范式下,计算机能够利用海量数据,通过机器学习、深度学习等算法,达到自主学习和推理的类人智能水平（如ChatGPT、AlphaFold等人工智能技术）,为科学研究中数据、模型和实验等多个方面提供了显著助益。在新范式下,诞生了一大批新的科学模型,取代了传统的经典科学模型表示方法,通过构建基于数据-知识耦合驱动的人工智能分析机制,形成了一系列深度学习增强的复合式科学模型,有望带来更多的科学突破和创新。结合“智能科学”科学研究新范式,科学研究中实验数据、计算模型和科学实验等方面的效率能够大幅提升,科学家能够高效完成研究命题设想、研究方案设计和实验仿真验证,以获得科学结论并推动科学发展。     

以网络赋能算力构建智算时代新型基础设施

<正>2022年11月问世的ChatGPT以其高质量的语言生成能力、强大的文本理解能力以及广泛的应用场景,迅速成为业界关注的焦点,助力大模型成为AI（人工智能）应用新前沿。公开资料显示,截至2023年11月,国内至少有200家大模型厂商推出各自的大模型产品,其中通用及金融垂直领域大模型落地最快。随着AI技术的高速发展,以生成式大模型为代表的AI方案从专业技术领域渗透到生产生活的多个领域,各类智能化应用在经济建设、科技创新、生产力提升等方面扮演着越来越重要的角色。     

深度学习的10年回顾与展望

过去10年深度学习在算法、算力、数据方面获得了长足发展,使人工智能（AI）技术突破商用限制,行业应用场景日益广泛,产业规模持续扩大。在基础模型方面出现了卷积、注意力机制等关键突破;在学习方法方面,强化学习、自监督学习、大模型并行训练等使模型学习能力大大加强。新型AI计算芯片不断涌现,使计算能效提升百倍。未来10年,深度学习若要保持可持续的指数增长态势,绿色、高效、安全将成为新的核心要素。空间计算、近似计算等技术有望使AI芯片效能继续获得百倍提升。一系列生态融合工具的出现将解决目前日趋严峻的生态碎片化问题。AI安全、可信将成为AI技术应用的基本要求。     

AI大模型场景下智能计算技术选型分析

随着ChatGPT的诞生,AI大模型相关的产品和服务呈爆发式增长,国内互联网企业和运营商等纷纷加入“百模大战”。现有云平台中智能服务器采用传统GPU配置规格,无法满足大模型训练所需要的高性能算力和卡间互联带宽需求。本文主要研究扣卡模组形态的智能计算芯片技术,以及整机服务器的散热技术等内容,为后续建设智算中心提供选型依据。     

人工智能技术在云计算中的应用探讨

在计算机技术高速发展的时代背景下,人工智能与云计算技术的出现有效推动了社会经济的发展。虽然人工智能及云计算都有各自对应的技术体系,但在实际应用中二者又具有明显的关联性。在云计算技术中发挥人工智能技术的优势,能够进一步优化云计算系统的运行效率以及运行质量,文章重点探讨了人工智能技术在云计算中的应用。     

基于成熟AI服务的音视频检索系统设计

人工智能的时代已经到来,不断有新的人工智能算法、模型和服务产生。如何高质量利用这些成熟的人工智能,发挥其经济价值,是一个不得不思考的问题。文章选择音视频检索应用场景,并结合利用人工智能服务,阐述了基于成熟AI服务的音视频检索系统的需求分析、功能设计和系统架构。     

以ChatGPT看生成式人工智能对传媒业的影响

在当今数字化潮流的冲击下,生成式人工智能(Generative AI),如ChatGPT因其功能强大、拥有重大技术突破,引发了广泛的讨论与关注。这一新兴技术的涌现也让传媒行业面临前所未有的变革。ChatGPT不仅能够流畅自然地进行用户交流,更具备多模态输入和生成性功能,为媒体创作、推送,甚至内容审校带来了全新的可能性。基于此,本文以生成式人工智能和ChatGPT的概念作为切入点,并进一步以ChatGPT为例,深入分析了生成式人工智能对传媒业的影响。     

以ChatGPT为代表的生成式AI对通信行业的影响和应对思考

Chat GPT的发布引发生成式AI热潮，代表着通用人工智能奇点时刻的到来，信息产业生态系统极有可能重构，国内产业界纷纷加强以Chat GPT为代表的智算领域研究，运营商作为算网基础设施建设的主力军，迎来智算发展的新机遇。详细剖析了生成式AI的能力、发展情况和应用前景，思考了生成式AI背后的技术要素、对于算网资源的诉求、对通信行业带来的影响，以及运营商在生成式AI发展浪潮中面临的机遇和挑战，最后探讨了运营商的定位和应对策略。     

双核MCU+CNN方案如何激活边缘智能

<正>物联网的迅猛发展带我们走进了云计算时代，但在云计算过程中产生的海量数据，无形会影响到物与物连接的响应速度，以及数据的安全性等众多的问题。而边缘计算的出现很好的解决了一些问题，它在网络的边缘产生、处理、分析数据，再到云端。而随着数字化智能时代的到来，在AI算法的加持下，万物互联又升级到一个新的高度，“智能边缘”是将边缘计算与人工智能相结合，直接在边缘设备上运行AI算法。一般由内置的微处理器和传感器组成，可有效降低延迟率并提高网络带宽。     

算力“出圈”，PUE告急 液冷技术热度攀升

<正>正如生成式人工智能（AIGC）横空出世引爆算力需求，算力需求骤增也给数据中心建设发展带来更多挑战。算力需求有增无减，数据中心该如何接招？液冷技术打开了发展新思路。需求驱动，高效节能成关注焦点当前，我国数字经济正在转向深化应用、规范发展、普惠共享的新阶段。伴随着新型应用日新月异，计算型节点、AI训练、超算等高算力业务需求持续推升芯片性能，服务器功率不断提高，企业纷纷在AI、智算领域提前布局。     

基于云计算的人工智能AIaaS云服务平台研究

随着人工智能技术在各领域的应用推广,传统互联网人工智能云服务平台或产品难以满足各行业不同业务场景、模型的集约管理以及服务能力提升等迫切需求。提出通过在开源的K8S云平台容器框架上导入并集成OpenVINO?Model Server强大的AI服务组件,构建企业级人工智能服务AIaaS云服务平台。实现了AI模型快速部署、便捷运维、集约化管理,提高了服务能力和用户体验。测试结果表明,提出的框架在性能上优于同类技术框架,满足实际生产业务需求。     

边缘智能:研究进展及挑战

近年来,物联网的普及让数以亿计的移动设备连接到互联网上,在网络边缘产生了海量的数据,使得一种全新的计算范式——边缘计算兴起。同时,得益于深度学习算法和摩尔定律的突破,使得人工智能的发展再一次迎来了高潮。在这一趋势下,将边缘计算与人工智能相结合是必然的,由此产生的新的交叉研究——边缘智能引起了许多学者的广泛关注。在该综述中,边缘智能被分为基于边缘计算的人工智能和基于人工智能的边缘计算(即AI on edge和AI for edge)两部分。AI on edge侧重于研究如何在边缘计算平台上进行人工智能模型的构建,主要包括模型训练和模型推理两部分;AI for edge侧重于借助先进的人工智能技术,为边缘计算中的关键问题提供更优的解决方案,主要包括任务卸载和边缘缓存两部分。该综述从一个广阔的视角对边缘智能的研究进行了归纳总结,为涉足该领域的相关学者提供了一个详细的背景知识。     

迈入人工智能新时代:ChatGPT在智慧医疗应用场景研究与思考

ChatGPT的横空出世推动了各行业对生成式人工智能(AIGC)发展的认识和应用浪潮，也再次激发了对新一代人工智能技术的拥抱热潮。本文首先剖析了ChatGPT的技术原理和关键学习机制，分析并总结了ChatGPT的优点和局限。其次，基于理解ChatGPT技术原理及优缺点的基础上，分别面向医务管理人员、医生医技人员和患者三类用户群体梳理了以ChatGPT为例的新一代人工智能技术在智慧医疗领域的典型应用场景。最后，针对新一代人工智能技术发展趋势以及对智慧医疗领域的影响展开讨论和思考，并提出了智慧医疗领域拥抱新一代人工智能技术的实施路径。     

中国电信张成良 电信领域是最大的AI细分市场

AI可助力运营商实现复杂的网络运维自动优化。中国电信将积极探索引入AI技术的各类应用场景,实现AI能力的沉淀和客户赋能。5G时代的到来让万物智联成为可能。5G是人工智能的加速器,同时也将为人工智能提供新动能。尤其对运营商而言,将网络与AI结合,可以满足5G网络的部署运营需求。     

云计算在商业航天中的应用及其对卫星组网的影响研究

文章介绍了云计算的基础知识和商业航天的发展现状,分析了云计算在商业航天中的应用场景。研究发现云计算能够为商业航天提供强大的计算能力和灵活的资源调度,有效提升卫星的运营效率和数据处理能力。云计算的引入也对卫星组网产生了深远影响,可以实现卫星资源的共享和优化配置,提高整个卫星网络的性能,为商业航天的发展注入新动力。     

ChatGPT在热线系统中的应用研究

人工智能技术的快速发展推动了各行各业的技术进步和发展,尤其是在信息化应用方面取得了显著的成果。本文从功能分析、发展历程、训练模型和训练过程等方面,对ChatGPT进行了深入探讨。结合当前政务服务热线存在的难点与堵点问题,本文指出了ChatGPT技术应用于热线系统的切入点,并强调它对生成式人工智能技术在政务系统中的积极推动作用。当然,为了确保安全性,本文也指出了ChatGPT的局限性和必须以法律法规为前提的应用条件。