人工智能的伦理危机畅想

目前,人工智能是个热点话题,尤其是谷歌的阿尔法狗4:1战胜围棋世界冠军李世石后,各种关于人工智能的想象都冒出来了.乐观的观点认为人工智能马上会大规模普及,人类很快就会进入像电影描述的那种幸福美好的生活,疾病被消灭,甚至能获得永生,人类被彻底从重复的劳动中解放出来;悲观的认为人工智能觉醒以后,人类的末日也就不远了,因为他们的智力发展水平会成指数级的增长,很快就会发展到人类根本不能理解的更高维度.那个时候,人工智能看人类,就像人类现在看蚂蚁一样,完全就不在一个智力等级上.     

人工智能的伦理困境与出路

人工智能经过60多年的发展取得了举世瞩目的成就,成为当代及未来发展的驱动力之一。伴随着人工智能的蓬勃发展,其伦理方面的问题也渐渐浮现了出来:人工智能带来劳动异化问题、人工智能的技术形态意识化问题、人工智能的权利和责任问题、人工智能发展中的环境伦理问题等。鉴于人工智能发展的巨大影响力,人工智能伦理问题必须引起重视,增强研发主体的道德责任感、积极推进人工智能发展规范化、法律化,加强各国的交流合作,确保人工智能在造福人类的轨道上发展,还人工智能一颗“良芯”。     

欧盟人工智能的政策、伦理准则及规制路径研究

本文在简要梳理欧盟人工智能战略框架的基础上,从比较的视角具体阐释了欧盟人工智能伦理准则及规制路径的核心内涵,运用“规范力量”与“市场力量”两个概念,分析了其相关政策出台动因及欧盟在全球人工智能竞争与合作中的地位。结合欧盟在此方面的举措,本文进一步思考了其对中国人工智能发展的相关启示,提出我国应保持相对优势,并在竞争环境中立足国情,加快人工智能伦理治理实践,积极推动人工智能治理的跨学科参与和国际合作。     

人工智能技术的伦理问题及其治理路径研究

当前人工智能技术正在高速地发展并深刻地改变着世界,它迅速渗入和应用到社会各领域中,给人类带来便利的同时也带来新的挑战。本文对人工智能技术应用的伦理问题进行了探索性研究,审视其应用过程中所带来的一系列伦理风险问题,并提出合理规避路径及治理策略,以期促进人工智能技术应用与伦理道德的统一,服务于人类整体的价值追求与伦理准则,使人工智能技术应用增进人类福祉。     

人工智能对电子信息工程伦理教育的影响

当前,我国人工智能技术飞速发展,但该领域内的工程伦理教育却迟滞于技术的发展,正逐渐受到重视。为此,文章在总结电子信息工程和人工智能技术特点的基础上,提出了目前人工智能领域工程伦理教育中存在的三大问题,从不同维度反映了目前工程伦理教育面临的挑战。随后,探讨了以人为本的责任伦理解决方案,倡导具有人文温度、规范创新、价值引导等工程伦理理念和方法,把工程伦理原则转化为伦理实践成果。     

符合伦理的人工智能应用的价值敏感设计:现状与展望

价值敏感设计是一种将伦理嵌入人工智能设计的高效方法,尤其是其独特的三方方法为人工智能应用提供了规避伦理问题和道德风险的手段,因此有着广阔的应用前景.本文系统地介绍了价值敏感设计的内涵、原理和方法;详细描述了价值敏感设计在国内外的研究现状,并对典型研究内容进行了对比分析;总结了近年来价值敏感设计在智能机器人、智能运载工具...     

人工智能知识体系及学科综述

本文以人工智能的知识体系为研究内容,阐述人工智能的分支及其分类,以人工智能的知识单元为组织基础,总结与知识单元相关的学科、理论基础、代表性成果及方法,描述知识单元之间的层次关系,指出人工智能目前的重要研究问题。     

伦理智能体及其设计:现状和展望

智能体一直是人工智能的主要研究领域之一,任何独立的能够同环境交互并自主决策的实体都可以抽象为智能体.随着人工智能从计算智能到感知智能,再到认知智能的发展,智能体已逐步渗透到无人驾驶、服务机器人、智能家居、智慧医疗、战争武器等人类生活密切相关的领域.这些应用中,智能体与环境、尤其是与人类和社会的交互愈来愈突出,其中的伦理...     

基于人工智能的软件自动化测试体系构建与应用研究

针对传统手动测试面临的高难度和大工作量问题,研究了基于人工智能的软件自动化测试体系构建方法,以提高软件测试效率和质量。通过引入人工智能技术,自动化测试体系能够有效提高测试效率,显著减少测试时间和人力资源成本。实验结果表明,该体系实现了测试用例的自动生成与优化,进一步提高了测试的覆盖率和准确性,在提高软件自动化测试的效率和质量方面表现出色,为软件领域的高质量发展提供了有力支持。     

人-AI交互: 实现“以人为中心AI”理念的跨学科新领域

AI技术造福了人类,也给研发带来了挑战,如果开发不当,会伤害人类和社会。目前国内外还没有系统的跨学科工作框架来有效地应对这些新挑战。为顺应学科发展的交叉趋势,中国国家自然科学基金委2020年成立了交叉科学部。在这样的背景下,本文分析AI系统研发面临的新挑战,进一步阐述我们在2019年提出的“以人为中心AI”（human-centered AI,HCAI）研发理念和设计目标。目前,HCAI研发理念在国外是AI界的热门课题之一,为推动 HCAI 理念的落实,本文系统地提出了人?人工智能交互（human-AI interaction,HAII）的跨学科新领域,定义了其目的、范围、研究和应用重点等。通过文献综述和分析,本文总结了国内外HAII研究和应用的重点,提出了今后的主要研究方向。最后,针对今后HCAI理念和HAII领域的工作,提出了一系列对策和建议。     

人工智能范式的革命与通用智能理论的创生

人工智能的研究取得了不少可喜的进展,也面临着许多严峻的挑战.为了应对这些挑战,学术界提出了各种各样的研究思路.笔者相信,每种思路都有其合理之处,都有可能获得一定的成效.不过,根据笔者的理解,人工智能面临的最深刻最严峻的挑战,是学科和时代的大转变所带来的大阵痛:人工智能范式的张冠李戴.因此,必须对人工智能的范式实施\"正冠...     

人工系统中数据–因素–算力–算法作用及相互关系研究

目前的研究认为人工智能的核心是数据、算法和算力,但因素在形成人工智能系统过程中是必不可少的。论文针对人工系统中的数据、算力、算法和因素的各自作用,及其相互关系进行了探讨和论证。从人工系统的内涵出发,描述人工系统的发展过程,认为目前和今后的人工系统必将具有人工智能特征,而实现人工系统要充分考虑上述四方面的相互作用。研究结果表明:数据是人工系统辨识因素的基础,也是形成算法的基础;因素是人工系统控制自然系统的方法及算法所需变量;算法体现了因素与数据关系,可描述人工系统结构;算力是解算算法的能力,也需考虑数据和因素的特征。因此因素在人工系统建立过程中与数据、算法和算力具有相同的重要性。它们具有明显的作用关系,且普遍存在于各个学科,是形成各学科理论基础体系的关键。     

集对分析在人工智能中的应用与进展

人工智能是我国发展战略,集对分析从自主原创角度为人工智能提供一种基础性思路,具有重要意义。集对分析把确定的数学计算与不确定性系统分析有机结合,已在人工智能基础、模式识别、不确定性推理、智能决策、知识生态学、自然语言理解、专家系统、神经网络、智能工程、智能社会网络社区划分与演化等研究中得到应用。本文在概述集对分析的原理和联系数之后,综述集对分析在人工智能中的应用和进展,以期推动集对分析在人工智能中的进一步应用。     

构建基于INTERNET的分布式专家系统

论述了一种基于INTERNET分布式专家系统的模型、实现过程及其发展前景,综合运用了INTERNET分布式应用程序的编程方法和人工智能逻辑编程的工具,提出并实现了一种编写发布式INTERNET智能应用程序的有效方法。     

A hypothesis of consciousness or intelligent neuronet information systems

This paper deals with the problematics of artificial intelligence and is devoted to problems of investigation of natural systems and synthesis of artificial intelligence systems. The specificity of functioning of biological intelligence systems is illustrated by simple examples. These examples allow one to disclose a probable mechanism that provides the formation of consciousness inherent in living beings and whose explicit manifestation is thinking. The natural-science aspect of the content of fundamental concepts such as semantics and knowledge is also considered as applied to the functioning of these systems. Based on paradigms of several scientific schools and that of system approach, general concepts and approaches to the solution of the problem of artificial intelligence are presented.Translated from Kibernetika i Sistemnyi Analiz, No. 6, pp. 73–86, November–December 2004.This revised version was published online in April 2005 with a corrected cover date.     

专家系统中多种知识表示方法的集成应用

专家系统的建立是以知识为基础的，采用何种知识表示方法在一定程度上决定了专家系统能否正确高效的运行。先综合比较了常见的几种知识表示方法，然后介绍了在“现役混凝土结构耐久性评估专家系统”1中集成应用框架、产生式、神经网络等多种知识表示方法的思路及解决方案，该系统的实际使用证明此法是可行和有效的。     

复杂控制系统智能化建模方法及其应用

本文针对自动控制系统中普遍存在的复杂性和不确定性,为弥补传统的基于微分方程、传递函数、状态方程的建模方法的不足,将人工智能思想引入自动控制系统的建模之中,提出了基于谓词形式的自动控制系统智能语言描述方法,采用这种方法,描述自动控制系统简单方便,不仅可以描述常规的控制方法,而且可以描述专家控制、模糊控制和基于神经网络的控制等各种智能控制方法,为分析复杂系统、研究智能控制系统提供了方便。