首页 | 本学科首页   官方微博 | 高级检索  
     

计算机标样应用程序对数据有效数字的处理
引用本文:陈岗.计算机标样应用程序对数据有效数字的处理[J].山东冶金,1998,20(2):51-52.
作者姓名:陈岗
作者单位:济南石油化工经济学校
摘    要:标样测试的数据存在有效数字问题,当把带有小数点且末必为零的数据输入计算机时,计算机将丢失数据末尾的零,使数据的有效数字位数改变。在计算机处理数据时还存在有效数字的修约问题。本文介绍在标样应用程序中解决这两个问题的方法.

关 键 词:计算机程序  有效数字  数字修约  应用程序

The Treatment of Effective Number of Data in Computer Standard Sample Utilizing Process
Affiliation:Jinan Economy School of Petrochemical Industry
Abstract:
Keywords:computer process  effective number  number reduction
本文献已被 CNKI 维普 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号