计算机标样应用程序对数据有效数字的处理 |
| |
引用本文: | 陈岗.计算机标样应用程序对数据有效数字的处理[J].山东冶金,1998,20(2):51-52. |
| |
作者姓名: | 陈岗 |
| |
作者单位: | 济南石油化工经济学校 |
| |
摘 要: | 标样测试的数据存在有效数字问题,当把带有小数点且末必为零的数据输入计算机时,计算机将丢失数据末尾的零,使数据的有效数字位数改变。在计算机处理数据时还存在有效数字的修约问题。本文介绍在标样应用程序中解决这两个问题的方法.
|
关 键 词: | 计算机程序 有效数字 数字修约 应用程序 |
The Treatment of Effective Number of Data in Computer Standard Sample Utilizing Process |
| |
Affiliation: | Jinan Economy School of Petrochemical Industry |
| |
Abstract: | |
| |
Keywords: | computer process effective number number reduction |
本文献已被 CNKI 维普 等数据库收录! |