小数精确修约子程序 |
| |
作者姓名: | 赵其明 王淑珍 |
| |
作者单位: | 河北科技大学(中校区)(赵其明),河北省技术监督局(王淑珍) |
| |
摘 要: | 看了在今年第五期刊登的《小数修约子程序》一文后,笔者深受启发,但仔细研究该子程序,发现存在以下问题:门)保留位数后面数字为“499”时,累进连续修约。如程序中变量A值为“下如””,保留1位小数(N=10)时,程序运行结果为“76”,而正确结果应为“75(2)只考虑保留位数后面3位数字,当保留位数后面超过3位数字时,程序运行结果不尽正确。如程序中变量A值为“1.25001”,保留1位小数(N=10)时,程序运行结果为“1.2’,而正确结果应为“1丁’(3)不能确保显示保留位数。如程序中变量A值为“1.796”,保留2位小数(N=10…
|
关 键 词: | 小数 精确修约 子程序 测量精度 |
本文献已被 CNKI 维普 等数据库收录! |
|