小数精确修约子程序

看了在今年第五期刊登的《小数修约子程序》一文后，笔者深受启发，但仔细研究该子程序，发现存在以下问题：门）保留位数后面数字为“499”时，累进连续修约。如程序中变量A值为“下如””，保留1位小数（N＝10）时，程序运行结果为“76”，而正确结果应为“75（2）只考虑保留位数后面3位数字，当保留位数后面超过3位数字时，程序运行结果不尽正确。如程序中变量A值为“1．25001”，保留1位小数（N＝10）时，程序运行结果为“1．2’，而正确结果应为“1丁’（3）不能确保显示保留位数。如程序中变量A值为“1．796”，保留2位小数（N＝10…     

余数法数值修约

国家标准GB/T8170-2008《数值修约规则与极限数值的表示和判定》,对数值修约作出了规定。笔者在此介绍一种利用余数进行数值修约的方法,供大家参考。我们可以称拟修约数减去其包含的修约间隔整数倍的最大数(以下简称最大数)后的数为余数,然后根据余数的情况进行数值修约,负数的修约按对应的正数修约方法进行修约后加负号。1.如果余数大于修约间隔的半数,则修约数为最     

介绍一种修约间隔为5时的简易修约方法

在金属拉伸等试验中,测定的性能数值一般是通过测量和运算而得到。由于计算的特点,这一类数值可能出现多位或无穷多位数字,但这些数字并不是都具有实际意义。在表达或书写这些数字时,只能根据实际需要和测试方法所能达到的精度,写出有限多位数,这就需要对数值进行修约处理。 按照国标GB228—87中对测定性能数值的修约间隔的规定,很多常用金属材料,在拉伸试验时,测试到σ_P、σ_s和σ_b等性能的数值在修约间隔为5的范围内(>200～1000N/mm~2)对其进行修约时,需先将被修约的数值乘以2,再将其积按有关修约法则修约到10单位,最后还要除以2。显然,照这样进行修约,比较烦琐,效率低。为了克服这些不足,本文就介绍一种修约间隔为5时的简易修约方法。     

数值修约方法的探讨

本对现有的数值修给方法进行了分析，并介绍了笔提出的较为简单明了数值修约的图解分析法。     

压力表检定中的数值修约

本文通过对压力表检定规程、数据修约规则以及压力表型号的研究,探讨了在压力表检定过程中出现的数据修约问题,并对特殊情况进行了分析.     

数值修约导致的不确定度

1数值与修约量的数值简称数值,即在量值的表示中与单位相乘的值.当单位为1时,量值就是数值,形式上没有区别.修约按所规定的规则(参见GB 3101-1993《有关量、单位和符号的一般原则》的附录)进行,但对与测量结果所一起报告的不确定度,在修约成为一或两位有效数时,JJF 1059 8.13节有特别的规定,即可不按GB 3101的规则而是只进位而不是舍去,这只是针对所报告的不确定度的特殊处理方式,本文不讨论这种修约而是GB 3101所规定的原则.     

数值修约导致的不确定度

1数值与修约量的数值简称数值,即在量值的表示中与单位相乘的值。当单位为1时,量值就是数值,形式上没有区别。修约按所规定的规则（参见GB 3101—1993《有关量、单位和符号的一般原则》的附录）进行,但对与测量结果所一起报告的不确定度,在修约成为一或两位有效数时,JJF 1059 8.13节有特别的规定,     

从数值修约规则看其科学内涵

一、引言数据处理是计量检定、质量检测过程中的重要环节。所谓数据处理是指从获得的数据得出结果的加工过程,包括记录、整理、计算、分析等处理方法。恰当地处理测量所得的数据,可以最大限度地减少测量误差的影响,给出一个尽可能精确的结果。     

金属材料抗拉强度数值修约要求和适用范围

抗拉强度如何进行数值修约直接影响测试结果,在介绍国标(GB)、航标(HB)和美标(ASTM)对抗拉强度数值修约规定的基础上,通过分析同一组抗拉强度原始试验数据按不同标准进行数值修约结果的差异性,给出了不同标准规定的数值修约方法的适用范围。结果表明:按不同标准修约得到的结果差异较大,需按照所依据的抗拉强度检测标准中规定的修约规则进行修约。     

技术标准中的有效数值和数字修约问题

编写标准时有关数值的书写规则,在GB1.1-81中已有明确规定。但有的编写人员由于对它的重要性认识不足或基本概念未能十分弄清,因而书写时往往与规定的原则不符。要熟记GB1,1-81有关规定,这里不再赘述。 下面就数值小数点后的位数,数字修约规则,有效数字位数的确定及计算法则,分述如下。     

标准编写中数值修约规则的应用

标准或技术规范的编写中经常要用到大量数据,这些数据是在科学技术与生产活动中通过测试或计算得出的。通过测试或计算得出的数值一般都包含多位数字,由于测量与计算都可能存在误差,因此不是每一位数字都是可靠的,这就需要进行数值修约。数值修约就是通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的近似值尽可能接近原数值的过程。     

2、5修约间隔的简便修约方法

根据测量、计算的目的和要求，要对数据进行数值修约。即保留数值的有效位数，截去多余位数。数值修约内容包括三个部分，即修约间隔、有效位数、取舍规则。修约间隔即有效数字最末一位数值或单位，是相邻两个有效数值之差。它是数值修约先决条件，只有修约间隔确定后才可进行下面的有效位数和数字处理。修约间隔有1、2、5三种，常用的是1间隔。     

对模拟式仪表数据的估读和修约

现在往往还存在好多对模拟式仪表的检定与校准,如何确保模拟式仪表量值的准确可靠?这就涉及到测量过程中正确对模拟式仪表进行估读以及对估读后的数据进行合理、有效的修约.     

数字修约“四舍五入规则”的舍入误差

本文给出了“四舍五入规则”的舍入误差δ的取值范围、分布密度函数及数学期望，从而证明了其合理性。     

数值修约规则在电线电缆标准中的应用与比较

电线电缆品种多、规格多、标准多。电线电缆产品标准和试验方法标准的多项性能要求,经试验测定、数据计算,有两种评定方法：全数值比较法和数值修约比较法。     

Excel在金属材料室温拉伸试验数值修约中的应用

针对金属材料室温拉伸试验数值修约的问题,依据GB/T 8170—2008数据修约规则介绍了两种利用Excel软件中的自定义函数功能对室温拉伸试验数值进行数值修约的方法。即在Excel软件中先通过Visual Basic编辑器创建1间隔修约自定义函数实现1间隔修约,再根据数据修约规则中0.5间隔修约方法运用1间隔修约自定义函数实现0.05,0.5,5和10间隔修约;或利用Excel中VisualBasic编辑器直接创建0.05,0.5,1,5和10间隔修约自定义函数,来实现试验数值按规定间隔的修约。结果表明:这两种方法都很简便易行,且都可实现快速对金属材料室温拉伸试验数值进行0.05,0.5,1,5和10间隔修约;同时,这两种方法也可用于其他检测数值的修约。     

数字修约"四舍五入规则"的合入误差

本文给出了"四舍五人规则"的舍入误差8的取值范围、分布密度函数及数学期望,从而证明了其合理性.     

测量数值修约化整程序的编制方法及使用

在计量检测数据处理过程中,由于近似值的引入、无理数的参与以及对数据有效位数的不同要求,要对中间数据或最终计算结果进行相应的数值修约化整,测量工作才有意义。我院在近年的计量检测实践中,编制了一种符合GB/T8170-2008《数值修约规则与极限数值的表示和判定》和各计量专业检定规程要求的数值修约通用程序函数模块,取得了很好的效果。为了使广大计量科技工作者能全面准确地了解并能