小数精确修约子程序

看了在今年第五期刊登的《小数修约子程序》一文后，笔者深受启发，但仔细研究该子程序，发现存在以下问题：门）保留位数后面数字为“499”时，累进连续修约。如程序中变量A值为“下如””，保留1位小数（N＝10）时，程序运行结果为“76”，而正确结果应为“75（2）只考虑保留位数后面3位数字，当保留位数后面超过3位数字时，程序运行结果不尽正确。如程序中变量A值为“1．25001”，保留1位小数（N＝10）时，程序运行结果为“1．2’，而正确结果应为“1丁’（3）不能确保显示保留位数。如程序中变量A值为“1．796”，保留2位小数（N＝10…     

DT890B数字万用表检修二例

1．DT890B数字万用表小数点驱动故障检修。一块gr89（）万用表,在AC700V档位误测1500V交流高压,造成千位小数点常显,换档位不能正常消隐,但其余各位小数点驱动正常,功能也正常。开机发现700VAC档位量程开关有烧蚀斑痕,去除斑痕并清洗故障亦然。经参考有关资料与实物对照,小数点电路由CD4070中三个异或门组成。异或rJI、11、ill中的输入脚之②、⑤、③都为A／D转换电路的BP端,输入50HZ方波信号,它们另一端的输入脚通过IMfl下拉电阻接A／D芯片的TEST端,其电位为一1．7V左右,使不显示的小数点可靠消隐;当需要显示小数…     

四舍六入 遇五留神——谈数字舍入法则的应用

对于近似数，当有效数字位数确定后，其后面多余的数字应予舍去，而保留部分最后一位数字应按0．5误差原理进行凑整。通常使用的四舍五入法则虽也符合0．5误差原理，但由于它是见5就入，     

数字显示立式光学计

数字显示由于具有读数直观,不需估读小数,可以改善操作人员的劳动条件,可以连接打印机,提高工作效率等优点,越来越多地被用于精密仪器与机床上。为了逐步实现长度计量仪器的数字化,我们试制了一台数字显示立式光学计,最小显示值为0.1μm,显示位数:一位“+”、“-”号,三位数字,测量范围0.05mm,仪器示值不稳定性0.1μm,示值误差不大于±0.2μm,配用乌氏干涉仪的工作台与底坐,以及sy-3c型打印机,用于检定五等量块及精测。     

水表的水流量你能正确读数吗？

指针式计数器在计算水流量时必须确正计算。指针式计数器各指针的递增位数为十进位，红色指针表示不足1m^3以下的数字，黑色指针表示1m^3以上的数字，红色指针有三位制、两位制、一位制。     

正确使用数字万用表

正确使用数字万用表数字万用表具有准确度高、显示直观、性能稳定、过载能力强、便于携带等优点。但是，若使用或维护不当，也容易损坏，因此，要特别注意正确的使用方法：１．应认真阅读说明书，熟悉各种开关、功能键、插孔和旋钮的作用；了解各种显示符号；掌握小数点位...     

农产品标准中数字方面问题的探讨

标准中的数字问题是标准编写的重要内容之一.标准中给出数字的书写位数表示的精确程度,应能保证产品或其它标准化对象的应用性质和质量,从而它也规定了为检验实际产品或其它标准化对象而得到的测定值或计算值应具有的相应精确程度.为避免数值的不一致,要确定几位"有效数字",数值中除末位外,均为准确测出,仅末位是可疑数字,可疑数字以后是无意义数.数值给出时只能给到可疑位数,不能列入无意义数.给出的位数只能在方法的灵敏度以内,不应任意增加位数.当几个数字相加或相减时,应以各数中小数点后位数最少者为准.当几个数相乘除时,应以有效数字位数最少的那个数值,即相对误差最大的数据为准,弃去其余各数值中的过多位数,然后进行乘、除.有时也可以暂时多保留一位数,得到最后的结果后,再弃去多余的数字.根据这些要求,我们在执行国家有关农产品标准中有以下探讨之处.     

用Excel中VB功能实现检定结果的数据修约及应用分析

介绍使用Excel中VB功能实现计量检定结果按照所需要保留小数点后的位数进行正确的数字修约。及实例分析把自编函数和程序应用于玻璃量器、电导率仪、原子荧光光度计等计量检定(校准)结果的数据处理。     

CND-1超声波浓度仪简介──兼谈在线测量液体浓度的某些问题

在线测量液体的浓度、比重、皂化度等特性一直是轻工、化工行业能很好地解决的问题。我们研制的“CND-1超声波浓度仪”就是解决这些问题的一个新的尝试。 该仪器是运用超声技术,通过对液体介质的声学特性的测试而获得液体的浓度、比重的仪器。仪器由两部分组成,一为台式仪为数字显示,可显示待测液的浓度(或比重)(显示数达小数点后两位),可显示三只管道的声时(显示数达小数点后一位),还可显示器,另一为由三只测试管组成的测试系统或由测试箱组成的测试系统。测试系统可直接用于生产流程中进行在线测量。仪器功耗,视在功率不大于20VA。仪器…     

用标准PtRh30-PtRh6热电偶精密测量温度及其计算方法

随着冶金、陶瓷、建材等工业的发展,以及国防、科研的需要,300～1800℃温度的精密测量与计算,日益显示出重要意义。本文从用于这个温区的PtRh30-PtRh6热电偶的内插公式入手,新编PtRh30-PtRh6热电偶影响函数表。本文发表的影响函数表,除修正了同类影响函数表的某些错误数字外,并准确计算到小数点后七位数字,可供广大的标准PtRh30-PtRh6热电偶使用者,根据自已使用的标准PtRh30-PtRh6热电偶检定证书上e_1～e_5的数值,以及文中给出的内插公式,准确地计算出300～1800℃温区内,每隔50℃一点的热电势值。文末给出了某支Ⅱ等标准PtRh30-PtRh6热电偶精密测量与计算温度的实例。