排序方式: 共有3条查询结果,搜索用时 171 毫秒
1
1.
针对物理实验数据的自动处理,提出一种位数随机的有效数字自动运算算法,包括有效数字运算结果的科学记数表示算法、有效位数的取舍算法、数据表示形武的转换算法以及不同位数有效数字的运算算法.对有效数字多项式的自动运算实验结果表明,该算法符合运算优先级的要求,运算结果符合有效数字的取舍原则,算法运算的结果与人工运算的结果完全相同,算法满足位数随机的物理实验数据的自动处理要求. 相似文献
2.
3.
提出基于误差位和小数位的乘积有效数字自动提取方法。该方法由相乘数据的有效位数决定乘积的误差位数,再由乘积的总位数与其误差位数求出乘积的有效位数,进而提取其有效数字。考虑到乘积在计算机中溢出和非溢出两种情况,采用乘积的整数位数和小数位数来计算乘积的总位数,乘积的小数位数由相乘数据的小数位数求出,乘积的整数位数通过计数的方法得到。理论分析表明,在任意情况下,两个有效数字相乘,其积的误差位数与两数中位数较大的有效数字位数相同。实验结果表明,有效数字提取算法能对计算机存储范围内的乘积有效数字进行正确、完整、有效地提取,且满足大学物理实验数据自动处理的要求。 相似文献
1