介绍一种计算机计算有效数字取值方法——对数转化法

在各类科学计算中,对各有关物理量的有效数字的取值均有一定的要求和规定(例如水文上对洪水量要求取三位有效数字)。而机器所算出来的这些物理量的初始数位又往往多寡悬殊,千差万别。如果要按规定要求取位,在变化一个数位时,就得设置一句取位的条件程序语句。位数量级变幅越大,这种条件语句就越多,占机器内存也越多,而且容易出错. 现笔者根据工作中的经验所获,介绍一种有效数字取值方法——对数转化法。