计算方法的选择

使用电子数字计算机解数学问题时要考虑到这种计算工具的一系列特点,其中主要的有如下几点。 1.表示一个数的位数很多(计算机就是对这些数进行算术运算的)在浮点计算机上数是用固定位数的有效位表示的,换言之具有相同的最大相对误差。在定点计算机上小数点后有相同的位数,换言之具有相同的最大绝对误差。