任意精度计算浅谈——兼评1999年第10期擂台赛 |
| |
作者姓名: | 罗光宣 |
| |
作者单位: | 主持人 |
| |
摘 要: | 计算机编程语言中典型的数据类型长度或精度都是有限的。 例如典型的C语言中整型变量类型有 Short int、int与long int,在IBM PC上长度分别为16、16与32位,表示数的范围分别为-32768至32767(-2~(15)至 2~(15)-1)、-32768至32767与-2147483648至214783647(-2~(31)至 2~(31)-1)。如果用作无符号整数,可表示数的范围相应调整为0至2~(16)1、0至2~(16)-1与0至2~(32)-1。
|
本文献已被 CNKI 等数据库收录! |
|