首页 | 本学科首页   官方微博 | 高级检索  
     

任意精度计算浅谈——兼评1999年第10期擂台赛
作者姓名:罗光宣
作者单位:主持人
摘    要:计算机编程语言中典型的数据类型长度或精度都是有限的。 例如典型的C语言中整型变量类型有 Short int、int与long int,在IBM PC上长度分别为16、16与32位,表示数的范围分别为-32768至32767(-2~(15)至 2~(15)-1)、-32768至32767与-2147483648至214783647(-2~(31)至 2~(31)-1)。如果用作无符号整数,可表示数的范围相应调整为0至2~(16)1、0至2~(16)-1与0至2~(32)-1。

本文献已被 CNKI 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号