算术运算的溢出问题
2005-09-09 13:24
1001 查看
关于算术运算的溢出问题,曾经我也迷茫过,而且不知道为什么整型变量溢出后会是模运算的结果呢,以前还以为是不可以预测的,不过弄懂了原码、补码的概念后,就发现其实都是有规律可循的,如果你还不太清楚补码什么东西,建议先看看随笔『计算机中的原码、反码和补码』,弄清楚整型数据在计算机中是如何储存的。
在那篇文中,我们讲述了为什么我们把-1强制成无符号短整型输出后会得到65535,在这里我们不对它进行类型转换,我们只是超出它的范围看看。
还是定义一个2字节大小的短整型short int n;,学了前面的知识,我们知道这里n的范围是-32768~32767,而且通过前面知识我们也知道:
这里的-32768在计算机中特殊表示为10000000 00000000
0~32767是00000000 00000000~01111111 11111111
-1~-32767是11111111 11111111~10000000 00000001
当我们赋值n=32767,我们先n+1,超出它的范围,再输出n看看,结果是-32768,为什么?我们来分析一下,32767在内存中是以01111111 11111111储存的,我们对这个二进制码加1运算看看,结果是10000000 00000000,它表示的数是多少,哈哈,这不就是-32768吗?不甘心,也许是巧合呢,那我们再加1看看,结果是10000000 00000001,表示的是-32767,再多试几个也一样的。哦,原来不是巧合呀,正因为如此,所以我们就不用这么繁琐了,直接进行模运算就可以了!啊?什么是模运算?昏……模运算就是除整取余的运算。
下面我把书上的例子再拿出来给你讲你就明白了。
-------------------------------------------------------
在16位机器上进行下面的操作://为什么强调16位机器?因为16位机器上的int型的存储空间是2个字节
int weight=42896;
如果你把输出,在16位机器中将不能得到42896,而是-22640。因为有符号整数的表示范围是-32768~32767(共65536个数),所以它只能得到42896的补码-22640(42896-65536=-22640)。
一个整型类型的变量,用任何一个超过表示范围的整数初始化,得到的值为用该整数范围作模运算后的值。例如:
int weight=142896;
则当weight是2字节整型数时,得到值为11824。因为142896-2*65536=11824。为什么不是用142896-3*65536=-53712呢,因为weight的范围是-32768~32767,显而易见,-53712不在这个范围内。
-------------------------------------------------------
关于溢出,还有个强制转换时遇到的溢出问题,比如说我们把一个4字节的整型转换成2字节的短整型时就会遇到这个问题,如果要推算出显示结果,那就是知道数据在4字节整型中是怎么储存的,在2字节的短整型中又是如何储存的,而且还要弄清楚2字节在4字节中是怎么截取的,这些问题我们暂时就不讨论了,以后我再单另来说。
关于溢出我还要出一个单选题给大家做做:
-------------------------------------------------------
单选题:下列程序段中,不是死循环的是( )
(A) int i=100;
while(1)
{
i=i%10+1;
if(i>1000) break;
}
(B) int a=0;
do
{
++a;
}while(a>0)
(C) for(;;);
(D) m=12345;
while(m++%2+m%2) m++
在那篇文中,我们讲述了为什么我们把-1强制成无符号短整型输出后会得到65535,在这里我们不对它进行类型转换,我们只是超出它的范围看看。
还是定义一个2字节大小的短整型short int n;,学了前面的知识,我们知道这里n的范围是-32768~32767,而且通过前面知识我们也知道:
这里的-32768在计算机中特殊表示为10000000 00000000
0~32767是00000000 00000000~01111111 11111111
-1~-32767是11111111 11111111~10000000 00000001
当我们赋值n=32767,我们先n+1,超出它的范围,再输出n看看,结果是-32768,为什么?我们来分析一下,32767在内存中是以01111111 11111111储存的,我们对这个二进制码加1运算看看,结果是10000000 00000000,它表示的数是多少,哈哈,这不就是-32768吗?不甘心,也许是巧合呢,那我们再加1看看,结果是10000000 00000001,表示的是-32767,再多试几个也一样的。哦,原来不是巧合呀,正因为如此,所以我们就不用这么繁琐了,直接进行模运算就可以了!啊?什么是模运算?昏……模运算就是除整取余的运算。
下面我把书上的例子再拿出来给你讲你就明白了。
-------------------------------------------------------
在16位机器上进行下面的操作://为什么强调16位机器?因为16位机器上的int型的存储空间是2个字节
int weight=42896;
如果你把输出,在16位机器中将不能得到42896,而是-22640。因为有符号整数的表示范围是-32768~32767(共65536个数),所以它只能得到42896的补码-22640(42896-65536=-22640)。
一个整型类型的变量,用任何一个超过表示范围的整数初始化,得到的值为用该整数范围作模运算后的值。例如:
int weight=142896;
则当weight是2字节整型数时,得到值为11824。因为142896-2*65536=11824。为什么不是用142896-3*65536=-53712呢,因为weight的范围是-32768~32767,显而易见,-53712不在这个范围内。
-------------------------------------------------------
关于溢出,还有个强制转换时遇到的溢出问题,比如说我们把一个4字节的整型转换成2字节的短整型时就会遇到这个问题,如果要推算出显示结果,那就是知道数据在4字节整型中是怎么储存的,在2字节的短整型中又是如何储存的,而且还要弄清楚2字节在4字节中是怎么截取的,这些问题我们暂时就不讨论了,以后我再单另来说。
关于溢出我还要出一个单选题给大家做做:
-------------------------------------------------------
单选题:下列程序段中,不是死循环的是( )
(A) int i=100;
while(1)
{
i=i%10+1;
if(i>1000) break;
}
(B) int a=0;
do
{
++a;
}while(a>0)
(C) for(;;);
(D) m=12345;
while(m++%2+m%2) m++
相关文章推荐
- .NET算术运算溢出问题
- Microsoft.Net框架程序设计学习笔记(6):算术运算溢出处理checked与unchecked操作
- C++中有符号类型(int)和无符号类型(unsigned int)混合算术运算的类型转换会出现的问题
- p1-6.cpp: 测试整型数据输入输出 \ 算术运算 和 变量溢出
- C#发生算术运算中发生溢出或下溢的解决方案
- 【转】.net算术运算导致溢出
- 【Oracle】C# 执行SQL时算术运算导致溢出
- .Net中使用com组件后发生System.ArithmeticException异常的解决办法(Message=算术运算中发生溢出或下溢。)
- .NET算术运算溢出问题
- 判断C语言的算术运算越界问题
- javascript算术运算溢出
- 算术运算的溢出行为 and 一个数内存中表示1的个数
- Oracle C#的"算术运算导致溢出"错误
- [算法设计与分析]3.3.1算术运算的妙用(开灯问题+间隔数)
- vsto插件在64位Office的一个异常---算术运算溢出(IntPtr转int)
- 一次 Oracle 算出运算溢出问题 排查解决 (并非除数为零!)
- 关于表达式 运算溢出等问题
- javascript算术运算溢出
- 关于 js 算术运算时精度问题
- javascript算术运算溢出