为什么浮点数一定是有误差的
2017-08-25 22:40
281 查看
前提: 学习过信号处理,了解到在信号处理中,我们能够处理的都是数字信号,绝对不是模拟信号。数字信号是离散信号,模拟信号是连续信号。在这一思想基础下,思考了为什么会存在浮点数误差问题。
但是,浮点数这边就一定会出现问题,问题的实质“模数转换”,浮点数是实数,浮点数必须是采样得到的,我们无法将模拟信号在计算机中完全表达。就是因为模拟信号是连续的,而数字信号是离散的。我们必须考虑“模数转换”的精度,这个问题是必须面对的。采样周期的大小就是精度。
[b](1 )特殊的浮点表示[/b]
浮点 0
0x00000000 = 00000000 00000000 00000000 00000000
浮点 -0
0x80000000 = 10000000 00000000 00000000 00000000
二进制 0x7F800000 = 01111111 10000000 00000000 00000000
浮点 infinity
二进制 0xFF800000 = 11111111 10000000 00000000 00000000
浮点 -infinity
二进制 0x7F800001 = 01111111 10000000 00000000 00000001
浮点 NaN (Not a Number)
(2) 普通的浮点数
浮点 0.5
0x3F000000 = 00111111 00000000 00000000 00000000
浮点 -0.5
0xBF000000 = 10111111 00000000 00000000 00000000
浮点 0.75
0x3F400000 = 00111111 01000000 00000000 00000000
浮点 -0.75
0xBF400000 = 10111111 01000000 00000000 00000000
http://www.binaryconvert.com/result_float.html?decimal=048046055053 浮点和二进制互转网站,很不错。
By Jack Lu 2017-8-25 22:40:06
为什么不讨论int整型会不会有误差而浮点数一定要考虑误差问题呢?
就是因为,本质上我们面对int整型时候,想要处理的数据就是整数,而整数本身就是离散的数据,…… -2,-1,0,1,2 …… ,计算机提供就是完全正确的所有整数,所以不存在问题。但是,浮点数这边就一定会出现问题,问题的实质“模数转换”,浮点数是实数,浮点数必须是采样得到的,我们无法将模拟信号在计算机中完全表达。就是因为模拟信号是连续的,而数字信号是离散的。我们必须考虑“模数转换”的精度,这个问题是必须面对的。采样周期的大小就是精度。
计算机中存放着的一个浮点数值,可以看作是对实数域的一个采样点。
下面给出4张图,以体现不同的采样周期,方便意会。我对二进制数的一个方面的观点
浮点数简记
阶码表示范围是1-254,减去偏移量127就是-126到127。当阶码为0或255时有特殊用途。阶码为0,表示浮点数为0值;阶码为255,若尾数全0,表示无穷大,否则表示无效数字。根据符号位,还可以分为正负无穷和正负0。[b](1 )特殊的浮点表示[/b]
浮点 0
0x00000000 = 00000000 00000000 00000000 00000000
浮点 -0
0x80000000 = 10000000 00000000 00000000 00000000
二进制 0x7F800000 = 01111111 10000000 00000000 00000000
浮点 infinity
二进制 0xFF800000 = 11111111 10000000 00000000 00000000
浮点 -infinity
二进制 0x7F800001 = 01111111 10000000 00000000 00000001
浮点 NaN (Not a Number)
(2) 普通的浮点数
浮点 0.5
0x3F000000 = 00111111 00000000 00000000 00000000
浮点 -0.5
0xBF000000 = 10111111 00000000 00000000 00000000
浮点 0.75
0x3F400000 = 00111111 01000000 00000000 00000000
浮点 -0.75
0xBF400000 = 10111111 01000000 00000000 00000000
http://www.binaryconvert.com/result_float.html?decimal=048046055053 浮点和二进制互转网站,很不错。
By Jack Lu 2017-8-25 22:40:06
相关文章推荐
- 论:为什么浮点数的运算会有误差
- 浮点运算结果为什么会出现误差
- 根本理解计算机中的小数为什么有误差
- UFLDL教程ICA为什么一定做PCA白化
- 为什么hadoop一定是分布式的未来
- 上淘宝买衣服,我一定要买销量最差,为什么?
- 【JAVA】在线程里使用线程外的变量为什么一定要是final类型
- Java浮点数为什么精度会丢失
- 小数在计算机中为什么会有误差?说明机器数、码制、浮点数、以及数制转换的一些问题
- MAIN方法为什么一定是static型的
- 浮点数为什么不能直接和0相比的小测试
- 为什么服务器一定放去机房托管?
- 判断链表是否有环为什么快慢指针一定会相遇
- 为什么Hadoop将一定会是分布式计算的未来?
- 女人为什么喜欢抱着男人睡觉,一定…
- Java300StudyNote(12)-Java浮点数以及浮点数误差问题、BigInteger、BigDecimal、float与long谁更大
- IO流操作中创建的流对象为什么一定close?
- 图解数组指针与多维数组(附:为什么指针加一,地址不一定加一)
- 为什么有导师的基于梯度下降的机器学习喜欢用欧氏距离来度量误差
- 【数学相关】:连续的定义以及为什么连续不一定可导