单精度的浮点数的精度
2013-04-10 14:47
204 查看
单精度浮点数(float)在c语言中用32位字节来存储,其中1位存符号位,8位存指数位,23位存尾数位(一个小数),尾数的长短决定了此数的精度,23*log10 2 ≈7.2,所以我们用单精度浮点数可以保证7位10进制精度。
相关文章推荐
- 在Java中如何确定浮点数的精度,例如按要求确定小数点后面的数字个数
- 控制浮点数的精度
- [置顶] 浮点数精度问题
- Solidity根据精度来表示浮点数
- 浮点数的精度
- 由浮点数的精度问题引出设计问题
- 关于浮点数的精度与取值范围的问题
- Java浮点数丢失精度原因阐述 - Java 编程 - 编程开发
- 浮点数(谁偷了你的精度?)
- 浮点数(float)和双精度(double)截断问题
- 关于编程练习6.2出现错误的解决——浮点数的精度
- 如何处理浮点数(float, double)的精度问题
- 设置浮点数的显示精度&precision(0)
- 剖析js对浮点数运算精度问题
- MYSQL浮点数float精度问题
- 浮点数使用之精度舍入问题
- 浮点数的表示和精度
- JS的浮点数计算精度丢失问题解决方案
- JAVA浮点数计算精度损失底层原理与解决方案
- C和Java中如何控制浮点数的精度输出