float精度和数值范围
2011-03-07 12:31
190 查看
float：一般的编译器为其分配的内存为4个字节，内存表示形式：符号为（1位）阶码（8位有符号整型数）尾数（23位）
精度：有效数字或者说小数点之后的位数为23位，2^(-23)=0.0000001，所以精度为6～7位，数值范围为1+1=2
数值范围：8位阶码可表示的有符号整数大小为-128～127，2^127=1.7*10^38，而尾数部分的数值范围为-2.0～2.0，由此可得出float数值范围为-3.4e38~3.4e38
精度：有效数字或者说小数点之后的位数为23位，2^(-23)=0.0000001，所以精度为6～7位，数值范围为1+1=2
数值范围：8位阶码可表示的有符号整数大小为-128～127，2^127=1.7*10^38，而尾数部分的数值范围为-2.0～2.0，由此可得出float数值范围为-3.4e38~3.4e38
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- float的数值范围与小数位精度
- C语言中关于float、double、long double精度及数值范围理解
- C语言中关于float、double、long double精度及数值范围理解
- java数值范围以及float与double精度丢失问题
- C语言中关于float、double、long double精度及数值范围理解
- 解决java数值范围以及float与double精度丢失的问题
- C语言中关于float、double、long double精度及数值范围理解
- Java 浮点数 float和double类型的表示范围和精度
- float与double的范围和精度
- float和double的范围和精度
- float与double的范围和精度
- float与double类型的内存分布，精度和范围
- float与double的范围和精度
- float与double的范围和精度
- float与double的范围和精度
- float，double等表示的数值范围的计算
- float与double的范围和精度 转载
- float 和 double 范围和精度
- float与double的范围和精度
- 各类数据的精度、数值范围和在内存中所占的字节数。