C# string类型转换为float精度问题
2013-04-26 14:36
483 查看
使用float scoValue = float.Parse(scorestr); 的方法,在提交小数的时候会出现精度丢失问题,
如果是0.5则没有问题 数据库中也是0.5,但是提交其他小数像 0.2 0.6 就会出现问题,数据库中是
0.20000000298023224 0.60000002384185791 之类的数据,后来在网上查了一些资料,从它
们的数据定义才明白过来。
float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)
double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)
decimal:数字型,128bit,28个有效位
float 与计算机中数值表示方法有关,不是准确数据.
decimal 是准确数据,不会出现这个问题
基础掌握好才是王道啊!
如果是0.5则没有问题 数据库中也是0.5,但是提交其他小数像 0.2 0.6 就会出现问题,数据库中是
0.20000000298023224 0.60000002384185791 之类的数据,后来在网上查了一些资料,从它
们的数据定义才明白过来。
float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)
double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)
decimal:数字型,128bit,28个有效位
float 与计算机中数值表示方法有关,不是准确数据.
decimal 是准确数据,不会出现这个问题
基础掌握好才是王道啊!
相关文章推荐
- NSString 转换 float 的精度问题, 换double类型可以解决
- c# 类型转换string To float
- C# string类型转换为float精度问题
- C++、C中有关double、float类型转换成int型,及取整,丢失精度问题。
- JSP中强制类型的转换(String、Int、byte、float的转换 )
- c# .net 如何把byte类型仅仅转换成string而不改变其内容
- C# byte[]类型和String类型相互转换
- JAVA基本数据类型范围和float、double精度问题
- C#调用C++版本dll时的类型转换需要注意的问题小结
- C#中有关string和byte[]转换的问题
- c#中的关于string的转换的问题
- 转:C#中有关string和byte[]转换的问题
- int、double、boolean、char、float、long、Object等七种数据类型转换成String数据类型 用到的方法是String.valueOf();
- 【C#】中Decimal类型转换的问题
- C#中将string类型转换为double类型
- java中String、Long、Double等类型转换问题
- C#写一般处理程序遇到的一个String和int转换的问题
- string与float之间转换、精度
- Android String类型转换为float、double和int的工具类
- C#枚举 枚举和int以及string类型之间的转换 结构 重载 全局变量