您的位置:首页 > 编程语言 > C#

C# string类型转换为float精度问题

2013-04-26 14:36 483 查看
 使用float scoValue = float.Parse(scorestr); 的方法,在提交小数的时候会出现精度丢失问题,

如果是0.5则没有问题 数据库中也是0.5,但是提交其他小数像 0.2 0.6 就会出现问题,数据库中是

0.20000000298023224 0.60000002384185791 之类的数据,后来在网上查了一些资料,从它

们的数据定义才明白过来。

  float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)

  double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)

  decimal:数字型,128bit,28个有效位

  float 与计算机中数值表示方法有关,不是准确数据.

  decimal 是准确数据,不会出现这个问题

  基础掌握好才是王道啊!
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: