您的位置:首页 > 其它

浮点数的存储方法—使用分数

2012-05-08 09:53 197 查看
浮点数如果使用一个数据存储单元来表示例如float,在一次或多次计算后进行四舍五入会有精度丢失,假如使用两个存储单元(例如两个整数)来表示则可以避免这一情况,把一个浮点数表示为一个等价的分数,分别用这两个整数来表示分子和分母,运算时用这两个整数参与,不会导致精度丢失。可能数据溢出的概率会增大,这可以在具体业务中选择较大的数据类型来解决,比如选择64位整数。例如有个运算过程是1除以3,如果选用一个浮点类型保存,即为0.333333333333,总有一些位数要舍掉,而用两个整数保存,即可存储为1、3,不会有精度丢失。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  存储 float
相关文章推荐