浮点数的存储方法—使用分数
2012-05-08 09:53
197 查看
浮点数如果使用一个数据存储单元来表示例如float,在一次或多次计算后进行四舍五入会有精度丢失,假如使用两个存储单元(例如两个整数)来表示则可以避免这一情况,把一个浮点数表示为一个等价的分数,分别用这两个整数来表示分子和分母,运算时用这两个整数参与,不会导致精度丢失。可能数据溢出的概率会增大,这可以在具体业务中选择较大的数据类型来解决,比如选择64位整数。例如有个运算过程是1除以3,如果选用一个浮点类型保存,即为0.333333333333,总有一些位数要舍掉,而用两个整数保存,即可存储为1、3,不会有精度丢失。
相关文章推荐
- SVN使用hook代码同步总是提示需要存储密码的解决方法
- 【玩转云存储】对象存储OSS使用方法入门
- 关于存储过程中一个参数表示多个查询条件使用方法的简单处理
- 答:SQLServer DBA 三十问之一: char、varchar、nvarchar之间的区别(包括用途和空间占用);xml类型查找某个节点的数据有哪些方法,哪个效率高;使用存储 过程和使用T-SQL查询数据有啥不一样;
- android数据库存储方法(一)---------------SharedPreferences(实例)记录应用程序使用次数(一)
- PHP中使用memcache存储session的三种配置方法
- 【玩转云存储】对象存储OSS使用方法入门
- Android应用开发SharedPreferences存储数据的使用方法
- SQLServer------存储过程在C#中的使用方法
- Android应用开发SharedPreferences存储数据的使用方法
- Android开发-Sharedpreferences-存储数据使用方法-完整Demo-AndroidStudio
- JAVA使用XML作为持久存储介质实现方法
- 如何使用集合的方法利用存储过程的结果集
- 使用hashmap存储对象 并获取元素 祛除重复元素需要在类对象中重写hashcode和equal方法哦
- php使用 memcache 来存储 session 方法总结
- 当应用继承ContentProvider类,并重写该类用于提供数据和存储数据的方法,就可以向其他应用共享其数据。 虽然使用其他方法也可以对外共享数
- Android学习笔记:数据库----持久化存储技术SQLite的基本使用方法
- Android应用开发SharedPreferences存储数据的使用方法
- 新手在应用程序中高效的使用存储过程方法
- 开源路由软件zebra的命令存储原理及使用方法