Teradata中四舍五入规则
2010-09-29 15:21
106 查看
Teradata中四舍五入规则与标准规则的差异
收藏
问题:Teradata中四舍五入规则和标准规则有差异?如下例:select cast('1212.705' as decimal(18,2))
--1212.70
select cast('1212.715' as decimal(18,2))
--1212.72
解答:Teradata中四舍五入的规则由DBSCONTROL下的参数 RoundHalfwayMagUp 决定,默认
RoundHalfwayMagUp =
FALSE,此时按Teradata的规则进行进位,Teradata的规则考虑到5是个中间值,都进位则概率不平均,如果取决于前一位的奇偶,则进位的
5和舍掉的5是平均的,根据这个原则,Teradata的四舍五入规则为:当5后面有1位不为0时,则进位,当5后面位都为0或者没有其他位时根据5前面
一位的奇偶,奇进偶不进,下面是一些例子:
select cast('1212.705' as decimal(18,2))
--1212.70
select cast('1212.715' as decimal(18,2))
--1212.72
select cast('1212.7051' as decimal(18,2))
--1212.71
select cast('1212.7052' as decimal(18,2))
--1212.71
select cast('1212.70500' as decimal(18,2))
--1212.70
select cast('1212.705001' as decimal(18,2))
--1212.71
设置RoundHalfwayMagUp = true,(设置成功需要重启数据库才能生效)则按标准的四舍五入进行取舍,如下例:
select cast('1212.705' as decimal(18,2))
--1212.71
select cast('1212.715' as decimal(18,2))
--1212.72
select cast('1212.7051' as decimal(18,2))
--1212.71
select cast('1212.7052' as decimal(18,2))
--1212.71
select cast('1212.70500' as decimal(18,2))
--1212.71
select cast('1212.705001' as decimal(18,2))
--1212.71
解決方案
/Adding a 0.000000001 to make teradata do the RoundHalfwayMagUp/ CAST(COLX + 0.000000001 AS DECIMAL (6,2)) AS COLY
相关文章推荐
- Teradata中四舍五入规则与标准规则的差异
- Teradata中四舍五入规则与标准规则的差异
- Teradata中的四舍五入问题
- round函数四舍五入的规则(4舍6入5奇进偶不进)
- ios %.2f是四舍五入吗?你真的了解ios四舍五入的规则吗?
- 编写Java程序的三十个基本规则
- android PorterDuffXfermode ,PorterDuff.Mode 使用 以及Porter-Duff规则详解
- 判断一个坐标点是否在不规则多边形内部的算法
- findbugs规则
- jQuery Validate插件自定义验证规则的方法
- validation校验规则
- ax 默认控件排列规则
- yahoo前端优化34条规则——内容篇
- sql语句的规则
- 条形码的编码规则
- GridView实现某列中相同值合并(不规则表),类似Execl中效果
- 常用的 iptables 配置规则
- 通信编码一些规则
- WCE+ARM+TCPMP VS2005之旅:ASM编译添加规则的方法
- c#常用命名规则 c++等可以借鉴