您的位置：首页 > 数据库 > Oracle

ORACLE NUMBER类型Scale为0引发的问题

2015-04-14 23:55 281 查看
今天遇到了一个很有意思的NUMBER类型Scale引发的问题，我用一个简单的测试用例来展示一下这个案例。假如有个TEST的表，有个字段类型为NUMBER,我插入下面两条数据

CREATETABLETEST
(
CategoryVARCHAR(12),
QTYNUMBER
)
INSERTINTOTEST
SELECT'M',12FROMDUALUNIONALL
SELECT'C',0.99999999999999999FROMDUAL;
COMMIT;

此时直接查询表TEST，发现QTY字段值为1,



使用下面SQL语句统计时，SUM_QTY的值也是1



但是如果在游标里面获取该值的时候，你会发现字段QTY的值为原来的值.99999999999999999

DECLARECURSORc_test
IS
SELECTCategory,SUM(QTY)ASSUM_QTYFROMTEST
GROUPBYCategory;
c_rowc_test%rowtype;
begin
forc_rowinc_testloop
dbms_output.put_line('theresultis'||c_row.SUM_QTY);
endloop;
end;

theresultis.99999999999999999
theresultis12
为什么会有这个奇怪的现象呢？其实我们遇到这个案例时是按这个顺序反着的，最后发现是插入的值是0.999999999.当然这个过程是非常纠结的。远非我们例子里面那样轻松简单。要解释这个问题，要从NUMBER类型说起，NUMBER(p,s)声明一个定点数p(precision)为精度，s(scale)表示小数点右边的数字个数，精度最大值为38，scale的取值范围为-84到127。Number(p)表示声明一个整数相当于Number(p,0)，如果不指定p和s，NUMBER类型，它的默认精度值为38,默认的scale值为0.所以出现在SELECT语句中，一个值为.99999999999999999的显示为1，但是在游标中，它获取的是这个字段的真实值，没有经过转化。所以出现了这个稀奇古怪的问题。虽然事后理顺过后觉得非常简单，但是当时不了解情况下，觉得非常不可思议，非常纳闷！

另外附上定点数的精度(p)和刻度(s)遵循以下规则：
当一个数的整数部分的长度>p-s时，Oracle就会报错
当一个数的小数部分的长度>s时，Oracle就会舍入。
当s(scale)为负数时，Oracle就对小数点左边的s个数字进行舍入。
当s>p时,p表示小数点后第s位向左最多可以有多少位数字，如果大于p则Oracle报错，小数点后s位向右的数字被舍入
                                            

                                        

                        
                        内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 点击这里给我发消息 
                    

                    

                    

                        

                         标签： 
                                                

                        

                    


                

            


            

                
相关文章推荐

                

                
            

        

        

            

            
            

                

                    
新的分享

                    

                        
                    

                

            


            

                

                    
章节导航