decimal 小数点 位数 问题
2014-12-20 16:25
190 查看
decimal(p[,s]),其中p为精度,s为小数位数
p(精度)最多可以存储的十进制数字的总位数,包括小数点左边和右边的位数
s(小数位数)小数点右边可以存储的十进制数字的最大位数
1.在保证小数位且总位数不超过6时
declare @a decimal(6,3)
set @a=56.342689
print @a
得到
56.343
2.在保证小数位且总位数超过6时
declare @a decimal(6,3)
set @a=1156.345
print @a
就会报错
http://biancheng.dnbcw.info/mssql/118864.html
p(精度)最多可以存储的十进制数字的总位数,包括小数点左边和右边的位数
s(小数位数)小数点右边可以存储的十进制数字的最大位数
1.在保证小数位且总位数不超过6时
declare @a decimal(6,3)
set @a=56.342689
print @a
得到
56.343
2.在保证小数位且总位数超过6时
declare @a decimal(6,3)
set @a=1156.345
print @a
就会报错
http://biancheng.dnbcw.info/mssql/118864.html
相关文章推荐
- 控制DOUBLE,DECIMAL小数点的位数
- 解决Asp.net 程序在 IIS 5.1 上运行不支持转换Decimal类型小数点的问题
- java中double四舍五入并设置小数点位数的问题
- JS的toFixed方法设置小数点位数后再进行计算,数据出错问题
- 例4.10 POJ3525/LA3890离海最远的点 半平面交 + 二分法 + double小数点后有效位数处理方式/printf与g++、c++的问题
- 取小数点后位数的问题
- 项目问题反馈:对后台查询的结果列表进行处理:计算平均值,改变小数点位数
- java中double四舍五入并设置小数点位数的问题
- word2003邮件合并后保留小数点位数问题
- java中double四舍五入并设置小数点位数的问题
- java中double类型数组保留小数点后位数问题!!!!!
- double类型显示问题 设置显示小数点位数
- java中double四舍五入并设置小数点位数的问题
- 控制DOUBLE,DECIMAL小数点的位数
- java中double类型数组保留小数点后位数问题!!!!!
- 小数点和有效位数的问题
- decimal模块 --数字的精度、保留小数位数、取整问题
- java中double四舍五入并设置小数点位数的问题
- java中小数点位数问题
- C# double小数点位数保留问题