使用Decimal类型格式化数据
2011-10-12 16:37
274 查看
1、int 或 float 类型转为Decimal类型的时候注意Decimal的长度,
将int型转为Decimal型
输出:10.00;
如果将100赋值给变量@a
执行后会报错:
消息 8115,级别 16,状态 8,第 4 行
将 int 转换为数据类型 numeric 时出现算术溢出错误。
因为Decimal(4,2)只有两个整数位,而100是3位整数,因此会产生溢出。
结论: 将值赋给Decima(m, n)l类型是,值的整数部分的位数不能大于定义的Decimal(m, n)的整数位m-n;
输出: 10.10
输出: 10.00
输出: 10.01
结论:将值赋给Decima(m, n)l类型是,值的小数部分的位数只会保留n位,且按n+1位四舍五入
将int型转为Decimal型
declare @a int set @a = 100 select CONVERT(decimal(4,2), @a)
输出:10.00;
如果将100赋值给变量@a
declare @a int set @a = 100 select CONVERT(decimal(4,2), @a)
执行后会报错:
消息 8115,级别 16,状态 8,第 4 行
将 int 转换为数据类型 numeric 时出现算术溢出错误。
因为Decimal(4,2)只有两个整数位,而100是3位整数,因此会产生溢出。
结论: 将值赋给Decima(m, n)l类型是,值的整数部分的位数不能大于定义的Decimal(m, n)的整数位m-n;
declare @b float set @b = 10.1 select CONVERT(decimal(4, 2), @b)
输出: 10.10
declare @b float set @b = 10.001 select CONVERT(decimal(4, 2), @b)
输出: 10.00
declare @b float set @b = 10.007 select CONVERT(decimal(4, 2), @b)
输出: 10.01
结论:将值赋给Decima(m, n)l类型是,值的小数部分的位数只会保留n位,且按n+1位四舍五入
相关文章推荐
- c++ 格式化中使用的数据类型 收藏
- JSP:使用spring框架直接返回一个bean类到jsp中,bean类有个数据类型是Timestamp,在前端jsp中格式化
- 使用 decimal、float ,numeric,money和 real 数据类型
- c++ 格式化中使用的数据类型
- 使用注解格式化date类型的数据
- 使用Newtonsoft.json 解决 Asp.Net MVC DateTime类型数据Json格式化问题
- MongoDB在Windows下安装、Shell客户端的使用、Bson扩充的数据类型、MongoVUE可视化工具安装和简单使用、Robomongo可视化工具(2)
- ruby on rails 使用text存储hash类型的数据 Use text filed to store the hash map
- 使用豆瓣书籍API获取json类型的数据
- 在MyBatis的select、insert、update、delete这些元素中都提到了parameterType这个属性。MyBatis现在可以使用的parameterType有基本数据类型和Ja
- SQLserver 中 Text 数据类型 在 EntityFramework 中使用注意
- SpringMVC数据类型转换—— 注解式控制器的数据验证、类型转换及格式化
- thrift中使用list数据类型传输大数据瓶颈及解决方案
- redis 五种数据类型的使用场景
- DECIMAL数据类型更改--MySql数据库
- MySQL decimal、numeric 和double数据类型
- sql server2000中使用convert来取得datetime数据类型样式
- 常用数据类型使用转换详解
- PL/SQL_使用复合数据类型3(多级集合)
- 使用Navicat Premium将Oracle数据库中的表和数据迁移到MySQL数据库中,遇到的Date类型出现精度问题及解决方法