double类型精度问题
2010-06-24 17:20
225 查看
用double 数据类型进行计算,必须注意精度问题。 以例示之
例一:
public static void Main()
{
double d = 198d-188.1d;
Console.WriteLine(d);
}
输出结果: 9.90000000000001
例二:
public static void Main()
{
double d = 198.1d-188d;
Console.WriteLine(d);
}
输出结果:10.1
例三:
1 public static void RunSnippet() {
3 double d =198.2d-188.1d;
Console.WriteLine(d);
}
输出结果:10.1
例四:
1 public static void RunSnippet() {
3 double d =198.2d-188.3d;
Console.WriteLine(d);
}
输出结果:9.89999999999998
例五:
public static void RunSnippet()
{
double d =198.2d-180.3d;
Console.WriteLine(d);
}
输出结果:17.9
例一:
public static void Main()
{
double d = 198d-188.1d;
Console.WriteLine(d);
}
输出结果: 9.90000000000001
例二:
public static void Main()
{
double d = 198.1d-188d;
Console.WriteLine(d);
}
输出结果:10.1
例三:
1 public static void RunSnippet() {
3 double d =198.2d-188.1d;
Console.WriteLine(d);
}
输出结果:10.1
例四:
1 public static void RunSnippet() {
3 double d =198.2d-188.3d;
Console.WriteLine(d);
}
输出结果:9.89999999999998
例五:
public static void RunSnippet()
{
double d =198.2d-180.3d;
Console.WriteLine(d);
}
输出结果:17.9
相关文章推荐
- java中Double类型的运算精度丢失的问题 (小数点多出99999999999999)
- 关于java中Double类型的运算精度问题
- double类型计算精度确实问题
- 关于java中Double类型的运算精度问题(转)
- double类型相加精度问题解决
- java double类型精度问题解决
- double类型的精度问题【计算时有误差】。 (0.1 * 0.1 , 1.0 - 0.9)
- 关于java中Double类型的运算精度问题
- float及double类型减法运算时精度丢失问题
- 关于BigDecimal 和 double 类型保存金钱,以及精度问题,银行家舍入法
- double数据类型运算精度丢失问题
- iOS double类型精度问题以及计算问题
- 关于java中Double类型的运算精度问题
- 记录Java Double类型的数值相加/相减出现精度误差的问题
- Java中double数据类型计算会损失精度问题
- 关于java中Double类型的运算精度问题
- java中Double类型的运算精度问题
- double 类型运算会出现精度问题
- 关于java中Double类型的运算精度问题
- double类型问题(精度丢失和自动拆箱)