您的位置:首页 > 其它

double类型精度问题

2010-06-24 17:20 225 查看
用double 数据类型进行计算,必须注意精度问题。 以例示之

例一:

public static void Main()
{
double d = 198d-188.1d;
Console.WriteLine(d);
}

输出结果: 9.90000000000001

例二:

public static void Main()
{
double d = 198.1d-188d;
Console.WriteLine(d);
}

输出结果:10.1

例三:

1 public static void RunSnippet() {
3 double d =198.2d-188.1d;
Console.WriteLine(d);
}

输出结果:10.1

例四:

1 public static void RunSnippet() {
3 double d =198.2d-188.3d;
Console.WriteLine(d);
}

输出结果:9.89999999999998

例五:

public static void RunSnippet()
{
double d =198.2d-180.3d;
Console.WriteLine(d);
}

输出结果:17.9
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: