当前位置:编程学习 > C#/ASP.NET >>

c# vb 程序中怪异的double类型数据数学运算结果

在c#中运行如下程序:
static void Main(string[] args)
        {

            double a = 218.89;
            double b = 118.89;
            double c = 100.0;

            double x = a - b; //调试显示实际x=99.999999999999986,不应该是100吗???
            Console.WriteLine(x.ToString());  //显示输出:100.00,输出为什么又成了100???
            if (x == 100)  //比较又相等????
            {
                Console.WriteLine("=100"); 
            }

            x = x - c; //调试显示实际x=-0.000000000000014210854715202004
            Console.WriteLine(x.ToString()); //输出:-1.4210854715202E-14 ,为什么不是0呢????
            Console.Read();
        }

   运算得出的结果与数学理论预期不一致,这是为什么呢?

   虽然说double类型是浮点表示不够精确,但对于只有2位小数的运算式居然也有这样的偏差,实在太过于怪异了。
   在实际应用中可能就会因为一点点误差导致程序运行的错误结果,这是什么原因呢?


   上述程序改成同样vb6.0程序,也会出现相同的怪异的结果。


   但你如果把上述a,b,c改成其他值,其结果可能与数学理论结果是一致的。


   期待高手解答!

--------------------编程问答-------------------- 浮点数误差。

这可能是我这辈子最后回答的一个问题了。

我进去了会想念大家的。 --------------------编程问答-------------------- 板凳~~

浮点数误差问题
计算机不管什么语言都会有这个问题的
杜绝误差是不可能的,只是说尽量减小误差,google一下一大把方法 --------------------编程问答-------------------- 这是在出大一大二的考试题么??? --------------------编程问答-------------------- --------------------编程问答--------------------
补充:.NET技术 ,  C#
CopyRight © 2012 站长网 编程知识问答 www.zzzyk.com All Rights Reserved
部份技术文章来自网络,