关于浮点数计算的测试结果

最新推荐文章于 2025-06-08 09:12:09 发布

原创

最新推荐文章于 2025-06-08 09:12:09 发布 · 692 阅读

收录于

本文通过C#代码测试了float、double和decimal三种浮点数类型将10000个0.1相加的结果。float得到999.9029，double得到1000.00000000016，而decimal得到1000.0。结论指出，浮点数计算总是存在近似误差，选择哪种类型取决于具体需求，如高精度财务计算可能需要使用decimal。

以下代码是用C#语言写的，测试的内容是把10000个0.1相加的结果，理论上结果应该是1000，但实际上呢？
首先是单精度浮点数float，结果是999.9029

 static void Main(string[] args)
        {
            float sum = 0;
            for (int i = 1; i <=10000; i++)
            {
                float add = 0.1f;
                sum += add;
            }
            Console.WriteLine(sum);
            Console.ReadKey();
        }

其次是双精度浮点数double，结果是1000.00000000016（小数点后九个“0”）

static void Main(string[] args)
        {
            double sum = 0;
            for (int i = 1; i <=10000; i++)
            {
                double add = 0.1;
                sum += add;
            }
            Console.WriteLine(sum);
            Console.ReadKey();
        }

最后是浮点数decimal，结果是1000.0（不等于没有误差）

 static void Main(string[] args)
        {
            decimal sum = 0;
            for (int i = 1; i <=10000; i++)
            {
                decimal add = (decimal) 0.1;