Swift关于Float、Double的精度问题

原创于 2019-07-17 11:59:16 发布 · 4.8k 阅读

1 ·

本内容遵循CC 4.0 BY-SA版权协议

标签

#Double #Float

ios 同时被 2 个专栏收录

96 篇文章

订阅专栏

swift

68 篇文章

订阅专栏

本文通过具体的Swift代码示例展示了使用Float与Double类型进行减法运算时遇到的精度问题。指出由于二进制浮点数表示上的局限性，直接比较两个浮点数是否相等可能得到意外的结果，并通过对比Float与Double类型的运算结果来说明这一现象。

在计算1.0-0.9的时候打印并不是0.1

Float

let a = Float.init(1.0) - Float.init(0.9)
print(a)
let b = Float.init(0.9) - Float.init(0.8)
print(b)
if(a == b){
    print("true")
}
else{
   print("false")
}

打印：

0.100000024
0.099999964
false

Double

注：1.0 带小数点再不写是哪种类型的情况下默认是Double

print("\(1.0 - 0.9)");

print("\(0.9 - 0.8)");
if((1.0 - 0.9) == (0.9 - 0.8)){
    print("true")
}
else{
    print("false")
}

或者

let c = Double.init(1.0) - Double.init(0.9)
print(c)
let d = Double.init(0.9) - Double.init(0.8)
print(d)
if(c == d){
    print("true")
}
else{
    print("false")
}

打印是一致

0.09999999999999998
0.09999999999999998
true