请看以下Go代码,会返回 0.7
吗?
var num float32 for i := 0; i < 7; i++{ num = num + 0.1 } fmt.Println(num)
答案可能出人意料,是:0.70000005
0.70000005
也许有人会问,是不是Go语言的问题?换其他语言试试?
OK,我们换JS试试。
答案依然令人意外。
除此之外,你还可以试试C、C++、Java、PHP等其他语言的float类型相加,看得到的数据是否精确;
还有,除了语言之外,你还可以在MySQL等数据库中试试float类型数据的字段叠加,得到的数据是否精确。
我可以先告诉你答案:只要是float类型的数据相加,无论在任何语言、任何数据库、任何中间件中进行加法(减法乘除法)运算,得到的数据,都不会精确。
这是浮点类型的精度丢失现象。(Loss of significance)
要了解产生这个现象的原因,就要先了解计算机是如何定义和表示float类型的。
不同于正整数类型的表示方法,float类型在计算机中的表示略显复杂,遵循的是<