float的数值是什么意思?

Question

如题所述

Answer 1

1e-6 -- 科学记数法 浮点 数 10的 负6 次方，即 0.000001
fabs(...)<1e-6 -- 绝对值小于 10的 负6 次方。

判断2个浮点数 是否相等，不等用简单的用 a==b 判断，通常用 fabs(a-b)< eps 判断, 意思是当2数误差小于某 很小的数时，认为它们相等。例如 fabs(a-b)<1e-6.

float 数 有效数字 只有 7 位，一般认为 1e-6 误差就算小了。