计算精度如何衡量

浮点运算错误 IEEE 754 双精度浮点数精确到 15-17 位。

浮点数的有效数字和误差范围是计算精度的衡量标准。
例如，双精度浮点数的精度为 15 至 17 位有效数字，误差范围为 ±10^-15 至 ±10^-16。
这是一个陷阱，不要使用浮点数来精确计算。