浮点数精度

浮点数的计算为 F=(-1^s)×(1.M)×(2^e),所以会出现精度问题

  1. 数值比较不相等,要使用近似比较

  2. 数值计算不确定

  3. 不同设备的计算结果不同


解决办法

  1. 使用整数代替浮点数,例如精度为3的使用×1000的整数

  2. 实现定点数,例如使用两个int,一个为整数部分,一个为小数部分

  3. 使用字符串表示,可以无限的精度,计算消耗大



首页 我的博客
粤ICP备17103704号