首页 » Web前端 » phpround精度问题技巧_Excel中的浮点运算误差以及规避的办法

phpround精度问题技巧_Excel中的浮点运算误差以及规避的办法

访客 2024-10-24 0

扫一扫用手机浏览

文章目录 [+]

例如:

0.82-0.8=0.02

phpround精度问题技巧_Excel中的浮点运算误差以及规避的办法

但是如果在表面套上函数就会涌现问题:

phpround精度问题技巧_Excel中的浮点运算误差以及规避的办法
(图片来自网络侵删)

=INT((B2-A2)100)

该当得到的结果是2,但是Excel给出的结果却是1,我们通过查看函数打算过程创造,两个小数相减,得到的结果不是0.02,而是0.0199999999999999这样一个值,这便是Excel浮点打算的偏差,我们做了一个大略的测试,创造绝大多数的数值运算函数,都会受这个偏差的影响,导致打算结果涌现缺点。

有趣的是这个影响的数值范围:

各种带8的或者1.2-1.1,又不是所有的差值在0.1的都会显示0.999999999999999,规律很难找出来。

我试了几个这种

1.882-1.8

2.8882-2.88

这样的都会涌现浮点偏差。

涌现偏差怎么办?

微软提示两个办法:

ROUND函数来确定精度:

为了防止这个偏差,嵌套一个ROUND函数来截断数据

Excel选项中规定打算精度:

高等选项卡下面的打算事情簿,勾选打算精度为显示精度。

在保存事情簿时,除两个小数位数之外的所有精度都将丢失。
此选项影响活动事情簿,包括所有事情表。
您无法撤消此选项并规复丢失的数据。
建议您在启用此选项之前保存事情簿。

这是微软的原话,我以为这个偏差多是涌如今绝对值小于0的小数运算,那么很多时候是在打算各种百分比时会涌现偏差,尤其是在绩效核算时的打分打算中,多扣分了同事不高兴,少扣钱了老板不满意。
一定要多加小心,负责验算。

标签:

相关文章

房山第一探寻历史文化名区的魅力与发展

房山区,位于北京市西南部,历史悠久,文化底蕴深厚。作为北京市的一个重要组成部分,房山区的发展始终与首都的发展紧密相连。房山区积极推...

Web前端 2025-02-18 阅读1 评论0

手机话费开钻代码数字时代的便捷生活

我们的生活越来越离不开手机。手机话费作为手机使用过程中的重要组成部分,其充值方式也在不断创新。手机话费开钻代码应运而生,为用户提供...

Web前端 2025-02-18 阅读1 评论0

探寻专业奥秘如何查询自己专业的代码

计算机科学已成为当今社会不可或缺的一部分。掌握一门专业代码对于个人发展具有重要意义。面对繁杂的学科体系,如何查询自己专业的代码成为...

Web前端 2025-02-18 阅读1 评论0