首页 » Web前端 » phpfloatval不准确技巧_float精度损失问题

phpfloatval不准确技巧_float精度损失问题

访客 2024-12-18 0

扫一扫用手机浏览

文章目录 [+]

项目中碰着的问题:

有一个float类型的变量,须要不断地+1。
在加到一个八位数的数字后,该变量+1后与实行+1前输出的结果相同。

phpfloatval不准确技巧_float精度损失问题

即整数部分涌现了精度不足。

phpfloatval不准确技巧_float精度损失问题
(图片来自网络侵删)

代码解释:

#include<iostream>

#include<iomanip>

using namespace std;

int main() {

float float_i = 34245780;

float_i++;

cout << fixed << setprecision(0) << float_i << endl;

return 0;

}

输出结果仍是34245780

float存储模型

以32位的float为例,它的存储模型为:

符号位(1位) 指数位(8位) 尾数位(23位)

也可把指数位理解成:小数点方向位(1位)+指数位(7位)

内存中数据与实际表达值的转换

一个浮点数转化为内存中的存储方法如下:

1、决定符号位。
若数为正,符号位取0,反之取1。

2、整数部分和小数部分分别转化为二进制。

3、转化后的二进制拼接在一起。
如整数位二进制为100,小数位为01,则拼接为1001。

4、将拼接后的数字转化为科学计数法,即 1.0001 ∗ 1 0 2 1.000110^21.0001∗102

5、指数位为2。
存储时存实际值+127的值,即指数位为10000001。

6、尾数位表示科学计数法中的底数。
由于科学计数法第一位必为1,故统一省略,尾数位只需表示0001。

7、尾数位后面补0。

8、得到结果0 10000001 0001000000000000000000

对指数位的另一种理解

另一种理解是小数点方向位(1位)+指数位(7位)

如上例中拼接后的100.01,变成 1.0001 ∗ 1 0 2 1.000110^21.0001∗10

2

,小数点左移,对应小数方向位为1。

再如0.001,变成 1 ∗ 1 0 − 3 110^{-3}1∗10−3

,小数点右移,对应小数方向位为0。

在此模型下,指数位为实际数字-1,如上例中的指数位为2,在该模型下对应的指数位为0000001。

其他打算方法不变,故上例中的数字在这种理解下为0 1 0000001 0001000000000000000000。
末了表示出来的结果是一样的,只是理解不同。

float能表示的不丢失精度的最大整数范围

由上述模型可知,float只有24位是表示详细数值的(23位尾数位+1位默认为1而省略掉的科学计数法的头部)。
故当float的范围超出 2 24 2^{24}2

24

时,float类型的++操作将由于精度不足,而在整数位涌现丢失精度的情形。

代码验证如下:

#include<iostream>

#include<iomanip>

using namespace std;

int main() {

float float_i = 1;

int int_j = 1;

while (float_i == int_j) {

float_i++;

int_j++;

}

cout << fixed << setprecision(0) << float_i << endl;

cout << int_j << endl;

cout << float_i + 10 << endl;

for (int i = 0; i < 10; ++i) { ++float_i; }

cout << int_j - float_i << endl;

return 0;

}

输出结果为:

16777216

16777218

16777226

2

剖析:

16777216便是2 24 2^{24}2

24

的值。
当float达到这个值之后,对它进行++操作,内存中记录不下这个操作,故它会一贯勾留在16777216这个值。

第三、四行的输出表示,一次性加10,改变了内存中的数据,显示出来的数会变革。
但分10次++,由于每次++内存中都无法记录下该操作,故10次++后内存中的值没变,还是原来的那个味道。

标签:

相关文章