探索隐藏在小数运算背后的秘密：揭开 0.1 + 0.2 = 0.30000000000000004 背后的技术玄机

2023-08-09 07:05:04

0.1 + 0.2 = 0.3 吗？计算机中的小数世界

我们日常生活中离不开小数。在计算机的世界里，小数也扮演着至关重要的角色。但令人惊讶的是，0.1 + 0.2 在计算机中竟然不等于 0.3！这是为什么呢？

进制转换：从十进制到二进制

计算机只认识 0 和 1，因此小数在输入计算机之前需要先转换成二进制数。十进制小数点后的数字表示 10 的幂，而二进制小数点后的数字则表示 2 的幂。例如，十进制的 0.1 可以表示为 1/10，而二进制的 0.1 可以表示为 1/2。

把十进制小数转换成二进制小数是一个不断除以 2、取余数的过程。对于 0.1，这个过程会产生一个无限循环小数：

0.1 = 0.0001100110011001100110011... (二进制)

浮点数：计算机的小数表示

计算机无法精确表示无限循环小数，只能采用近似值来代替。因此，浮点数应运而生。浮点数使用科学计数法，将小数表示为尾数和指数的乘积。例如，十进制的 0.1 可以表示为 1.0 × 10^(-1)，二进制的 0.1 可以表示为 1.100110011001100110011 × 2^(-4)。

浮点数虽然解决了舍入误差的问题，但也有自己的缺点。浮点数的尾数是有限的，这意味着它只能表示有限数量的小数。当小数的尾数超过了浮点数的尾数长度时，就会发生舍入误差。

BIGDECIMAL：精确计算的利器

对于需要精确计算的场景，浮点数显然是不够的。计算机科学家们发明了 BIGDECIMAL，一种非科学计数法的十进制数表示法，可以表示任意精度的十进制小数。

BIGDECIMAL 的原理很简单，它就是把十进制小数的每一位数字都存储在一个数组中。例如，十进制的 0.1 可以表示为 [0, 1]，二进制的 0.1 可以表示为 [0, 0, 0, 1, 1, 0, 0, 1, 1, 0, 0, 1, 1, 0, 0, 1, 1, 0, 0, 1, 1, ...]。

BIGDECIMAL 可以解决浮点数的舍入误差问题，但是它也有自己的缺点。BIGDECIMAL 的计算速度比浮点数慢，而且它占用的内存空间也比浮点数大。

0.1 + 0.2 ≠ 0.3 之谜

现在，你知道为什么 0.1 + 0.2 不等于 0.3 了吧。计算机的小数运算会受到进制转化、浮点数和 BIGDECIMAL 等因素的影响。对于 0.1 + 0.2 来说，由于浮点数的舍入误差，导致计算结果为 0.30000000000000004，而不是准确的 0.3。

代码示例

# 使用浮点数计算
a = 0.1
b = 0.2
result = a + b
print(result)  # 输出: 0.30000000000000004

# 使用 BIGDECIMAL 计算
from decimal import Decimal
a = Decimal('0.1')
b = Decimal('0.2')
result = a + b
print(result)  # 输出: 0.3