一次告别浮点数运算精度丢失和toFixed四舍五入烦恼！

2022-11-03 20:22:25

浮点数的隐患：精度丢失与四舍五入误差

浮点数广泛应用于计算机中，承载着我们的数字世界。然而，浮点数却潜藏着两个鲜为人知的陷阱：精度丢失和四舍五入误差。这些陷阱犹如隐藏在暗处的礁石，悄无声息地影响着我们的计算结果，让我们在不经意间偏离了准确的航向。

1. 浮点数的精度陷阱

计算机采用二进制存储方式，在将十进制数转换为二进制数时，可能会遭遇无限循环小数的难题。为了解决这一问题，计算机只能截断小数部分，只保留有限位数。这种取舍虽避免了死循环，却付出了精度受损的代价。

举个例子，我们知道 0.1 + 0.2 等于 0.3。然而，在计算机的世界里，0.1 实际被存储为 0.10000000149011612，而 0.2 被存储为 0.20000000298023224。当我们进行加法运算时，结果为 0.30000000447034835，与我们预期的 0.3 存在细微差距。

2. toFixed() 的四舍五入误差

toFixed() 方法是我们用来格式化数字的得力助手，它可以保留指定位数的小数。然而，toFixed() 也并非完美无缺，它同样会受精度丢失的影响，导致四舍五入的误差。

toFixed() 的四舍五入规则如下：

当小数部分最后一位数字为 5，且其余数字均为 0 时，进行四舍五入。
当小数部分最后一位数字不为 5 时，直接舍去其余数字。

例如，toFixed(2) 格式化 0.1 + 0.2 的结果时，会将 0.30000000447034835 四舍五入为 0.30。虽然它符合四舍五入的规则，但与我们预期中的 0.3 仍有出入。

3. 一劳永逸的解决方案：BigDecimal.js

面对浮点数的精度陷阱和 toFixed() 的四舍五入误差，我们急需一个一劳永逸的解决方案。BigDecimal.js 库闪亮登场，它提供了一种精确可靠的浮点数运算方法。

BigDecimal.js 使用更高级的算法来表示数字，避免了精度丢失的困扰。它提供了丰富的 API，支持各种浮点数运算，包括加、减、乘、除、开方等。BigDecimal.js 还支持可控的四舍五入操作，我们可以指定四舍五入的位数，从而得到准确的四舍五入结果。

4. 使用示例

为了感受 BigDecimal.js 的魅力，让我们使用它来解决前面的加法难题：

const BigDecimal = require('bigdecimal.js');

// 创建 BigDecimal 对象
const a = new BigDecimal('0.1');
const b = new BigDecimal('0.2');

// 进行加法运算
const sum = a.add(b);

// 四舍五入为两位小数
const result = sum.toNumber().toFixed(2);

console.log(result); // "0.30"