DIV CSS 佈局教程網

JavaScript 浮點運算精度問題的成因與處理
編輯:關於JavaScript     

有人問了這樣一個問題:

var i = 0.07;
var r = i * 100;
alert(r);

為什麼結果是 7.0000000000000001?

成因

關鍵在於 JavaScript 中變數並不區分整數與浮點數,數值一律以浮點格式儲存。JavaScript 使用 IEEE 754 標準定義的 64 位元浮點格式(double precision)來存放所有數字。

而 0.07 這個小數無法用二進位浮點數精確表示——就像十進位無法精確表示 1/3 一樣。它會被近似成一個最接近的二進位值,而這個近似值乘以 100 之後,誤差就顯露在尾數上,於是印出了 7.0000000000000001。

這不是 bug,而是所有遵循 IEEE 754 的語言(Java、C#、Python、Ruby……)共有的行為。

同理,1 / 3 的結果是 0.3333333333333333,也是同一個原因。

怎麼處理

方法一,用 parseInt 直接取整數部分:

var r4 = parseInt(i * 100);  // 7

方法二,用 Math.round 指定精度後再除回來:

var r2 = Math.round((i * 100) * 1000) / 1000;  // 7

兩種都能得到 7。第二種保留了小數位,適用性更廣。

完整測試程式碼

<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init() {
  var i = 0.07;
  var r  = i * 100;
  var r2 = Math.round((i * 100) * 1000) / 1000;
  var r3 = eval(i * 100);
  var r4 = parseInt(i * 100);
  var r5 = parseFloat(i * 100 * 1.0000);
  var r6 = (1 / 3);
  alert(r);
  alert("Math.round=" + r2);
  alert("eval=" + r3);
  alert("parseInt=" + r4);
  alert("parseFloat=" + r5);
  alert("" + r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>

更嚴謹的做法

上面兩種方法各有局限。parseInt 直接丟掉小數,Math.round 需要自己算倍率。實務上有幾個更好的選擇:

一、用 toFixed 再轉回數字。注意 toFixed 回傳的是字串,若要做後續運算必須轉回:

var result = Number((i * 100).toFixed(2));  // 7

二、把數字放大成整數再運算。金流相關計算最常用這招——以「分」為單位而非「元」,全程整數運算,最後顯示時再除 100。

三、用專門的十進位庫。涉及金錢、會計、科學計算時,直接用 decimal.js 或 big.js,它們以十進位方式儲存數值,從根本上避開二進位誤差:

new Decimal(0.07).times(100).toNumber();  // 7

四、比較時用容許誤差。浮點數不該用 === 直接比較:

function nearlyEqual(a, b, epsilon) {
  return Math.abs(a - b) < (epsilon || Number.EPSILON);
}
nearlyEqual(0.1 + 0.2, 0.3);  // true

0.1 + 0.2 === 0.3 為 false 是同一個問題最經典的例證。理解「浮點數是近似值」這個前提,比記住任何一個 workaround 都重要。

XML學習教程| jQuery入門知識| AJAX入門| Dreamweaver教程| Fireworks入門知識| SEO技巧| SEO優化集錦|
Copyright © DIV+CSS佈局教程網 All Rights Reserved