同事在排查問題時拿出一段「看起來絕不可能出錯」的 C++ 程式碼,結果卻在 32 位與 64 位 Linux 上跑出兩個不同的答案。
#include <iostream>
using namespace std;
int main()
{
double s = 6.0;
double e = 0.2;
cout << static_cast<int>(s / e) << endl;
return 0;
}
心算一下,6 除以 0.2 等於 30,強轉成 int 之後理應輸出 30。但實測結果是:32 位平台輸出 29,64 位平台輸出 30。
更奇怪的是,只要把除法結果先存進一個區域變數,兩個平台就都變成 30 了:
double d = s / e; cout << static_cast<int>(d) << endl;
同樣的算式、同樣的型別,只是多了一次賦值,行為卻完全不同。要理解這件事,得先從浮點數的本質談起。
計算機無法精確表示所有實數。實數(尤其是無理數)在數軸上是稠密的,而任何有限位元的浮點格式都只能切出一個個離散的格子,這些可表示的點相對整個數軸而言極為稀疏。
因此程式語言只能做到:對於無法精確表示的數,取一個「最接近的浮點數」來近似。這件事大多數人都能接受,例如 √2、π 這類無理數存不進 double。
容易被忽略的是,有些十進制看起來很整齊的有限小數,在二進制裡卻是無限循環的。0.2 就是典型例子:它等於二進制的 0.0011001100…(無限循環)。所以 double 裡的 0.2 其實是一個略微偏離真值的近似值,6.0 / 0.2 的結果也就不可能是精確的 30,而是 29.999999… 或 30.000000…1 這類值。
當一個值無法被目標型別精確表示時,就必須「捨入」。IEEE 754 定義了四種常用捨入方式,其中預設的是捨入到最接近的值(round-to-nearest, ties-to-even)。要注意的是,捨入不只發生在浮點轉整數時,浮點型別之間的轉換同樣適用。
C/C++ 中幾條實用原則:
最後這一條是本案關鍵:29.999… 轉成 int 會得到 29,不是 30。
IA32(x86 32 位)架構的 x87 FPU 內部暫存器是 80 位元的擴展精度,而程式裡只寫得出 32 位的 float 與 64 位的 double。於是發生的事情是:
這讓中間計算更精確,卻也埋下了定時炸彈:如果編譯器把結果留在暫存器裡,就跳過了「降回 double」的這一步。
對照本文的例子:
而 64 位平台預設使用 SSE/SSE2 指令做浮點運算,暫存器就是 64 位,不存在「多餘精度」,因此兩種寫法都輸出 30。
std::round()、std::floor(x + 0.5) 等函數,而不是依賴隱式的截斷。==。這個例子提醒我們:浮點運算的「看起來正確」往往只是巧合,寫入涉及精度的工作時,把假設寫清楚、把捨入行為講明白,才能少踩坑。