實數化約成浮點數的規則

書上寫的化約規則是簡化的情況，對大部分讀者， 那樣的了解應該足夠解釋一般計算所遇到的狀況。 有興趣知道更多細節的讀者，可以看看這一篇擴編教材。

書本中描述的四種精度之浮點數，其實都是 IEEE (Institute of Electrical and Electronics Engineers， 美國的電機與電子工程師協會) 建議的標準規格， 那份建議文件稱為 IEEE 754-1985。 其中單精度與雙精度浮點數標準已經頗為廣泛， 內建在大多數個人電腦或工作站的 CPU 裡面。 我們可以說，現在讀者會用到的電腦，都支援這兩種精度的浮點數。 但是兩種超精度浮點數就不一定了。 Intel 的 Pentium 系列 CPU 支援 80-bit 的超精度浮點數 F₁₀， 而 Sun 的 64 位元 Ultra-Sparc CPU，以及 HP, DEC (已經被 HP 併購) 和 IBM 的 64 位元 CPU，都支援 128-bit 的超精度浮點數 F₁₆。

在書本中，只詳細說明了雙精度浮點數 F₈ 的規格標準， 並沒有詳細介紹其他三種 IEEE 浮點數標準； 但是，書中列出來其他三種標準的規格數據，主要就是

• 底數的位元個數，即 m 參數
• 指數的位元個數，即 p 參數

• 最大正浮點數
• 最小正規正浮點數
• 最小正浮點數
• 機器精度

這裡要補充書本中沒有詳細說明的兩個細節。

Inf 和 NaN

浮點數的除法計算，當分子不是 0 而分母是 0 (有可能因為遜位而變成 0)，則得到 Inf 結果。 而 Inf 的正負號，則由分子、分母的符號決定 (如果是由於遜位造成的 0，可能是 +0 或 -0)。 而浮點數的加、減、乘法計算，都可能造成溢位而產生 +Inf 或 -Inf。

微積分教科書裡面，通常會列出來一些極限問題的「不定型式」 (indeterminate forms)，也就是可以應用「羅必達法則」的型式。 凡是遇上這種不定型式的計算，就會出現 NaN。包括

• 0/0
• Inf/Inf
• 0 * Inf
• Inf - Inf

化約規則

3.141592653589793238462643

如果是遜位或溢位，則如書本上所寫。 如果不會遜位也不會溢位，則有兩種情況：

1. x 本身恰好就是浮點數，那當然就令 fl(x) = x
2. 否則 x 必然落在兩個相鄰的浮點數之間，假設

   L < x < R

   而 L, R 是兩個相鄰的浮點數 (也就是說 L < R 而 L 和 R 之間沒有其他浮點數)

• 捨去 (chop)
  無條件捨去多出來的底數位元。 其數學效果就是
  • 若 x > 0，取 fl(x) = L
  • 若 x < 0，取 fl(x) = R
  因此這種方法又稱為 round to 0。這就是書上寫的方法。
• 進位 (up)
  不論 x 是正是負，都選擇 fl(x) = R。 又稱為 round to infinity。
• 退位 (down)
  不論 x 是正是負，都選擇 fl(x) = L。 又稱為 round to negative infinity。
• 近數 (nearest)
  選擇比較靠近 x 的浮點數。詳細規則如下：
  • 如果 x < (L+R)/2，則取 fl(x) = L
  • 如果 x > (L+R)/2，則取 fl(x) = R
  • 如果 x = (L+R)/2，則取 L 或 R 的底數部份最後一個位元是 0 的那個 (因為 L 和 R 相鄰，所以 L 和 R 的最後一個底數位元， 必定一個是 1 另一個是 0)

依照 CPU 的「化約」方式之不同，會影響 x 和 fl(x) 之『相對誤差』，而所謂『機器精度』的值也會有所改變。

• 如果「化約」方式是捨去、進位或退位，則

  相對誤差 < 2^-m

• 如果「化約」方式是取近數，則

  相對誤差 <= 2^-m/2 = 2^-m-1

• 如果「化約」方式是捨去、退位或取近數，則

  機器精度 = 2^-m

• 如果「化約」方式是進位，則

  機器精度 <= 2^-m 而實際情況就要寫程式去測試

課外讀物：
[1] IEEE 754-1985 修訂工作小組網頁 http://grouper.ieee.org/groups/754
[2] Sun (昇陽) 公司 Sparc 硬體說明手冊，第二章 "IEEE Arithmetic" http://docs.sun.com/source/806-3568/ncg_math.html