基本介紹
表示誤差
數學表達式 | 精確值 | 近似值 | 誤差 |
---|---|---|---|
1/7 | 0.142857(OEIS中的數列A020806) | 0.142857 | 0.000000142857 |
ln 2 | 0.69314718055994530941... (OEIS中的數列A002162) | 0.693147 | 0.00000018055994530941... |
log102 | 0.30102999566398119521... (OEIS中的數列A007524) | 0.3010 | 0.00002999566398119521... |
∛2 | 1.25992104989487316476... (OEIS中的數列A002580) | 1.25992 | 0.00000104989487316476... |
√2 | 1.41421356237309504880... (OEIS中的數列A002193) | 1.41421 | 0.00000356237309504880... |
2.71828182845904523536... (OEIS中的數列A001113) | 2.718281828459045 | 0.00000000000000023536... | |
3.14159265358979323846... (OEIS中的數列A000796) | 3.141592653589793 | 0.00000000000000023846... |
舉例
- 1990年2月25日,海灣戰爭期間,在沙烏地阿拉伯宰赫蘭的愛國者飛彈防禦系統因浮點數捨入錯誤而失效,該系統的計算機精度僅有24位,存在0.0001%的計時誤差,所以有效時間闕值是20個小時。當系統運行100個小時以後,已經積累了0.3422秒的誤差。這個錯誤導致飛彈系統不斷地自我循環,而不能正確地瞄準目標。結果未能攔截一枚伊拉克飛毛腿飛彈,飛毛腿飛彈在軍營中爆炸,造成28名美國陸軍死亡。
- 1996年6月4日,在亞利安五號運載火箭發射後37秒,偏離預定軌道而炸毀。原因是軟體系統試圖將64位浮點數轉換為16位浮點數,造成溢出錯誤。