128 views

1. 言葉の定義を忘れてしまうので・・・

コンピュータを使う者の常識として心得てはいるが、言葉の定義を覚えていないことがしばしば。
今回は浮動小数点計算で生じる誤差について、用語をメモしておきたい。

2. 誤差いろいろ

(1) 桁落ち誤差

桁落ちと情報落ちがしばしばこんがらがってしまうので、整理しておく。

桁落ち誤差とは、
浮動小数点演算後の正規化により、意味のない桁が発生してしまうこと。

すなわち、
値の近い二値を減算した結果が小さい時に発生する誤差のこと。

例）有効桁数が3桁の場合
0.234 x 10⁵ – 0.233 x 10⁵ = 0.001 x 10⁵　→ 正規化 → 0.100 x 10³ ← 00は突如発生した不正確な値

(2) 情報落ち誤差

上述の桁落ち誤差とは逆だ。
情報落ち誤差とは、
値の離れた二値を計算した結果、小さい側の値が無いものとされてしまうこと。

例）有効桁数が3桁の場合
0.234 x 10⁵ + 0.123 x 10¹⁰ = 0.23400123 x 10⁵ → 正規化 → 0.234 x 10⁵ ← 足す数が計算結果に反映されない

(3) その他の誤差

・桁あふれ誤差（オーバーフロー）：表現可能な最大値を上回った。
・桁あふれ誤差（アンダーフロー）：表現可能な最小値を下回った。
・丸め誤差：四捨五入など。
・打切り誤差：割り切れない場合など、計算処理を途中で打ち切る。