(45)【基本情報技術者】浮動小数点数の計算誤差

投稿者: | 2023年10月8日

75 views

1. 言葉の定義を忘れてしまうので・・・

コンピュータを使う者の常識として心得てはいるが、言葉の定義を覚えていないことがしばしば。
今回は浮動小数点計算で生じる誤差について、用語をメモしておきたい。

2. 誤差いろいろ

(1) 桁落ち誤差

桁落ちと情報落ちがしばしばこんがらがってしまうので、整理しておく。

桁落ち誤差とは、
浮動小数点演算後の正規化により、意味のない桁が発生してしまうこと。

すなわち、
値の近い二値を減算した結果が小さい時に発生する誤差のこと。

例)有効桁数が3桁の場合
0.234 x 105 – 0.233 x 105 = 0.001 x 105 → 正規化 → 0.100 x 103 ← 00は突如発生した不正確な値

(2) 情報落ち誤差

上述の桁落ち誤差とは逆だ。
情報落ち誤差とは、
値の離れた二値を計算した結果、小さい側の値が無いものとされてしまうこと。

例)有効桁数が3桁の場合
0.234 x 105 + 0.123 x 1010 = 0.23400123 x 105正規化 → 0.234 x 105 ← 足す数が計算結果に反映されない

(3) その他の誤差

・桁あふれ誤差(オーバーフロー):表現可能な最大値を上回った。
・桁あふれ誤差(アンダーフロー):表現可能な最小値を下回った。
・丸め誤差:四捨五入など。
・打切り誤差:割り切れない場合など、計算処理を途中で打ち切る。


コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)